如何降低AI成本：仅为需要模型的决策付费
这是译文。权威版本是英文原文，引用请以原文为准。
Decidecall 处理公司反复做出的小决定（这条消息应该发给哪个团队、是否批准或退回、是否紧急），并用足够可靠的最便宜方式回答每一个。优先使用之前给出的答案，然后是简单规则，然后是在自己计算机上运行的模型；剩余的才发送到付费模型，而模型无法确定的则交给人工处理。人工的答案被保存，因此同一问题永不被问及两次。
Decidecall 是 Claude Code（Anthropic 的 AI 助手，可与计算机上的文件协同工作）的免费开源插件。它不需要账户、银行卡或自己的 API 密钥（程序用来调用 AI 的访问码）：付费模型是通过公司已安装和登录的程序来访问的。
为什么大多数决策不需要模型
许多初涉人工智能的团队将每条消息都发送给模型。这种方法有效，但代价是重复为同样的答案付费："where is my invoice?"每天都会进入支持收件箱，而"invoice"这个词本身就表明应该转到账单部门。Tian Pan描述了一个团队在花费数个月运行模型来路由支持工单后才注意到，70%的工单在主题行中提到了产品名称，而简单的查找表本可以以99%的准确率进行路由。
研究人员已在大规模上验证了这一想法。Stanford的FrugalGPT首先调用一个廉价模型，只有当答案看起来较弱时才升级；在"成本降低高达98%"的情况下，其性能与最佳单一模型相当。LMSYS的RouteLLM针对每个问题选择强或弱模型，在某个基准测试上将成本降低85%以上，同时保持GPT-4的95%质量。
链的工作原理
每个决策遍历相同的六个链接，并在第一个足够确定的链接处停止：
- 缓存：已经给出的答案。即使大小写、空格和标点符号不同，也能找到完全重复的问题。使用您计算机上的小型嵌入模型（例如 Ollama 中的
nomic-embed-text），用其他方式提出的问题也能找到："我的卡为什么被收费两次？"会找到"这个月我被收费了两次"的答案。 - 规则：确定答案的词语，写一次："发票"、"退款"或"收费"表示计费。当两个规则指向不同的答案时，它们保持沉默而不是猜测。
- 本地模型：在您自己的计算机上运行的模型，对每个决策免费。
- 廉价且功能强大的云模型：付费模型，首先使用允许的最便宜的模型。
- 人工：拥有决策权的任何人，显示迄今为止最好的猜测。
每个链接给出一个决策和一个信心分数（0 到 1 之间的数值）。0.95 或更高时，答案被采纳。低于此，询问下一个链接，当两个不同的来源达成一致时（且至少其中一个的确定性达到 0.70 或更高），问题就解决了。运行相同系列模型的两个链接永远不会相互确认，缓存中的语义匹配只是另一个链接必须确认的建议。当没有确定答案时，人工做出决策，他们的答案进入缓存。这两个阈值都可以由您调整。
一种决策是一个小文件：问题、可能的答案、解决问题的词语以及链接所需的确定性水平。相同的格式可用于分类支持消息、对费用报销单的"批准或退回"或对传入邮件的"紧急或不紧急"。
一个具体例子：65条支持消息
该仓库包含一个支持收件箱，用于四个团队（计费、技术、账户和销售）：共65条客户消息，其中包含与真实支持中出现的重复消息。2026年10月2日时，在该收件箱上进行了两次评测（完整结果）：
| 链 | 无需人工决定 | 准确 | 转至人工 | 65项决定的成本 |
|---|---|---|---|---|
| cache + rules | 36 | 36 of 36 | 29 | $0 |
| cache + rules + Claude Haiku 4.5 | 59 | 57 of 59 (96.6%) | 6 | $0.167（按标价） |
在完全不使用模型的情况下，收件箱中超过一半的消息被无误地免费分类（2026年10月10日重新运行，结果相同）。加入Claude Haiku 4.5（Anthropic的小型快速模型）后，仅有六条消息需要转交给人工处理。
该报告对出错的地方也同样坦诚。Haiku虽然有98%的把握，但有两次出错："我每五分钟就被登出了"被分类到技术而非账户，其重复消息也是如此。这正是为什么该链在信任模型的重复答案之前要求第二个不同的来源。六十五个例子仅是初步阅读：该工具的设计使您能够在自己数百条过往决定上运行相同的评测。
它的功能
- 判断：一个问题的答案、来源链接、确定程度及成本。
- 标记：一个人的答案进入缓存，因此下次是免费的。
- 提升：模型持续以相同方式做出的决策，经两个不同的模型族确认后，一旦您同意就成为缓存条目；只与单一答案相关的词语被作为新规则提供。
- 基准：您标记的过去决策通过链运行，显示有多少在没有人参与下做出、有多少是正确的、置信度数字的诚实程度如何，以及单个决策的成本与将所有内容发送给一个模型的成本对比。
- 候选项：14个可以作为链接后端的程序和服务，每个都带有其许可证和源页面。
决策模型即插即用
一种新的模型应运而生，正是为了这项工作。TypeSafe 的 Jev 于 2026 年 9 月发布，不生成任何文本：它接收一个情景和一个带有选项的问题，返回所选选项及其概率，成本为每百万输入令牌 $0.042（DataCamp）。同类的开源模型可在你自己的计算机上运行：Strands Decider，其作者报告称其"置信度为 0.9 或以上的答案约 95% 是正确的"，以及自 Ollama 0.35 版本起，由 Ollama 提供的决策模型——这是一个在本地运行模型的免费工具。Decidecall 直接支持这个界面，以及普通的本地模型（Ollama、llama.cpp、vLLM、LM Studio）和通过你已有的 Claude Code 的 Claude；bench 在你自己的数据上展示每个模型的增益。
关于数据和资金的规则
Decidecall 读取与其他公司插件相同的公司政策文件：
- 敏感数据保留在计算机上。 将决策标记为红色，它仅发送到缓存、规则和本地模型；Decidecall 保留文本的指纹，从不保留文本本身。
- 仅限你允许的供应商，或仅限那些在回答后不保留任何内容的供应商。
- 日常预算：会超过日常预算的付费链接被跳过，而免费链接继续工作。
- 密钥保留在钥匙链中，从不保存在文件中。
它是一个单个 Python 文件，仅需 Python，不会自行打开网络连接，因此即使在与互联网断开连接的计算机上也能运行。
如何开始
在 Claude Code 中添加 Poly A1 目录库并安装 Decidecall（无需 git 和 GitHub 账户）：
/plugin marketplace add https://raw.githubusercontent.com/vadimchernets/poly-a1-plugins/main/.claude-plugin/marketplace.json
/plugin install decidecall@poly-a1然后用你自己的话说出你想做出什么决定："按团队整理我们的支持消息"，或者"Strands Decider 对我们来说值得吗"。Claude 依次提出问题（决定什么内容、可能的答案、哪些词使答案确定、需要的确定程度），并与你一起编写任务文件。然后在任何费用产生前，它对你过去的决定运行 bench。Decidecall 需要 Python 3.8 或更新版本，可在 Mac、Linux 和 Windows 上运行。
代码、示例收件箱和测量数据：github.com/vadimchernets/decidecall。
它的位置
Decidecall是Poly A1 plugins目录中的公司插件之一。它与Routecall配对（其中强大的模型进行规划，成本较低的模型处理大量工作），以及与Billcall配对（它计算AI对公司的成本）；Firmcall编写共享策略文件。Decidecall由Vadym Chernets编写，根据Apache-2.0许可证发布，并存档在Zenodo（DOI 10.5281/zenodo.23116720）。
Vadym Chernets还开发Poly A1，一个来自不同公司的AI相互检查彼此工作的应用。