AI コストを削減する方法: 決定が必要な場合のみモデルに支払う — ツール
これは翻訳です。正式版は英語の原文です。引用の際は原文をご参照ください。
Decidecall は、企業が何度も繰り返す小さな決定 (このメッセージはどのチームに行くか、承認するか返すか、緊急か否か) をとり、確実な最も安い方法で各決定に回答します。以前与えられた回答が最初に来て、次に簡単なルール、その後自分のコンピュータで実行するモデル、残されたものだけが有料モデルに行き、どのモデルも確実でないものは人間に行きます。人間の回答が記憶されるため、同じ質問は 2 回コストがかかることはありません。
Decidecall は、Anthropic の AI アシスタントである Claude Code 用の無料のオープンソース プラグインです。コンピュータ上のファイルで動作します。アカウント、カード、または独自の API キー (プログラムが AI を呼び出すために使用するアクセス コード) は必要ありません。有料モデルには、会社がすでにインストールしてサインインしているプログラムを通じてアクセスされます。
ほとんどの決定にはモデルが必要ない理由
AIで始める多くのチームは、すべてのメッセージをモデルに送信します。それは機能し、何度も同じ答えを得ることができます。「請求書はどこですか？」は毎日サポート受信トレイに届き、「請求書」という言葉だけで請求部門に行くべきことが分かります。Tian Panは説明しており、あるチームが数ヶ月間サポートチケットをルーティングするためにモデルを実行していたところ、チケットの70%が件名に製品名を含んでおり、単純なルックアップテーブルで99%の精度でルーティングできたことに気づいたと述べています。
研究者たちは同じ考えを大規模で測定しています。StanfordのFrugalGPTは安価なモデルを最初に試し、答えが弱いときだけアップグレードします。最高の単一モデルに「最大98%のコスト削減」で一致しました。LMSYSのRouteLLMは、各質問に対して強いまたは弱いモデルを選択し、1つのベンチマークでコストを85%以上削減しながらGPT-4の品質の95%を維持しました。
チェーンの仕組み
すべての判断は同じ6つのリンクを通り、最初に十分な確実性を持つリンクで停止します：
- キャッシュ：既に与えられた回答。大文字小文字、スペース、句読点が異なっていても、完全一致が見つかります。コンピュータ上の小さな埋め込みモデル（Ollamaの
nomic-embed-textなど）を使用すれば、別の表現で質問された場合も見つかります：「なぜ私のカードが2回請求されたのか？」は「今月2回請求されました」という答えを見つけます。 - ルール：答えを決める言葉で、1度だけ書かれたもの：「請求書」、「返金」または「請求された」は請求を意味します。2つのルールが異なる答えを指す場合、推測するのではなく沈黙を保ちます。
- ローカルモデル：コンピュータ上で実行されるモデルで、すべての判断に対して無料です。
- 安く強力なクラウドモデル：有料モデルで、最初に許可された最も安いモデルです。
- 人間：判断の所有者で、これまでの最良の推測を示されます。
各リンクは判断と信頼度を答えます。0から1の数値です。0.95以上の場合、その答えが採用されます。それ以下の場合は、次のリンクが問われ、2つの異なるソースが一致し（かつ少なくとも1つが0.70以上の確実性を持つ場合）、それで決まります。同じファミリーのモデルを実行している2つのリンクは互いに確認することはなく、キャッシュでの意味による一致は、別のリンクが確認する必要があるというだけの提案です。何も確実でない場合は、人間が判断し、その答えはキャッシュに入ります。どちらのしきい値も変更できます。
判断の一種は1つの小さいファイルです：質問、考えられる答え、それを決める言葉、およびリンクがどの程度確実である必要があるか。同じ形式はサポートメッセージの分類、経費請求の「承認または送り返す」、または受信メールの「緊急かそうでないか」に機能します。
実例：65件のサポートメッセージ
このリポジトリには、4つのチーム（請求、技術、アカウント、営業）向けのサポートインボックスが含まれており、実際のサポートで発生するような繰り返しを含む65件のカスタマーメッセージが含まれています。2026年10月2日に、このチェーンは2回測定されました（完全な結果）：
| チェーン | 人間が関わらずに決定 | 正解 | 人間に送信 | 65件の決定のコスト |
|---|---|---|---|---|
| キャッシュ + ルール | 36 | 36 of 36 | 29 | $0 |
| キャッシュ + ルール + Claude Haiku 4.5 | 59 | 57 of 59 (96.6%) | 6 | 定価で$0.167 |
モデルを使わなかった場合、インボックスの半分以上が無料で誤りなくソートされました（2026年10月10日に同じ結果で再実行）。Anthropicの小型で高速なモデルであるClaude Haiku 4.5を追加すると、6件のメッセージが人間に送られました。
レポートは機能しなかったことについても同様に明確です。Haikuは98%の確信を持ちながら2回誤判断しました。「5分ごとにログアウトされる」というメッセージは、アカウントではなく技術に送られ、その繰り返しも同様でした。これがまさに、チェーンがモデルの繰り返された答えを信頼する前に、異なる2番目のソースに問い合わせる理由です。65の例は最初の一読です。このツールは、自分の過去の決定の数百件に対して同じ測定を実行できるように構築されています。
何ができるか
- 判定：1つの質問に対して、その回答、どのリンクがそれを選択したか、確信度、コストを判定します。
- ラベル付け：ユーザーの回答がキャッシュに保存されるため、次回は無料になります。
- 昇格：モデルが同じ方法で繰り返し行った判定が、異なる2つのモデルファミリーによって確認されて、ユーザーが同意すればキャッシュエントリになります。また、常に1つの回答のみと組み合わされた単語は、新しいルールとして提案されます。
- ベンチマーク：ユーザーが過去にラベル付けした判定をチェーンを通して実行し、何件がユーザーなしで判定されたか、何件が正しかったか、信頼度の数値がどれだけ正直だったか、1つのモデルにすべてを送信するのに対して1つの判定のコストを表示します。
- 候補：リンクの背後に位置できる14のプログラムおよびサービス。それぞれのライセンスおよびソースページを含みます。
決定モデルは直接プラグインできます
まさにこの仕事のために、新しい種類のモデルが登場しました。2026年9月に発表されたTypeSafeのJevはテキストを生成せず、状況と選択肢付きの質問を受け取り、選択されたオプションと確率を返します。入力トークン100万個あたり$0.042です（DataCamp）。同じ種類のオープンモデルは自分のコンピュータで実行できます：Strands Deciderは、その作成者によれば「信頼度0.9以上の回答は約95%の確率で正しい」とのこと。また、Ollama 0.35以降、決定モデルはOllamaで提供されています。Ollamaはモデルをローカルで実行するための無料ツールです。Decidecallはこのインターフェースに直接対応し、通常のローカルモデル（Ollama、llama.cpp、vLLM、LM Studio）およびすでに持っているClaude Codeを通じたClaudeにも対応しています。benchは自分のデータで各モデルがもたらす効果を示します。
データとお金のあなたのルール
Decidecallは、他のcompany pluginと同じcompany policy fileを読み込みます：
- 機密データはコンピュータに留まります。 decisionを赤でマークすると、キャッシュ、ルール、ローカルモデルにのみ送信されます。Decidecallはテキストのfingerprintを保持し、テキスト自体は決して保持しません。
- 許可したvendorのみ、またはresponse後に何も保持しないvendorのみ。
- 日次予算：それを超えるpaid linkはスキップされ、free linkは動作し続けます。
- Keysはkeychainに留まります、ファイルには決して留まりません。
Pythonのみが必要な単一のPython fileであり、独自のnetwork connectionを開かないため、インターネットから切断されたコンピュータでも実行されます。
始め方
Claude Codeで、Poly A1カタログを追加し、Decidecallをインストールしてください（gitやGitHubアカウントは不要です）：
/plugin marketplace add https://raw.githubusercontent.com/vadimchernets/poly-a1-plugins/main/.claude-plugin/marketplace.json
/plugin install decidecall@poly-a1次に、決定してもらいたいことを自分の言葉で述べてください。「サポートメッセージをチームごとに分類する」や「Strands Deciderは私たちにとって価値があるか」というように。Claudeは質問を1つずつ（何を決定するのか、考えられる答え、どの言葉が答えを確実にするのか、どの程度の確実性が必要か）尋ねながら、タスクファイルをあなたと一緒に作成します。その後、何かお金を払う前に、過去の決定に対してbenchを実行します。Decidecallはpython 3.8以降が必要で、Mac、LinuxおよびWindowsで動作します。
コード、サンプルインボックスおよび測定値：github.com/vadimchernets/decidecall。
それがどのように適合するか
DecidecallはPoly A1プラグインカタログの企業向けプラグインの1つです。強力なモデルが計画を立てて安価なモデルが大量処理を行うRoutecallと組み合わせて使用され、AIが企業にもたらすコストを計算するBillcallと組み合わせて使用されます。共有ポリシーファイルを書き込むFirmcallもあります。DecidecallはVadym Chernetsによって書かれ、Apache-2.0ライセンスの下でリリースされ、Zenodoにアーカイブされています（DOI 10.5281/zenodo.23116720）。
Vadym Chernetsはまた、異なる企業のAIが相互に仕事をチェックするアプリであるPoly A1を構築しています。