उपकरण

AI लागत को कैसे कम करें: केवल उन निर्णयों के लिए मॉडल को भुगतान करें जिन्हें एक की आवश्यकता है — टूल्स

यह एक अनुवाद है। प्रामाणिक संस्करण मूल अंग्रेज़ी पाठ है; कृपया उसी का हवाला दें।

Vadym Chernets · खुला स्रोत · 6 मिनट पढ़ना

Decidecall छोटे निर्णय लेता है जो एक कंपनी बार-बार करती है (यह संदेश कौन सी टीम को मिलता है, अनुमोदन दें या वापस भेजें, तत्काल या नहीं) और प्रत्येक को सबसे सस्ती चीज़ के साथ उत्तर देता है जो काफ़ी निश्चित है। पहले एक दिया गया उत्तर आता है, फिर एक सरल नियम, फिर एक मॉडल जो आपके अपने कंप्यूटर पर चलता है; केवल जो बचा है वह एक भुगतान किए गए मॉडल में जाता है, और जो कोई मॉडल निश्चित नहीं है वह एक व्यक्ति के पास जाता है। व्यक्ति का उत्तर याद रखा जाता है, इसलिए एक ही प्रश्न कभी दोबारा खर्च नहीं करता।

Decidecall एक मुफ़्त, खुला स्रोत प्लगइन है Claude Code के लिए, Anthropic का AI सहायक जो आपके कंप्यूटर पर फ़ाइलों के साथ काम करता है। इसे किसी खाते, कार्ड या अपनी स्वयं की API कुंजी (एक्सेस कोड जो प्रोग्राम AI को कॉल करने के लिए उपयोग करते हैं) की आवश्यकता नहीं है: एक भुगतान किए गए मॉडल तक एक प्रोग्राम के माध्यम से पहुंचा जाता है जो आपकी कंपनी पहले से ही स्थापित और हस्ताक्षरित है।

अधिकांश निर्णयों को मॉडल की आवश्यकता क्यों नहीं है

कई टीमें जो AI के साथ शुरुआत करती हैं, हर संदेश को एक मॉडल को भेजती हैं। यह काम करता है, और यह एक ही उत्तर के लिए बार-बार भुगतान करता है: "मेरा चालान कहाँ है?" हर दिन एक सहायता इनबॉक्स में आता है, और शब्द "चालान" पहले से ही कहता है कि यह बिलिंग के लिए जाता है। Tian Pan वर्णित करते हैं कि एक टीम ने महीनों तक सहायता टिकट को रूट करने के लिए एक मॉडल चलाया था इससे पहले कि वह देखता कि 70% टिकटों के विषय पंक्ति में एक उत्पाद का नाम दिया गया था, जिसे एक साधारण लुकअप तालिका 99% सटीकता के साथ रूट कर सकती थी।

शोधकर्ताओं ने पैमाने पर एक ही विचार को मापा है। Stanford के FrugalGPT ने पहले एक सस्ते मॉडल से पूछा और केवल तब आगे बढ़ा जब उत्तर कमजोर लग रहा हो; यह सर्वश्रेष्ठ एकल मॉडल से "98% तक की लागत में कमी के साथ" मेल खाता है। LMSYS के RouteLLM, जो प्रत्येक प्रश्न के लिए एक मजबूत या कमजोर मॉडल चुनता है, ने एक बेंचमार्क पर 85% से अधिक लागत में कटौती की जबकि GPT-4 की 95% गुणवत्ता को बनाए रखा।

चेन कैसे काम करती है

हर निर्णय एक ही छह कड़ियों से गुजरता है और पहली कड़ी पर रुकता है जो काफी निश्चित हो:

• कैश: पहले से दिए गए उत्तर। एक सटीक दोहराव तब भी पाया जाता है जब अलग-अलग बड़े अक्षर, रिक्त स्थान और विराम चिन्ह हों। आपके कंप्यूटर पर एक छोटे एम्बेडिंग मॉडल के साथ (जैसे Ollama में nomic-embed-text), अन्य शब्दों में पूछा गया कोई भी सवाल मिल जाता है: "मेरे कार्ड को दो बार क्यों बिल किया गया?" का उत्तर "इस महीने मुझसे दो बार शुल्क लिया गया" में मिल जाता है।
• नियम: ऐसे शब्द जो उत्तर को निर्धारित करते हैं, एक बार लिखे जाते हैं: "invoice", "refund" या "charged" का अर्थ बिलिंग है। जब दो नियम विभिन्न उत्तरों की ओर इशारा करते हैं, तो वे अनुमान लगाने के बजाय चुप रहते हैं।
• स्थानीय मॉडल: आपके अपने कंप्यूटर पर चलने वाला एक मॉडल, हर निर्णय के लिए मुफ़्त।
• सस्ते और मजबूत क्लाउड मॉडल: भुगतान किए गए मॉडल, पहले सबसे सस्ता अनुमत।
• एक व्यक्ति: जो भी निर्णय का मालिक है, अब तक का सबसे अच्छा अनुमान दिखाया गया है।

हर कड़ी एक निर्णय और एक आत्मविश्वास के साथ जवाब देती है, 0 से 1 तक की एक संख्या। 0.95 या उससे अधिक पर, उत्तर ले लिया जाता है। इससे कम, अगली कड़ी से पूछा जाता है, और जब दो अलग-अलग स्रोत सहमत होते हैं (और उनमें से कम से कम एक 0.70 या उससे अधिक निश्चित है), तो यह तय हो जाता है। मॉडल के एक ही परिवार की दो कड़ियां एक-दूसरे की पुष्टि कभी नहीं करती हैं, और कैश में अर्थ के आधार पर एक मेल केवल एक सुझाव होता है जिसे किसी अन्य कड़ी को पुष्टि करनी होती है। जब कुछ भी निश्चित न हो, तो एक व्यक्ति निर्णय लेता है, और उनका उत्तर कैश में चला जाता है। दोनों थ्रेशहोल्ड आपके बदलने के लिए हैं।

एक प्रकार का निर्णय एक छोटी फाइल है: प्रश्न, संभावित उत्तर, जो शब्द इसे तय करते हैं और एक कड़ी को कितना निश्चित होना चाहिए। यही प्रारूप सहायता संदेशों को छांटने, व्यय दावों पर "मंजूरी दें या वापस भेजें" या आने वाली मेल पर "तत्काल या नहीं" के लिए काम करता है।

एक कार्यशील उदाहरण: 65 सहायता संदेश

भंडार में चार टीमों (बिलिंग, तकनीकी, खाता और बिक्री) के लिए एक सहायता इनबॉक्स है: 65 ग्राहक संदेश, जिनमें वास्तविक सहायता के रूप में दोहराव हैं। 2 अक्टूबर 2026 को श्रृंखला को इस पर दो बार मापा गया था (पूर्ण परिणाम):

कोई मॉडल के बिना, आधे से अधिक इनबॉक्स को बिना किसी गलती के मुफ्त में क्रमबद्ध किया गया (10 अक्टूबर 2026 को समान परिणाम के साथ फिर से चलाया गया)। Claude Haiku 4.5, Anthropic का छोटा और तेज़ मॉडल जोड़ने से छह संदेश एक व्यक्ति के लिए रह गए।

रिपोर्ट उतनी ही स्पष्ट है कि क्या काम नहीं आया। Haiku दो बार गलत था जबकि 98% निश्चित था: "मुझे हर पाँच मिनट में लॉग आउट कर दिया जाता है" तकनीकी के बजाय खाता में चला गया, और इसकी पुनरावृत्ति भी वहीं चली गई। यह बिल्कुल यही कारण है कि श्रृंखला किसी मॉडल के दोहराए गए उत्तर पर विश्वास करने से पहले एक दूसरे, अलग स्रोत से पूछती है। पैंसठ उदाहरण एक पहली पढ़ाई हैं: उपकरण इस तरह से बनाया गया है कि आप अपने कुछ सौ पिछले निर्णयों पर एक ही माप चलाते हैं।

यह क्या करता है

• निर्णय लें एक प्रश्न: उत्तर, किस लिंक ने इसे लिया, यह कितना निश्चित था, इसकी कीमत क्या थी।
• लेबल करें: एक व्यक्ति का उत्तर कैश में जाता है, इसलिए अगली बार यह मुफ़्त होता है।
• प्रचार करें: निर्णय जो मॉडल एक ही तरह से करते रहते हैं, दो अलग-अलग मॉडल परिवारों द्वारा पुष्टि किए गए, एक बार जब आप हाँ कहते हैं तो कैश प्रविष्टियाँ बन जाते हैं; शब्द जो केवल एक ही उत्तर के साथ आते हैं, नए नियमों के रूप में प्रस्तावित किए जाते हैं।
• बेंच: आपके अपने लेबल किए गए पिछले निर्णय श्रृंखला के माध्यम से चलाए जाते हैं, यह दिखाते हुए कि कितने एक व्यक्ति के बिना निर्णय लिए गए, कितने सही थे, आत्मविश्वास की संख्या कितनी ईमानदार थी, और एक निर्णय की कीमत सब कुछ एक मॉडल को भेजने के विरुद्ध।
• उम्मीदवार: 14 प्रोग्राम और सेवाएं जो एक लिंक के पीछे खड़ी हो सकती हैं, प्रत्येक अपने लाइसेंस और स्रोत पृष्ठ के साथ।

निर्णय मॉडल सीधे जुड़ जाते हैं

इसी काम के लिए एक नए तरह का मॉडल आ गया है। TypeSafe का Jev, सितंबर 2026 में घोषित किया गया, कोई पाठ नहीं लिखता: यह एक स्थिति और विकल्पों के साथ एक प्रश्न लेता है और चुने हुए विकल्प को संभावना के साथ $0.042 प्रति दस लाख इनपुट टोकन पर लौटाता है (DataCamp)। इसी तरह के ओपन मॉडल आपके अपने कंप्यूटर पर चलते हैं: Strands Decider, जिसके लेखक बताते हैं कि इसके "0.9 या उससे अधिक के आत्मविश्वास के साथ उत्तर लगभग 95% समय सही होते हैं", और, Ollama 0.35 के बाद से, Ollama द्वारा परोसे जाने वाले निर्णय मॉडल, जो मॉडल को स्थानीय रूप से चलाने के लिए मुफ्त उपकरण है। Decidecall इस इंटरफेस को सीधे, साथ ही साधारण स्थानीय मॉडल (Ollama, llama.cpp, vLLM, LM Studio) और आपके पास पहले से मौजूद Claude Code के माध्यम से Claude से बात करता है; bench आपके अपने डेटा पर दिखाता है कि प्रत्येक क्या जोड़ता है।

डेटा और पैसे के लिए आपके नियम

Decidecall अन्य कंपनी प्लगइन्स के समान कंपनी नीति फाइल को पढ़ता है:

• संवेदनशील डेटा कंप्यूटर पर रहता है। एक निर्णय को लाल चिह्नित करें और यह केवल कैश, नियम और स्थानीय मॉडल में जाता है; Decidecall पाठ का फिंगरप्रिंट रखता है, कभी पाठ को नहीं।
• केवल वे विक्रेता जिनकी आप अनुमति देते हैं, या केवल वे जो उत्तर देने के बाद कुछ नहीं रखते।
• एक दैनिक बजट: एक सशुल्क लिंक जो इसे पार कर जाता है वह छोड़ दिया जाता है, और मुक्त लिंक काम करते रहते हैं।
• कुंजियाँ कीचेन में रहती हैं, कभी फाइल में नहीं।

यह एक एकल Python फाइल है जिसे Python के अलावा कुछ की आवश्यकता नहीं है और अपने आप कोई नेटवर्क कनेक्शन नहीं खोलता है, इसलिए यह इंटरनेट से कट गए कंप्यूटर पर भी चलता है।

शुरुआत कैसे करें

Claude Code में, Poly A1 कैटलॉग जोड़ें और Decidecall को इंस्टॉल करें (कोई git और कोई GitHub खाता आवश्यक नहीं है):

/plugin marketplace add https://raw.githubusercontent.com/vadimchernets/poly-a1-plugins/main/.claude-plugin/marketplace.json
/plugin install decidecall@poly-a1

फिर आप जो निर्णय लेना चाहते हैं, अपने शब्दों में कहें: "हमारे सपोर्ट संदेशों को टीम के आधार पर क्रमबद्ध करें", या "क्या हमारे लिए Strands Decider मूल्यवान है"। Claude एक-एक करके अपने सवाल पूछता है (क्या निर्णय लिया जाए, संभावित उत्तर, कौन से शब्द उत्तर को निश्चित करते हैं, कितना निश्चित होना चाहिए) और आपके साथ कार्य फ़ाइल लिखता है। फिर यह कुछ भी भुगतान करने से पहले आपके पिछले निर्णयों पर bench चलाता है। Decidecall को Python 3.8 या नए संस्करण की आवश्यकता है और यह Mac, Linux और Windows पर काम करता है।

कोड, उदाहरण इनबॉक्स और माप: github.com/vadimchernets/decidecall।

यह कहाँ फिट बैठता है

Decidecall Poly A1 प्लगइन्स कैटलॉग में कंपनी प्लगइन्स में से एक है। यह Routecall के साथ जोड़ी जाती है, जहाँ एक मजबूत मॉडल योजना बनाता है और सस्ते वाले मात्रा करते हैं, और Billcall के साथ, जो AI कंपनी के लिए क्या खर्च करता है यह गिनता है; Firmcall साझा नीति फ़ाइल लिखता है। Decidecall को Vadym Chernets द्वारा लिखा गया है, Apache-2.0 लाइसेंस के तहत जारी किया गया है और Zenodo पर संग्रहीत है (DOI 10.5281/zenodo.23116720)।

GitHub पर decidecall देखें

Vadym Chernets Poly A1 भी बनाते हैं, एक ऐसी ऐप जिसमें विभिन्न कंपनियों के AI एक दूसरे के काम की जांच करते हैं।