AI-agent event logs के लिए एक read-only auditor — शोध नोट्स
यह एक अनुवाद है। प्रामाणिक संस्करण मूल अंग्रेज़ी पाठ है; कृपया उसी का हवाला दें।
AI-Watchbird-Sheckley एक छोटा Python मॉड्यूल है जो एक बहु-एजेंट AI रन के इवेंट लॉग को पढ़ता है और संकेत रिपोर्ट करता है कि इसकी निरीक्षण बढ़ रही है, ठहर रही है या काम को नष्ट कर रही है। इसके पास कोई अधिकार नहीं है: यह कभी भी किसी चीज़ को ब्लॉक, संपादित या खोलता नहीं है।
निरीक्षण लूप को स्वयं क्यों ऑडिट करें
पेपर ने 14 सितंबर 2026 को मौजूदा गार्ड्स, स्टेप और बजट काउंटर्स, और मॉडल-जज मूल्यांकनकर्ताओं की समीक्षा की। सार्वजनिक दस्तावेज़ीकरण में समीक्षा किए गए कोई भी उपकरण निरीक्षण लूप को स्वयं को माप की इकाई के रूप में नहीं लेते। कोई नियंत्रण की वृद्धि को नापते हैं, निष्कर्षों द्वारा परिभाषित बजट के आगे के दौर को नापते हैं, एक गार्ड जिसका फैसला कभी नहीं बदलता है, एक नकारात्मक नियंत्रण के बिना विजय को, या छत पर नष्ट किया गया आंशिक कार्य को नहीं नापते।
डिज़ाइन: पढ़ें, रिपोर्ट करें, कभी ब्लॉक न करें
मॉड्यूल Python 3 में केवल मानक लाइब्रेरी के साथ लिखा गया है और कोई नेटवर्क एक्सेस नहीं है। यह ai-watchbird-sheckley पैकेज के रूप में स्थापित होता है और उसी नाम के कमांड के रूप में चलता है; audit --json एक मशीन-पठनीय रिपोर्ट उत्सर्जित करता है। यह एक रन की इवेंट लॉग पढ़ता है और रिपोर्ट करता है। इसका एक्जिट कोड उन सिग्नलों पर निर्भर नहीं करता है जो यह रिपोर्ट करता है। इसकी सिग्नल सूची जमी हुई है, इसलिए एक सिग्नल जोड़ने के लिए एक अधिकार टोकन और एक संस्करण परिवर्तन की आवश्यकता है। यह एक स्वच्छ रन पर चुप रहता है, जिसे एक परीक्षण लागू करता है।
यह तीन बजट नियमों को शुद्ध कार्यों के रूप में भी भेजता है जिन्हें एक पाइपलाइन कॉल कर सकता है:
- R1,
stop_rule: प्रति चरण एक दौर आलोचना और एक दौर सुधार। एक ब्लॉकर केवल एक ठोस परिदृश्य, घोषित मिशन लक्ष्य के लिए एक लिंक और समन्वयकर्ता द्वारा पुष्टि के साथ गिना जाता है। यहfix_once,close,incompleteयाcutलौटाता है, और कभी नया चरण नहीं। - R2,
settle_at_ceiling: एक प्रतिभागी द्वारा छत से पहले उत्पादित को रखता है, आंशिक चिह्नित। - R3,
admit_control: एक अधिकार टोकन के साथ केवल एक नई जाँच, दौर, भूमिका या गेट स्वीकार करता है; अन्यथा यह एक अस्वीकृति को एक रिकॉर्ड के रूप में लौटाता है।
बहु-एजेंट निरीक्षण के लिए नौ संकेत
मापन भाग नौ संकेतों की रिपोर्ट करता है, W1 से W9: जनादेश विस्तार (एक चरण जो रिकॉर्ड किए गए मिशन लक्ष्य से व्युत्पन्न नहीं है), एक अंधा या विनाशकारी गार्ड (20 या अधिक निर्णयों पर एक फैसला, हर अनुमोदन वापस किया गया, या आवश्यक इनपुट लापता है), एक नियंत्रण रैचेट (नियंत्रण जो प्राधिकार टोकन के बिना जोड़े गए हैं), एक स्व-पोषक लूप (बजट पर राउंड, या बिना पुष्टि किए गए अवरोधक वाले एक के बाद खोला गया राउंड), एक नकली जीत (नकारात्मक नियंत्रण या A/A जांच के बिना एक जीत), किसी के लिए नहीं बनाया गया (कलाकृतियां डिफ़ॉल्ट रूप से बंद हैं कोई कॉलर के साथ), नष्ट आंशिक कार्य, एक अपुष्ट अवरोधक जो कार्य को चलाता है, और कोई रिकॉर्ड किया गया लेखक के साथ एक बाध्यता।
अपने स्वयं के खंडकारियों के विरुद्ध परीक्षित
छह खंडकारी बताते हैं कि कैसे नियमों का दावा करने वाली एक तैनाती का खंडन किया जा सकता है, उदाहरण के लिए यदि एक दूसरा आलोचना दौर एक प्राधिकरण टोकन के बिना शेड्यूल किया जा सकता है, या यदि सीमा पर एक प्रक्रिया को रोकना इसके आंशिक आउटपुट को त्याग देता है। प्रत्येक के पास एक परीक्षण है। एक म्यूटेशन स्क्रिप्ट अठारह लक्षित म्यूटेशन लागू करती है; प्रत्येक एक सूट को लाल कर देता है, और एक नियंत्रण म्यूटेशन जो केवल एक टिप्पणी को संपादित करता है वह इसे हरा रखता है।
छह रीप्ले लॉग्स पर, स्वच्छ नियंत्रण और सुबह का चरण कोई संकेत उत्पन्न नहीं करते हैं। पुनर्निर्मित लंबी-क्षितिज रन पर, जहाँ चरणों ने वास्तव में पाँच, पाँच और एक दौर चलाए, stop_rule बजट बिंदु पर सभी तीनों को बंद कर देता।
मॉड्यूल क्या नहीं करता है
पेपर सीमाओं के बारे में स्पष्ट है:
- कोई भी कच्चा लॉग रीप्ले में नहीं गया। उन्हें प्रकाशित गिनती से पुनर्निर्मित किया गया था, और "जहाँ कोई सटीक संख्या प्रकाशित नहीं की गई थी, सबसे छोटा संभव मान उपयोग किया जाता है और चिह्नित किया जाता है"।
- एक सिग्नल रिपोर्ट करता है कि एक पैटर्न मौजूद है। कारण और हानि उस चीज़ के बाहर हैं जो एक सिग्नल मापता है।
- यह केवल वह देखता है जो लॉग किया गया है। एक गेट कभी लॉग नहीं किया गया, एक लक्ष्य कभी लिखा नहीं गया, और काम जो लोग एक रक्षक की वजह से करना बंद कर देते हैं, वह इसके लिए अदृश्य हैं।
- यह डिजिटल और केवल-पठनीय है, और किसी रोबोट, ड्रोन, ऑटोपायलट या एक्चुएटर को कमांड नहीं भेजना चाहिए। एक मूर्त प्रोफाइल केवल एक इवेंट प्रारूप के रूप में प्रस्तावित है।
मॉड्यूल स्वयं एक नया नियंत्रण है, इसलिए इसका अपना नियम R3 इस पर सबसे पहले लागू होता है। जब लेखक की पाइपलाइन में इसका एक पोर्ट बनाया गया था, तो इसे एक सेवानिवृत्ति शर्त के साथ स्वीकार किया गया था, तीन वास्तविक रन पर कोई सिग्नल नहीं रिपोर्ट किया गया था, और 15 सितंबर को एक दिनांकित मानवीय निर्णय द्वारा इसे हटा दिया गया था।
इसे चलाना
परिशिष्ट B आदेश देता है, मॉड्यूल फ़ोल्डर से चलाएँ: pip install ., फिर ai-watchbird-sheckley audit <log.jsonl> एक ईवेंट लॉग के लिए, ai-watchbird-sheckley replay replays/ रीप्ले तालिका को पुनः उत्पन्न करने के लिए, और python3 -m unittest -v यूनिट और फॉल्सिफायर परीक्षणों के लिए। एक ईवेंट लॉग एक JSON-lines फ़ाइल है जिसमें प्रति पंक्ति एक ईवेंट है।
संदर्भ कार्यान्वयन, परीक्षण, रीप्ले लॉग और यादृच्छिकृत परीक्षण के डेटा को Zenodo पर AI-Watchbird-Sheckley संस्करण 1.1.0 के रूप में अवधारणा DOI 10.5281/zenodo.22774269 के तहत संग्रहीत किया गया है, जो वर्तमान संस्करण को हल करता है।
पूर्ण खंड: मॉड्यूल (10), जो पहले से मौजूद है (10.1), डिज़ाइन (10.2), फॉल्सिफायर (10.3), रीप्ले (10.4), मॉड्यूल क्या नहीं करता (10.5), लेखक की पाइपलाइन के अंदर (10.6), मॉड्यूल को चलाना (परिशिष्ट B)।
Chernets, V. (2026). AI-Watchbird (Sheckley): When Automated Oversight Widens Its Own Mandate and Harms What It Guards. SSRN 7473658. https://doi.org/10.2139/ssrn.7473658
Vadym Chernets भी Poly A1 बनाते हैं, एक ऐसा ऐप जिसमें विभिन्न कंपनियों के AI एक दूसरे के काम की जाँच करते हैं।