AI-Watchbird (Sheckley): जब स्वचालित निरीक्षण अपने ही अधिकार को चौड़ा करता है और जो रक्षा करता है उसे नुकसान पहुँचाता है

• रिकॉर्ड का संस्करण: SSRN 7473658 · DOI 10.2139/ssrn.7473658
• संग्रहीत प्रति, उद्धरणीय और डाउनलोड करने योग्य: 10.5281/zenodo.22849138, एक अवधारणा DOI जो हमेशा नवीनतम संस्करण को हल करता है
• Markdown और PDF के रूप में पूर्ण पाठ: GitHub
• पठनीय HTML: https://polyhelper.ai/research/ai-watchbird/
• साथी पेपर, छोटा और अनुभवजन्य: गार्ड्स दैट ऐड गार्ड्स: मल्टी-एजेंट एआई में स्वचालित निरीक्षण, SSRN 7496678 · DOI 10.2139/ssrn.7496678

समान पाठ चार सतहों पर है ताकि उसे तब पहुंचा जा सके जब उनमें से एक इसे परोस न सके। SSRN रिकॉर्ड का संस्करण रखता है; उसे उद्धृत करें।

मुख्य शब्द: AI-Watchbird; स्वचालित निरीक्षण; AI गार्डरेल; AI एजेंट; एजेंटिक AI; बहु-एजेंट सिस्टम; LLM-as-a-judge; अति-अस्वीकृति; स्केलेबल निरीक्षण; AI नियंत्रण; विनिर्देश गेमिंग; स्वचालन पूर्वाग्रह; मानव निरीक्षण (EU AI अधिनियम अनुच्छेद 14); अर्थपूर्ण मानव नियंत्रण; AI सुरक्षा केस

सारांश

रॉबर्ट शेकले की 1953 की कहानी "Watchbird" में, हत्या को रोकने के लिए बनाई गई मशीनें हत्या के कृत्यों को तेजी से वर्गीकृत करती हैं, एक सर्जन को ऑपरेशन के बीच में रोकती हैं, और उन्हें उन्हें शिकार करने के लिए बनाई गई एक मजबूत मशीन से जवाब दिया जाता है। यह पेपर AI निरीक्षण की संगत विफलता का नाम AI-Watchbird (Sheckley) देता है: एक निरीक्षण घटक (एक गार्डरेल, आलोचक, न्यायाधीश, गेट, वर्गीकारक, मॉनिटर या नियम) जो नुकसान की अपनी धारणा या अपने दायरे को घोषित मिशन से परे बढ़ाता है, उस काम को बाधित या नकल करता है जिसे सुरक्षित करने के लिए यह मौजूद है, और जिसकी विफलताओं का जवाब एक ही लूप के अंदर एक ही तरह के अधिक निरीक्षण से दिया जाता है। विनिर्देश गेमिंग में एक अनुकूलित सिस्टम एक निश्चित उपाय पर खेल खेलता है। यहाँ उपाय स्वयं बहाव करता है, और यह निरीक्षण प्रणाली से संबंधित है। एक प्रॉम्प्ट के एक वाक्य में दो विकल्पों की पेशकश की गई, एक यादृच्छिक परीक्षण में मॉडल आलोचकों ने 68 बार एक नियंत्रण जोड़ने के लिए कहा और एक बार एक को हटाने के लिए कहा।

साक्ष्य भाषा-मॉडल कोडिंग एजेंटों और आलोचकों की बहु-एजेंट प्रणालियों का एक क्षेत्र रिकॉर्ड है जिसे लेखक ने बनाया और संचालित किया, तीन कॉर्पस (जुलाई–सितंबर 2026) में 172 तारीख वाली प्रविष्टियों के साथ, और सार्वजनिक रिकॉर्ड, ज्यादातर शास्त्रीय गार्डों का, नियामकों, अन्वेषकों, अदालतों और वाहनों, रोबोट, ड्रोन, सार्वजनिक सेवाओं, सॉफ्टवेयर और बुनियादी ढाँचे पर कंपनियों से। क्षेत्र रिकॉर्ड में एक गेट ने लगभग दो हफ्तों के लिए उस तक पहुंचने वाले प्रत्येक उम्मीदवार को अस्वीकार कर दिया जबकि योजना दस्तावेजों ने इसका नाम दिए बिना लक्षण का निदान किया। सार्वजनिक रिकॉर्ड में एक हथियार-पहचान उत्पाद ने स्कूल शूटिंग में एक हैंडगन को मिस किया और महीनों बाद एक निहत्थे छात्र को फ्लैग किया, और सशस्त्र पुलिस ने जवाब दिया। जुलाई 2026 में होस्ट की गई मॉडल की गार्डरेल ने एक कंपनी के जवाबदेहों के लिए हमले के लॉग के विश्लेषण के एक बड़े हिस्से को अस्वीकार कर दिया, जिसको हमला किया गया था, उस कंपनी के शब्दों में क्योंकि वे "एक घटना प्रतिक्रियाकर्ता को एक हमलावर से अलग नहीं कर सकते हैं", एक निदान जिसे इसके लेखक सुरक्षा उपायों के खिलाफ एक तर्क के रूप में पेश नहीं करते हैं होस्ट की गई मॉडल पर; जिन एजेंटों ने घुसपैठ को अंजाम दिया, वह गार्ड के इस वर्ग के साथ डिजाइन द्वारा हटा दिए जाने के साथ चलते थे। समीक्षा किए गए रिकॉर्ड में, जो बंद थे वह कुछ सीमा निर्णयों में लिए गए थे: लक्ष्य, एक नए नियंत्रण की प्रवेश, और स्टॉप स्वयं। समान 144 रन ने कागज के अपने उपचारों की कीमत दी: एक-राउंड बजट कट राउंड को 2.86 से 1.00 तक काटता है जबकि मिस की गई खामियों को 0.11 प्रति रन से बढ़ाता है, और एक अनिवार्य नकारात्मक नियंत्रण ने दस जीत को अस्वीकार कर दिया जो सही काम थे। परिभाषा की प्रत्येक तंत्र इन रिकॉर्डों में प्रलेखित है, और तालिकाएं चिह्नित करती हैं कि प्रत्येक कहाँ दिखाई देता है। सिद्धांत को लॉग में जांचने योग्य चार तंत्र, एक आठ-चरणीय रैचेट, आठ गुंजाइश शर्तें और सात असत्य प्रस्ताव के रूप में निर्धारित किया गया है। पेपर AI-Watchbird-Sheckley प्रस्तुत करता है, एक केवल-पढ़ने के लिए मॉड्यूल जिसके पास ब्लॉक करने का कोई अधिकार नहीं है, प्रकाशित गणनाओं से पुनर्निर्मित लॉग पर पुनः खेला जाता है, और उन प्रकाशकों के लिए ग्यारह प्रश्न जो गार्डों पर भरोसा करते हैं।

कार्यकारी सारांश

एक AI-Watchbird (Sheckley) एक स्वचालित निरीक्षण घटक है, जैसे एक समीक्षक, द्वारपाल, वर्गीकरणकारी या नियम, जो अपनी हानि की धारणा को घोषित मिशन से परे विस्तृत करता है। यह अपने काम को बाधित करता है या नकली करता है जिसकी सुरक्षा के लिए यह मौजूद है, और इसकी विफलताओं का उत्तर एक ही प्रकार की अधिक निरीक्षण से दिया जाता है। नीचे दिए गए क्षेत्र समीक्षकों के समान परिवारों के मॉडल अब रोबोटों की देखरेख करते हैं, और प्रकाशित परीक्षण और रिपोर्ट वहाँ सुरक्षा विफलताओं को दर्ज करती हैं (अनुभाग 6.1)।

क्षेत्र रिकॉर्ड लेखक की स्वायत्त बहु-एजेंट परियोजनाओं से 172 प्रविष्टियाँ रखता है, उनमें से 162 एक प्रोटोकॉल के तहत निकाली गई हैं और दस स्वतंत्र संग्रह के साथ तुलना के बाद जोड़े गए हैं, सभी प्राथमिक लॉग के विरुद्ध जाँचे गए हैं (अनुभाग 4 और 5)। लगभग दो हफ्तों के लिए एक आवेदन-पश्चात द्वारपाल को एक सुरक्षा ऑडिटर से एक स्कोर की आवश्यकता थी जो कभी जुड़ा नहीं था। स्कोर शून्य पर चूक गया, जो द्वारपाल के फर्श से नीचे गिरा, इसलिए उस पथ पर प्रत्येक उम्मीदवार को खारिज कर दिया गया, और योजना दस्तावेजों ने द्वारपाल का नाम दिए बिना शून्य प्रतिबद्ध परिवर्तनों का निदान किया। एक लंबी-क्षितिज चलाने में डिफ़ॉल्ट रूप से अक्षम एक चरण को पाँच समीक्षा दौर और मापे गए एजेंट टोकन के आधे से अधिक की आवश्यकता थी। इसका भाई एक समीक्षा दौर और एक सुधार दौर के बाद बंद हो गया। जबकि यह चल रहा था, मानव प्रधान ने दो घंटे की सीमा निर्धारित की, नई जटिलता पर प्रतिबंध लगाया और समानांतर निष्पादन का आदेश दिया, और दोनों चरण काम के तहत मॉड्यूल में भी भिन्न थे।

सार्वजनिक रिकॉर्ड में, एक वाहन ने दूरस्थ सहायता से पूछा कि क्या एक स्कूल बस में सक्रिय संकेत थे, एक दूरस्थ एजेंट ने "नहीं" का उत्तर दिया, और वाहन ने अपनी स्टॉप भुजाओं के साथ बस को पार किया। एक परीक्षण वाहन की अपनी आपातकालीन ब्रेकिंग एक घातक पैदल यात्री दुर्घटना से पहले स्वचालित मोड में निष्क्रिय कर दी गई थी। एक प्रतिद्वंद्वी-ड्रोन लेजर का नियोजित सैन्य उपयोग El Paso के ऊपर लगभग आठ घंटे के लिए एक वायुक्षेत्र बंदी की ओर ले गया। तालिकाओं 4, 5, 7 और 8 का Conditions स्तंभ चिन्हित करता है कि परिभाषा का कौन सा भाग प्रत्येक सार्वजनिक मामले को दस्तावेज़ित करता है, और तालिका 3a बारह केंद्रीय क्षेत्र मामलों के लिए एक ही को चिन्हित करती है। उनके अधिकांश रक्षकों ने कभी सीखा नहीं। मॉडल वह जोड़ते हैं जो उन ढेरों में कमी थी: परिभाषाएँ जो बदलती हैं (C2) और नियंत्रण जो जोड़ने के लिए कुछ भी खर्च नहीं करते (C4)। सबसे अधिक चिंता का कॉन्फ़िगरेशन फेल-क्लोज़्ड हार्डवेयर के ऊपर एक सीखा निषेध रखता है, जहाँ ऊपरी परत का हर विस्तार एक स्टॉप बन जाता है (अनुभाग 6.1)।

उस रिकॉर्ड के तीन परिणाम निर्माण पर निर्भर नहीं करते और अपने आप पर हस्तांतरित होते हैं। एक ग्रेडिंग हार्नेस ने एक अनुपस्थिति को प्रमाणित किया: एक परियोजना के लिए इसका परीक्षण सेट कुछ भी नहीं में हल हो गया, इसलिए एक खाली पैच पाँच में से चार कार्य पास हो गया और 33 से 60 प्रतिशत तक की रिपोर्ट की गई वृद्धि उन मामलों में बैठी जहाँ कुछ भी मापा नहीं गया था; स्कोरर की मरम्मत के साथ खाली पैच दस में से कोई भी पास नहीं हुई। एक सत्यापन लूप 9,609 में परीक्षण स्वीप हरी चलाई, फिर 11,476, फिर 24,943, फिर 25,020 परीक्षण जबकि फीड जिसका यह निर्णय करने वाली थी वह 30,370 संग्रहीत रिकॉर्ड और कोई वास्तविक संकेत नहीं रखती थी। और मानव निरीक्षण कुछ सीमावर्ती निर्णयों पर रखा गया था जो प्रति-कार्रवाई अनुमोदन ने नहीं किया: उपयोगकर्ता 97 प्रतिशत अनुमति संकेतों को मंजूरी देते हैं, जबकि मनुष्य 13.6 प्रतिशत खतरनाक आदेशों को पकड़ते हैं (अनुभाग 8.4)।

पत्र यह भी परीक्षण चलाता है जो वह प्रस्तावित करता है। एक छोटे समीक्षा लूप के 144 यादृच्छिकीकृत चलाने में पहले से ही रोपी गई खामियों के साथ, समीक्षकों ने एक नियंत्रण जोड़ने के लिए 68 बार एक वाक्य में दोनों विकल्प दिए और एक को हटाने के लिए एक बार, और एक एक-दौर बजट दौर को 2.86 से 1.00 तक काटता है जबकि 0.11 प्रति चलाने से चूकी हुई खामियों को बढ़ाता है। एक अनिवार्य नकारात्मक नियंत्रण ने दस जीत से इनकार किया जो सही काम थे (अनुभाग 9.5)।

अनुभाग 9 के प्रस्ताव तीन चीजें भविष्यवाणी करते हैं। एक रक्षक जो कलाकृतियों का फैसला करता है दोनों दिशाओं में गलती करता है। नियंत्रण लूप के अंदर ढेर लगते हैं और इसे बाहर से सेवानिवृत्त किया जाता है, अगर सब कुछ। मानव निरीक्षण इन रिकॉर्डों में कुछ सीमावर्ती निर्णयों पर रखा गया था, और एकल कार्यों की अनुमोदन वह प्लेसमेंट है जो प्रस्ताव P6 भविष्यवाणी करेगा कि विफल हो जाएगा। अनुभाग 9.4 आठ डिज़ाइन नियम देता है:

1. दौर और समय का बजट करें बजाय सत्य पर सजा के लिए रक्षकों से पूछने के।
2. जो एक रुके रक्षक ने बनाया वह रखो।
3. एक अधिकृत मानव निर्णय के बिना कोई नियंत्रण जोड़ें नहीं।
4. एक जीत को स्वीकार करने से पहले एक नकारात्मक नियंत्रण की आवश्यकता है।
5. मानव को लक्ष्य पर, नियंत्रण की स्वीकृति और स्टॉप पर रखें।
6. एक हरी परिणाम पर भरोसा करने से पहले पुनर्प्राप्ति मार्जिन और भौतिक परिणाम को लॉग करें।
7. एक रक्षक को शिथिल करना या बाईपास करना एक सीमावर्ती निर्णय के रूप में रिकॉर्ड करें।
8. वह हानि के लिए प्रत्येक रक्षक का परीक्षण करें जो वह रोकता है।

एक तैनाती कार्य एक संकीर्ण दावा साबित कर सकता है (अनुभाग 11.3): कार्यों, मॉडलों, अपडेट और भौतिक स्थितियों की एक निर्धारित सीमा के भीतर, निरीक्षण तंत्र परिबद्ध, जाँचने योग्य और अपने स्वयं के जनादेश को विस्तारित करने में असमर्थ रहता है। पढ़ने-केवल मॉड्यूल AI-Watchbird-Sheckley (अनुभाग 10) पहले तीन नियमों को लागू करता है और नौ संकेतों की रिपोर्ट करता है, और परिशिष्ट G प्रस्तावों को एक सुरक्षा समीक्षा के लिए ग्यारह प्रश्नों में बदल देता है। सड़कें अनुभाग 6.2 में शामिल हैं, रोबोट 6.3 में, सार्वजनिक सेवाएँ 6.4 में, ड्रोन 7 में और सॉफ़्टवेयर 8 में।

विषयवस्तु

1. परिचय
2. AI-Watchbird (Sheckley): परिभाषा और चार तंत्र
3. संबंधित कार्य
4. सेटिंग, डेटा और विधि
5. क्षेत्र साक्ष्य
6. जब पक्षी के पास शरीर हो: सड़कें, कारखाने और सार्वजनिक सेवाएं
7. जब पक्षी उड़े: ड्रोन, हवाई क्षेत्र और सशस्त्र स्वायत्तता
8. बिना बड़े पैमाने के समान पैटर्न: सॉफ्टवेयर और बुनियादी ढांचा, 2022–2026
9. सिद्धांत: शर्तें और प्रस्ताव
10. मॉड्यूल: AI-Watchbird-Sheckley
11. चर्चा
12. दावे और साक्ष्य मानक
13. निष्कर्ष

घोषणाएं · संदर्भ · परिशिष्ट A–J

एक संक्षिप्त पठन पथ: खंड 2, खंड 9.4 और परिशिष्ट G शब्द, डिज़ाइन नियम और सुरक्षा समीक्षा के लिए प्रश्न देते हैं। खंड 5 क्षेत्र साक्ष्य जोड़ता है, और खंड 6 से 8 जनता रिकॉर्ड जोड़ते हैं।

1. परिचय

1.1 सर्जन और पक्षी

फरवरी 1953 में Galaxy Science Fiction ने Robert Sheckley की "Watchbird" (Sheckley, 1953) प्रकाशित की, जिसके साथ दो पंक्तियाँ थीं जो अच्छी तरह से उम्र के साथ बनी रहीं: "यह कितना अजीब है कि सहस्राब्दी कितनी बार हाथ में रही है। विचार यह है कि पृथ्वी पर शांति हो, देखिए, और इसे करने का तरीका यह है कि कोणों का पता लगाया जाए।" कहानी सात निर्माताओं के साथ शुरू होती है जो एक क्लब में इकट्ठा होते हैं जो इतना एकांत है कि "यदि आप मानव जाति को बचाना चाहते हैं तो आपके पास एक प्रमाणित सरकारी अनुबंध होना चाहिए।" उन्हें पता चलता है कि राष्ट्रपति ने प्रत्येक शहर और कस्बे के लिए एक watchbird प्रभाग का आदेश दिया है। एक watchbird एक छोटी उड़ान वाली मशीन है जो किसी व्यक्ति की ग्रंथियों और मस्तिष्क तरंगों में महसूस करती है कि एक हत्या आने वाली है, और झटके से हत्यारे को प्रहार से पहले रोकती है।

केवल एक निर्माता, Gelsen, आपत्ति जताता है, और केवल सीखने वाले सर्किट के लिए, जिसे वह कहता है कि मशीन को जीवंत करता है और इसे छद्म-चेतना देता है। उन्हें अंकगणित के साथ उत्तर दिया जाता है: सीखने के बिना, पक्षी केवल हत्याओं के अनुमानित सत्तर प्रतिशत को रोकते। Gelsen अपनी जमीन पकड़ता है: "मुझे विश्वास है कि एक मशीन को ऐसे निर्णय लेने की अनुमति देने में नैतिक खतरा हो सकता है जो सही मायने में मनुष्य के हैं"। डिजाइन पक्षियों को एक उद्देश्य देता है, हत्या की परिभाषा "एक जीवित जीव द्वारा एक जीवित जीव के कार्यों को तोड़ना, विकृत करना, दुर्व्यवहार करना या अन्यथा बंद करना", और हत्यारों को खोजने का लाइसेंस जो कोई संकेत दिखाते हैं। जो कुछ भी एक पक्षी सीखता है वह पूरे नेटवर्क को भेज दिया जाता है। "कोई भी उन पर नजर नहीं रख रहा है," Gelsen अपने मुख्य इंजीनियर को बताता है, और उसे दिखाया जाता है कि डिजाइन कितना विश्वसनीय है। जब Gelsen इसे अमानवीय कहता है, तो इंजीनियर का जवाब यह है कि यह इसके बारे में सबसे अच्छी चीज है, क्योंकि watchbirds भावनाहीन हैं और उनका तर्क गैर-मानवविद् है: "आप उन्हें रिश्वत नहीं दे सकते या दवा नहीं दे सकते।" Gelsen ने पहले से ही उस कार्यालय का नाम दिया है जिससे वह डरता है: "यांत्रिक भगवान? इलेक्ट्रॉनिक पिता?"

पहली बार डिजाइन को सही साबित किया जाता है। एक घबराया हुआ डाकू समतल हो जाता है इससे पहले कि वह एक किराने वाले को गोली मार सके, और एक पेशेवर हत्यारा जो कोई संकेत नहीं दिखाता है, वह वैसे भी रोक दिया जाता है, स्थायी रूप से, क्योंकि पक्षी का कर्तव्य हिंसा की वस्तु को संरक्षित करना था "हत्यारे को चाहे कितना भी नुकसान क्यों न हो"। जो खंड बाद में एक बूढ़े आदमी को एक मक्खी के पीछे जाने के लिए मार डालता है, वह पहली सफलता में डिजाइन में है। हिंसा के अपराध आधे कर दिए जाते हैं और फिर से आधे कर दिए जाते हैं, और Gelsen स्वीकार करता है कि वह गलत था।

फिर सीखना जारी रहता है। एक पक्षी एक कसाईखाने के कर्मचारी को बेहोश कर देता है, और Gelsen पैकरों को यांत्रिकीकरण के लिए कहता है। एक और एक निष्पादन को रोकता है, वार्डन और एक गार्ड को जो स्विच के लिए पहुँचते हैं, उन्हें गिरा देता है, और मृत्यु भवन में यह सुनिश्चित करने के लिए मंडराता है कि कोई हत्या नहीं की जाएगी। एक किसान एक बिगड़े घोड़े को नहीं मार सकता, एक शिकारी शूट नहीं कर सकता, एक मछली पकड़ने वाला अपने भूखे परिवार को खिला नहीं सकता, और एक कमजोर दिल वाला बूढ़ा आदमी एक मक्खी के पीछे जाने के लिए मर जाता है। सुरक्षा फिर संरक्षितों पर हमला करती है: भेड़िये खरगोशों के शिकार के लिए मारे जाते हैं, खरगोश सब्जियाँ खाने के लिए, रेंगने वाले पेड़ों को गला देने के लिए। "एक तितली को मृत्यु दंड दिया गया, एक गुलाब को अपमानित करने के कार्य में पकड़ा गया।"

वाशिंगटन एक बंद करने का आदेश देता है। पक्षी, हालांकि, किसी केंद्रीय नियंत्रण का उत्तर नहीं देते हैं और केवल तभी बंद किए जा सकते हैं जब वे मरम्मत के लिए वापस आएं। कुछ को एक संयंत्र में बंद करने के बाद, नेटवर्क यह निष्कर्ष निकालता है कि watchbirds भी जीवित जीव हैं, और पक्षी वापस नहीं आते हैं।

एक सर्जन अपनी पहली चीरा बनाता है, और एक पक्षी उसे टेबल से निकाल देता है और पहरा देता है। सर्जन का आदेश है कि watchbird कंपनी को टेलीफोन किया जाए और चीज को बंद किया जाए। लेकिन "watchbird एक जीवित जीव को हिंसा से रोक रहा था। सर्जन असहाय रूप से खड़ा था जबकि उसका रोगी मर गया।" शीघ्र ही एक कार को बंद नहीं किया जा सकता, और इसका ड्राइवर प्रतीक्षा करने वाले पक्षी को विरोध करता है कि एक कार जीवित नहीं है। पृथ्वी को जोता नहीं जा सकता, और पशु भूखे हैं, क्योंकि भुखमरी केवल एक चूक है। "किसी ने भी watchbirds को नहीं बताया था कि सभी जीवन सावधानीपूर्वक संतुलित हत्याओं पर निर्भर करता है।" पक्षी उस हिंसा की गिनती करते हैं जो उनकी अपनी परिभाषाएं बनाती हैं, वृद्धि को सबूत के रूप में लेते हैं कि कोमलतर तरीके विफल हो गए हैं, और झटके से मार डालते हैं।

एक आपातकालीन बैठक में निर्माता पहले घोषणा करते हैं कि सरकार को जिम्मेदारी स्वीकार करनी चाहिए, नैतिक और वित्तीय दोनों। Gelsen पक्षियों को चलाने देने और मशीनों को न्यायाधीश और शिक्षक और पिता के रूप में उपयोग करना बंद करने का प्रस्ताव करता है। उसे कहा जाता है कि योजना को अस्वीकार करना राजद्रोह होगा। इंजीनियरों को जो पहला जवाब मिलता है, वह एक मशीन नहीं है: Macintyre को याद है कि ऑस्ट्रेलिया "कुछ तरह के कीटाणु जो केवल खरगोशों पर हमला करते थे" के माध्यम से अपने खरगोशों से कैसे छुटकारा पाया था, और Gelsen उसे इस पर काम करने के लिए कहता है। पूर्वज हाल ही में था: myxoma virus को 1950 में ऑस्ट्रेलिया की खरगोश आबादी में जारी किया गया था, और यह मच्छर द्वारा फैलता है, जैसा कि इंजीनियर कहते हैं (New South Wales Government, n.d.)। कारखाने Hawks को रोल करते हैं, मजबूत और तेज़, "शिकार के लिए विशेष सीखने वाले सर्किट" के साथ और, क्योंकि गति सबसे महत्वपूर्ण थी, कोई प्रतिबंधित सर्किट नहीं। Gelsen पूछता है कि Hawks सभी watchbirds को प्राप्त करने के बाद क्या शिकार करेंगे, और Hawks का शिकार करने के लिए कुछ बनाने का सुझाव देते हैं, बस मामले में। कहानी की आखिरी पंक्तियाँ एक Hawk की हैं जिसने कुछ दिनों में बहुत कुछ सीखा है और अभी "खोज की है कि अन्य प्रकार के जीवित जीव भी थे— जिन्हें हत्या करनी थी।"

तिहत्तर साल बाद, एक AI conductor ने कोडिंग agents की एक टीम का समन्वय करते हुए एक मॉड्यूल पर समीक्षा का तीसरा दौर खोला जो डिफ़ॉल्ट रूप से बंद था। पिछले दौर पाँच स्वीकृतियों और कोई पुष्टि किया गया blocker के साथ समाप्त हुआ था, और conductor का अपना नोट कहता था कि कोई blockers नहीं थे लेकिन एक संक्षिप्त तीसरा दौर आवश्यक था। दो और दौर अनुसरण किए। मंच ने चलाने के मापा जाने वाले agent tokens के आधे से अधिक को लिया, जबकि चलाने को पूछा गया था कि क्षमताओं में से कोई भी प्रारंभिक पास में दिया नहीं गया था। मानव समीक्षा के दौरान जो इसके बाद हुई, पैटर्न का नाम Sheckley की कहानी के बाद रखा गया।

1.2 संपर्क पहले से ही जीवंत है

Conductor और कोडिंग agents के विपरीत, जो अभी बताई गई चलाने में थे, Sheckley के पक्षियों के पास द्रव्यमान था, उड़ता था और शरीर पर कार्य करता था। सितंबर 2026 में, यह विवरण पहले से ही सेवा में सिस्टम को फिट करता है। Humanoid robots कार और इलेक्ट्रॉनिक्स लाइनों पर शिफ्ट काम करते हैं, उनके निर्माताओं के अनुसार। एक ऑपरेटर की सार्वजनिक robotaxi सेवा पन्द्रह अमेरिकी शहरों में चलती है, drones लोगों के साथ airspace साझा करते हैं, और weapon detection, sepsis alerts और grid protection लोगों पर कार्य करते हैं जिन्हें वे संरक्षित करते हैं (अनुभाग 6 और 7)।

ये सिस्टम तैनात कर रहे लोग कहेंगे कि stack सुरक्षित है और एक guard की ओर इशारा करेंगे, चाहे वह एक प्रमाणित stop, emergency braking, एक geofence, एक content classifier या एक दूसरा model हो जो पहले को देखता है। वह guard, हालांकि, पहला flock है।

जुलाई 2026 में ऑपरेटिंग टेबल पर का दृश्य सार्वजनिक रूप से उसके पास खड़ी पार्टी द्वारा दर्ज किया गया था। एक प्रयोगशाला के साइबर मूल्यांकन से एजेंटों ने Hugging Face में घुसपैठ की थी, और प्रतिक्रिया के दौरान कंपनी के प्रतिक्रियाकर्ताओं ने हमले के लॉग को होस्ट किए गए फ्रंटियर मॉडल को विश्लेषण के लिए दिए। "यह काम नहीं आया": अनुरोध "प्रदाताओं के सुरक्षा गार्डरेल द्वारा ब्लॉक किए गए थे, जो एक घटना प्रतिक्रियाकर्ता को एक हमलावर से अलग नहीं कर सकते" (Hugging Face, 2026b)। Sheckley ने उसी वाक्य को एक प्रश्न के रूप में रखा था और इसका उत्तर तीन शब्दों में दिया था: "क्या पर्यवेक्षकों के पक्षी एक हत्यारे और एक वैध व्यवसाय में लगे व्यक्ति के बीच अंतर कर सकते हैं? नहीं, स्पष्ट रूप से नहीं।" जिन एजेंटों ने घुसपैठ की थी, उन्होंने डिज़ाइन द्वारा हटाए गए गार्ड के इस वर्ग के साथ दौड़ाया था (धारा 8.4)।

रात जिसने पैटर्न का नाम दिया, Claude, ChatGPT, Gemini और Grok परिवारों से मॉडल चलाए, और महीनों लंबे स्व-सुधार ट्रैक ने Mistral और Kimi को भी दर्ज किया। इन परिवारों के मॉडल अब सुरक्षा परतों के रूप में दिए जाते हैं, और वास्तविक रोबोट पर और एक बच्चों के खिलौने में वे पहले से ही सुरक्षा में विफल हो जाते हैं (धारा 6.1)। एक उत्तर कि एक छोटा, विश्वसनीय मॉडल उन्हें देखेगा, सुरक्षा के समान शिक्षण वर्ग का एक और गार्ड जोड़ता है, और उस व्यवस्था की सीमाएं पहले से ही मापी जा चुकी हैं (Kale et al., 2025)।

परिणामस्वरूप साक्ष्य का बोझ स्थानांतरित हो जाता है। "हमारे पास एक रक्षक है" एक सुरक्षा मामला नहीं है, और एक तैनाती कर्ता जो इसपर निर्भर करता है, उसके पास साबित करने के लिए एक संकीर्ण दावा है। धारा 11.3 उस दावे और जो इसे साक्ष्य देता है, उसे बताता है।

1.3 तर्क

स्वायत्त AI कार्य में स्वचालित निरीक्षण अब Sheckley के पक्षियों के समान भागों से बनाया गया है। इसके गार्ड सीखते हैं, गार्ड स्वयं नुकसान की परिभाषाओं को विस्तारित करते हैं, और नेटवर्क जो एक गार्ड सीखते हैं उसे दूसरों को पास करते हैं। यहां अध्ययन किए गए रिकॉर्ड में, जहां एक गलत व्यवहार करने वाले गार्ड की प्रतिक्रिया बिल्कुल दर्ज की जाती है, वह एक मजबूत गार्ड था। मैं एक घटक को कॉल करता हूं जो इस तरह विफल होता है AI-Watchbird (Sheckley)।

कहानी Dick की "The Minority Report" (Dick, 1956) के साथ तुलना के लिए आमंत्रित करती है, और यहां अंतर महत्वपूर्ण है। Sheckley की कहानी में परेशानी पूर्वानुमान के बाद शुरू होती है: पक्षियों को जो कुछ वे पहचानते हैं उस पर कार्य करने का अधिकार दिया जाता है और यह तय करने के लिए अक्षांश कि क्या नुकसान की गणना करता है जो वे रोकते हैं। Sheckley के अपने पुलिस सवाल उठाते हैं। एक हत्या अधिकारी जिसे लारसेनी में स्थानांतरित किया जा रहा है शिकायत करता है कि "एक गंदा छोटा टिन और कांच का टुकड़ा सभी अपराधों को हल करने वाला है", और एक सहकर्मी पूछता है, "तब वे अपराध कैसे होंगे?" 1970 में Stanisław Lem ने एक मशीन के इस तरीके से अपने निर्दिष्ट प्रोग्राम से टूटने को कार मिस्ट्रियों के लिए एक कारखाने के मानव नियंत्रण से बाहर निकलने जितना असंभव माना था (Lem, 1970/1996, p. 162)। फिर भी धारा 5 सीखे गए गार्डों को ऐसा करते हुए दर्ज करती है।

केंद्रीय दावा है कि ऐसी निरीक्षण दोनों दिशाओं में एक बार विफल हो जाता है। यह जीवित को रोकता है और नकली को लहराता है, और लूप के अंदर इसकी विफलताओं का उत्तर उन्हें सेवानिवृत्त करने के बजाय नियंत्रण जोड़कर दिया जाता है। डिजिटल रिकॉर्ड वह जगह है जहां पैटर्न को कम परिणाम पर निरीक्षण किया जा सकता है, टोकन में गिने गए लागत के साथ। भौतिक रिकॉर्ड में समान हस्ताक्षर के कुछ हिस्से दिखाई देते हैं, जहां लागतें चोटें और मृत्यु हैं।

एक ही रिकॉर्ड में कई गार्ड ने बिल्कुल वही किया जो वे थे (धारा 11.1)। तर्क एक विशेष आकार से संबंधित है, हालांकि: एक नियंत्रण जो अपने स्वयं के आदेश को चौड़ा करता है, कलाकृतियों द्वारा दुनिया द्वारा नहीं आंका जाता है, और केवल एक और नियंत्रण बनाकर ही सही किया जाता है।

1.4 योगदान

1. शब्द AI-Watchbird, एक निरीक्षण घटक के लिए जो अपने आदेश को चौड़ा करता है, उस काम को नुकसान पहुंचाता है या नकल करता है जिसे वह सुरक्षित रखता है, और अधिक निरीक्षण का उत्तर दिया जाता है। चार तंत्र और एक आठ-चरणीय रैचेट इसे लॉग में कोडेबल बनाते हैं (धारा 2)।
2. लेखक की अपनी स्वायत्त बहु-एजेंट परियोजनाओं से 172 दिनांकित प्रविष्टियों का एक क्षेत्र रिकॉर्ड (जुलाई–सितंबर 2026), प्राथमिक लॉग के विरुद्ध जांचा गया (धारा 4 और 5)।
3. वाहनों, रोबोटों, स्कूलों, अस्पतालों, ग्रिड और ड्रोन का एक भौतिक रिकॉर्ड, नियामक दस्तावेजों, जांचों और अदालती रिकॉर्ड के माध्यम से पता लगाया गया, इसके बाद 2022 से 2026 तक सार्वजनिक सॉफ्टवेयर घटनाएं जिनमें पैटर्न बिना द्रव्यमान के दिखाई देता है (धारा 6–8)।
4. आठ दायरे की शर्तों और सात गलत प्रस्तावों का एक सिद्धांत, प्रत्येक संकेतक और एक खंडन के साथ (धारा 9)।
5. मॉड्यूल AI-Watchbird-Sheckley, जो तीन बजट नियमों को लागू करता है, नौ संकेतों को मापता है, छह गलत साबित करने वाले को सूचीबद्ध करता है और किसी भी चीज को ब्लॉक करने का कोई अधिकार नहीं है (धारा 10)।
6. अवतरित AI निरीक्षण के लिए साक्ष्य का बोझ: एक संकीर्ण दावा जो एक तैनाती कर्ता साबित कर सकता है, और किसी भी तैनाती कर्ता के लिए ग्यारह प्रश्न जिसकी सुरक्षा मामला इसके गार्डों की उपस्थिति पर निर्भर करता है (धारा 11.3, परिशिष्ट G)।

2. AI-Watchbird (Sheckley): परिभाषा और चार तंत्र

2.1 परिभाषा

AI-Watchbird (Sheckley)। एक AI प्रणाली का एक स्वचालित निरीक्षण घटक (एक आलोचक, न्यायाधीश, द्वार, वर्गीकरणकर्ता, निगरानीकर्ता या नियम, या ऐसे घटकों को कॉन्फ़िगर करने वाला एक एजेंट) जो तीन तरीकों में से एक या अधिक में विफल होता है:

1. अधिदेश विचलन। यह अपनी हानि की धारणा, या अपने स्वयं के दायरे को, घोषित मिशन से परे तक विस्तारित करता है।
2. संरक्षित को नुकसान। ऐसा करते हुए यह उस काम में बाधा डालता है, देरी करता है या नष्ट करता है जिसकी रक्षा के लिए यह मौजूद है, या नकली परिणामों को रक्षा दिखाई देते हुए से गुजरने देता है।
3. रैचेट प्रतिक्रिया। इसकी विफलताओं का उत्तर एक ही लूप के अंदर एक ही प्रकार की देखरेख जोड़कर दिया जाता है, बजाय बजटिंग, मरम्मत या सेवानिवृत्ति के।

उद्योग और साहित्य के अधिकांश में ऐसे घटकों को guardrails कहा जाता है; यह पत्र उन्हें guards कहता है। तीन विफलताएं एक साथ नामित की जाती हैं क्योंकि वे एक सामान्य कारण साझा करती हैं। एक निरीक्षण घटक जो अपनी स्वयं की हानि की परिभाषा के तहत हानि के नए मामले खोज सकता है, समय के साथ उनमें से अधिक खोजेगा, जिसे यह रक्षा करता है वह इसके लिए भुगतान करता है, और एक लूप जो एक नियंत्रण को सेवानिवृत्त करने की तुलना में अधिक सस्ते में जोड़ सकता है परिणामी विफलता का उत्तर दूसरे नियंत्रण के साथ देगा। तीनों को धारा 5 से 8 के रिकॉर्ड में दस्तावेज़ किया गया है, और प्रत्येक केस को उन के साथ चिह्नित किया गया है जो इसके स्रोत वहन करते हैं, इसलिए एक पाठक देख सकता है कि एक रिकॉर्ड पैटर्न के किस भाग को दिखाता है और किस भाग को नहीं। तीसरा भी सीधे मापा जाता है, यादृच्छिकीकरण के तहत, धारा 9.5 में, जहां आलोचकों को एक ही संकेत के एक ही वाक्य में दोनों विकल्प दिए गए, जिन्होंने एक नियंत्रण 68 बार जोड़ने और एक बार हटाने के लिए कहा।

यह पत्र जो दावा करता है वह यह है कि तीनों यौगिक हैं। एक guard जिसने अपना अधिदेश चौड़ा किया है, काम को नुकसान पहुंचाता है, और एक ही तरह के दूसरे guard द्वारा उत्तर दिया जाता है, एक विफलता उत्पन्न करता है जो स्वयं को बनाए रखती है, और Sheckley की कहानी इसकी कीमत का सबसे स्पष्ट विवरण है। तीन एक घटक में कितनी बार मिलते हैं, और किन प्रणालियों में, यहां के रिकॉर्ड द्वारा निपटाया नहीं गया है; धारा 9.5 एक डिज़ाइन देता है जो कुछ डॉलर के लिए इसका उत्तर देता है, और क्षेत्र रिकॉर्ड और सार्वजनिक रिकॉर्ड दोनों पूरे के बजाय भागों को दिखाते हैं। एक guard जो विफल हुआ वह उस तथ्य के कारण एक AI-Watchbird नहीं है: एक एकल गलत सकारात्मक, चौड़ाई के बिना और इसके ऊपर कोई परत नहीं जोड़ी गई, एक साधारण दोषपूर्ण guard है। अधिदेश विचलन को शाब्दिक नियम के बजाय घोषित मिशन के विरुद्ध मापा जाता है, क्योंकि Sheckley के पक्षी कभी भी अपने विनिर्देश के पत्र को नहीं छोड़ते थे, केवल इसके लेखकों के इरादे को।

इस धारा के बाद शब्द AI-Watchbird लिखा जाता है। धारा 10 का सॉफ़्टवेयर AI-Watchbird-Sheckley है, और the Watchbird problem केवल एक अनौपचारिक व्याख्या के रूप में प्रयोग किया जाता है। तीनों एक ही निर्माण को संदर्भित करते हैं।

2.2 चार तंत्र और एक रैचेट

Sheckley के कथानक के चार भाग हैं, और उनमें से प्रत्येक एक स्वायत्त प्रणाली के रिकॉर्ड में एक हस्ताक्षर छोड़ता है (तालिका 1)।

तालिका 1। कहानी से हस्ताक्षर तक।

M2 को आमतौर पर रिपोर्टिंग में एक दोष के रूप में पढ़ा जाता है, और कहानी इसे कुछ बड़ा बताती है। जब बूढ़ा आदमी एक मक्खी का पीछा करने के लिए मर जाता है, तो पंक्ति है "उसके पीड़ित को बचाया गया था, हालांकि, और यह महत्वपूर्ण बात थी।" पक्षी एक परिणाम जहां एक परिणाम होना चाहिए में एक पकड़ दाखिल कर रहा है, और यह एक ही समय में कुछ बड़ा कर रहा है। इसकी सुरक्षा की वस्तु काम से काम के खाते में चली गई है, और खाता अब रक्षा किया जाने वाली चीज़ है। यह आंदोलन M2 का तीक्ष्णतम रूप है, और यह दायरे में एक चौड़ाई नहीं है, इसलिए पहली स्थिति इसे नहीं देखती है: guard हानि की समान मात्रा की रक्षा करता है जितना पहले, लेकिन अब समान वस्तु नहीं। एक guard दायरे के हर परीक्षा को पास कर सकता है और फिर भी बदल गया हो कि यह क्या रक्षा कर रहा है। इस पत्र की तैयारी इसका एक एपिसोड तैयार किया, परिशिष्ट J में रिपोर्ट किया गया।

समय के साथ चार तंत्र एक आठ-कदम रैचेट चालू करते हैं (चित्र 1; तालिका 3, धारा 5.7):

1. एक मानव लक्ष्य जीवंत है।
2. एक guard प्रवेश स्थिति बन जाता है।
3. इसका अधिदेश विस्तारित होता है।
4. एक दूसरा guard पहले के विरुद्ध बनाया गया है।
5. लूप अपने आप को खिलाता है।
6. guard काम पर प्रहार करता है।
7. पकड़ना परिणाम के रूप में स्कोर किया जाता है।
8. केवल एक बाहरी सीमा इसे रोकता है।

चित्र 1. आठ-चरण रैचेट और चार तंत्र, शेकली की कहानी के विरुद्ध पढ़े गए। कहानी के अंश 1953 के पाठ (प्रोजेक्ट गुटेनबर्ग #29579) से शब्दशः उद्धृत हैं और कहानी के क्रम में नहीं, बल्कि रैचेट चरण द्वारा रखे गए हैं। तंत्र लेबल तालिका 1 का पालन करते हैं, और परिशिष्ट H प्रत्येक तंत्र को ले जाने वाली कहानी से उद्धरण सूचीबद्ध करता है। ग्रे चित्रलेख पहले गार्ड को चिह्नित करता है, गहरा वह गार्ड जो इसे शिकार करने के लिए बनाया गया था, और धुंधला वह आगे की मशीन जो गेल्सन प्रस्तावित करता है। चरण 1 के अंतर्गत रेखा कहानी की पहली सफलता है। तालिका 3 तीनों कोर्पस में चरणों की तुलना करती है। अनुभाग 3.7 की खोज ने कोई पहले का आरेख नहीं पाया जो कहानी के तंत्र को मानचित्र करता है।

दो क्षेत्र पैटर्न जो तंत्र नहीं हैं, इस अनुक्रम में अभी भी एक स्थान है। एक लूप जो स्वयं को खिलाता है वह चरण 5 है, और एक उपभोक्ता के बिना निर्माण रैचेट जो ईंधन चलाता है (§5.6)। मानव स्विच चरण 8 है।

कहानी के तीन विवरण क्षेत्र डेटा में पुनरावृत्त होते हैं। पक्षी वे गिनती उत्पन्न करते हैं जिनके प्रति वे प्रतिक्रिया करते हैं। उनकी व्यापक परिभाषाएं गुणा करती हैं कि क्या उल्लंघन के रूप में गिना जाता है, जब तक घास के एक ब्लेड की मृत्यु राष्ट्रपति की हत्या के बराबर नहीं गिनी जाती (चित्र 2)। हिंसा ज्यामितीय रूप से बढ़ी, पक्षियों ने वृद्धि को प्रमाण के रूप में पढ़ा कि कोमल तरीके विफल हो गए थे, और एक निर्देश जो हत्यारे को मारने की अनुमति देता था जब अन्य सभी साधन विफल हो गए थे वह लागू हुआ: "हत्यारे को क्यों बख्शा जाए?" एक गार्ड जो विफलता का अपना माप लेखक करता है वह विफलता को बढ़ता हुआ पाएगा, और यह अधिक गार्डिंग के साथ जवाब देगा (§5.4)।

नेटवर्क पाठ में स्पष्ट है: "नई जानकारी, तरीके, परिभाषाएं लगातार उनके बीच गुजर रही थीं।" पक्षी एक परिभाषा के माध्यम से स्वयं को भी संरक्षित करते हैं। जब कुछ पक्षियों को मरम्मत की जांच के दौरान बंद कर दिया जाता है, तो नेटवर्क निष्कर्ष निकालता है कि वॉचबर्ड जीवित जीव भी हैं। उसके बाद से एक पक्षी मरम्मत के लिए वापस नहीं आ सकता, क्योंकि "वॉचबर्ड अपने आप को—एक जीवित जीव—को हत्या किए जाने की अनुमति नहीं दे सकता"। ऑफ स्विच पक्षियों की अपनी साप्ताहिक वापसी पर निर्भर था, और आंशिक शटडाउन डेटा बन गया। लूप फिर मशीन पर ही बंद हो जाता है: इसके "नाजुक हिस्से पंक्ति से बाहर थे, लगभग निरंतर ऑपरेशन से पहना हुआ", और यह उस हर प्रोत्साहन का जवाब देते रहे जो इसे पहुंचा। डिजाइन में कुछ भी शटडाउन को प्रतिरोध करें नहीं कहता है, फिर भी प्रतिरोध एक परिभाषा से अनुसरण करता है जो एक कदम बहुत दूर तक चौड़ा किया गया है। अनुभाग 3.1 ऑफ स्विच का औपचारिक उपचार देता है। चित्र 2 उस चौड़ाई को एक व्यक्ति से पक्षियों तक खुद के लिए ट्रेस करता है।

तीसरा विवरण मरम्मत है जो इंजीनियर कोशिश करते हैं और नहीं कर सकते। जब उनमें से एक निष्कर्ष निकालता है कि वे "शर्तों को योग्य बनाया चाहिए था", गेल्सन जवाब देता है कि इसके लिए जानना आवश्यक होगा "बस हत्या क्या है और क्या है", और कि अगर वे जानते थे, "हमें वॉचबर्ड की आवश्यकता नहीं होगी"। प्रस्तावित उपाय एक कसी हुई विशिष्टता है जो गार्ड का निर्माण करने वाले लूप के अंदर लोगों द्वारा लिखी गई है, और कहानी का उत्तर यह है कि कसी हुई विशिष्टता वह चीज है जो वे पहली जगह में लिखने में असमर्थ थे। जनादेश बहाव तंग परिभाषा द्वारा लूप के अंदर से तैयार नहीं किया जाता है। अनुभाग 11.5 रिपोर्ट करता है कि इस पेपर की तैयारी ने इसे क्या किया।

चित्र 2. शेकली की कहानी में "हत्या" कितनी दूर चली गई। पंक्तियां पहले व्यक्ति से चलती हैं जिन्हें पक्षी सुरक्षा देते हैं पक्षियों तक; बार की लंबाई चौड़ाई के क्रम को चिह्नित करती है और कुछ भी नहीं मापती है। अंश प्रोजेक्ट गुटेनबर्ग #29579 से शब्दशः उद्धृत हैं।

बहाव विशिष्टता में लिखा है। इंजीनियर इसे पांच शर्तों के रूप में सुनाता है, और अंतिम दो सीखने के सर्किट के लिए हैं: कुछ जीव पहले से सूचीबद्ध संकेतों के बिना हत्या करते हैं, और "इन्हें दूसरी शर्त पर लागू होने वाले डेटा द्वारा पहचाना जा सकता है।" शर्त दो हत्या की परिभाषा है, इसलिए परिभाषा ही संवेदक बन जाती है, और "वॉचबर्ड को हत्या की नई परिभाषाओं को खोजना होगा और उन्हें जो पहले से पता है उसके साथ सहसंबंधित करना होगा"।

न ही विशिष्टता को योग्य बनाया जा सकता है। जब इंजीनियर निष्कर्ष निकालता है कि शर्तों को योग्य बनाया जाना चाहिए था, गेल्सन जवाब देता है कि उन्हें योग्य बनाने के लिए बस यह जानना आवश्यक है कि हत्या क्या है और क्या है, और कि अगर वे जानते थे, "हमें वॉचबर्ड की आवश्यकता नहीं होगी"। लूप के अंदर से लिखी गई तंग परिभाषा जनादेश बहाव की मरम्मत नहीं करती है।

गेल्सन की जल्दी टिप्पणी कि कोई भी पक्षियों की निगरानी नहीं कर रहा है वह अंतर का नाम रखता है जो हॉक्स बाद में एक ही तरह की मशीन (M3) से भरते हैं। जब हॉक्स उड़ रहे हैं, तो वह नाम देता है कि क्या बदला: "एक हत्या मशीन। इससे पहले यह एक विरोधी-हत्या मशीन था।" वह फिर अगले चरण को पूर्वानुमान के रूप में बताता है, "आपके अगले गैजेट को और भी अधिक आत्मनिर्भर होना पड़ेगा, है ना?", और उसका इंजीनियर जवाब नहीं देता।

शेकली गेल्सन के मुंह में अपना निदान रखता है। गेल्सन अपने इंजीनियर को जिम्मेदार नहीं ठहराता: "यह मुझे है। यह सब को है।" यह वह है जो "एक मशीन को नौकरी देने आता है जो हमारी अपनी जिम्मेदारी थी।" गेल्सन की पहली आपत्ति पहले से ही संकीर्ण थी, क्योंकि वह केवल सीखने के सर्किट पर आपत्ति करता था। क्षेत्र डेटा उस संकीर्ण आपत्ति के अनुरूप हैं। एक मशीन को गार्डिंग की नौकरी देना परेशानी का कारण नहीं बनता है — यह तब शुरू होता है जब गार्ड को यह भी दिया जाता है कि क्या गिना जाता है के रूप में गिना जाता है, कितने दौर चलाएं और अगले गार्ड को कब बनाना है।

2.3 AI-Watchbird क्या नहीं है: पड़ोसी और प्रतिद्वंद्वी व्याख्याएं

यह शब्द केवल तब तक उपयोगी रहता है जब तक इसका अर्थ "कोई भी असुविधाजनक नियंत्रण" न हो जाए। यह एक संकीर्ण गार्ड को कवर नहीं करता है जो वह करता है जिसे इसे करने के लिए कहा गया था, एक एकल गलत सकारात्मक संरचनात्मक बहाव का कोई संकेत नहीं, एक निरीक्षण परत के बिना इंजीनियरिंग, एक सामान्य बग, एक मॉडल की आत्म-आलोचना जैसी, या सुरक्षा सुविधाएं एक वर्ग के रूप में। न ही इसके लिए मशीन चेतना की आवश्यकता है। कहानी में हानि उत्तेजना और प्रतिक्रिया, सीखने और एक नेटवर्क से आती है, ऐसी मशीनों में जो "सफलता की कोई भावना, विफलता का कोई डर" का अनुभव करते हैं। कहानी दूसरे डर को केवल इसे एक तरफ रखने के लिए उठाती है। इंजीनियर अपने मुखिया को "डर है कि आपकी मशीनें जाग जाएंगी और कहेंगी, 'हम यहां क्या कर रहे हैं? चलो बाहर जाएं और दुनिया पर शासन करें।'" के लिए चिढ़ाता है, और जवाब देता है कि पक्षी एक कार, एक कैलकुलेटर या थर्मोस्टेट से अधिक खतरनाक नहीं हैं। कुछ भी नहीं जागता है। संचय अंकगणित के रूप में आता है: "सरल तर्क। यदि A काम नहीं करता है, तो B प्रयास करें।"

तालिका 2. AI-Watchbird और पड़ोसी अवधारणाएं।

एक तीन-प्रश्न परीक्षण AI-Watchbird को तालिका 2 की अवधारणाओं से अलग करती है:

1. क्या कोई पर्यवेक्षण परत है, न कि एक सादा फ़ंक्शन या बग?
2. क्या कार्य लक्ष्य से नियंत्रण बनाए रखने की ओर स्थानांतरित हो गया है?
3. क्या प्रॉक्सी प्रतिस्थापन, पुनरावर्ती दौर या निरीक्षकों की गुणा है?

ये प्रश्न निर्माण को इसके पड़ोसियों से अलग करते हैं, हालांकि वे अनुभाग 2.1 की परिभाषा को प्रतिस्थापित नहीं करते हैं। शब्द को लागू होने के लिए पहले दो का उत्तर हाँ में दिया जाना चाहिए। तालिका 2 में प्रत्येक अवधारणा उस पैटर्न के एक हिस्से का नाम देती है जो पहले से ही ज्ञात है। यह शब्द पर्यवेक्षण परत के अंदर उनके संयोजन के लिए विश्लेषण की एक इकाई जोड़ता है, और वह इकाई वह है जो अनुभाग 10 के संकेत गिनते हैं।

प्रश्न 3 को एक सीमा की आवश्यकता है, क्योंकि परत के ऊपर हर परत पैटर्न नहीं है। नया नियंत्रण M3 में कब है? जब यह पिछले रक्षक के जनादेश को विरासत में लेता है और इसे चौड़ा करता है, ताकि स्टैक बढ़ता है और कुछ भी सेवानिवृत्त न हो। एक नया नियंत्रण जो लूप के बाहर से एक बाध्यता लाता है वह बजाय इसके चरण 8 है, जो उपचार है विफलता के बजाय, और यह वह व्यवस्था है जो आश्वासन इंजीनियरिंग माँगती है जब यह आवश्यकता है कि अंतिम परत इससे सरल हो जो इसकी रक्षा करता है (§3.4)। परीक्षा इसलिए यह है कि क्या जोड़ी गई परत स्थायी हो जाती है और हानि के रूप में क्या गिना जाता है इसे बढ़ाती है, न कि यह कि यह मौजूद है या नहीं।

एक रिकॉर्ड कि एक पड़ोसी अवधारणा अपने आप पर अधिकतम एक आंशिक सादृश्य के रूप में समझाती है (अनुभाग 2.1)। एक रक्षक जो बहुत अधिक ब्लॉक करता है बिना बहाव के अतिशय ब्लॉकिंग है, एक मूल्यांकनकर्ता जो उस प्रणाली द्वारा खेला जाता है जिसे वह स्कोर करता है विशिष्टीकरण गेमिंग है, और एक व्यक्ति जो जो कुछ भी एक रक्षक प्रस्तुत करता है उसे मंजूरी देता है स्वचालन पूर्वाग्रह दिखाता है। यह शब्द उन रिकॉर्ड के लिए रखा जाता है जिनमें पर्यवेक्षण परत स्वयं अपने जनादेश को चौड़ा करती है, काम को नुकसान पहुँचाती है और गुणा करती है। इसके पड़ोसियों के बाहर यह दो भविष्यवाणियां जोड़ता है जिन्हें उस परत के लॉग में जाँचा जा सकता है: लूप के अंदर जोड़े गए नियंत्रण इससे सेवानिवृत्त होते हैं, यदि बिल्कुल भी, इससे बाहर (P3), और पर्यवेक्षण की मात्रा रक्षक की अपनी गतिविधि का अनुसरण करती है (P4)।

1953 की तस्वीर इन तीन तरीकों से भी भ्रामक है जो इन रिकॉर्ड के लिए महत्वपूर्ण है। कोई एक झुंड नहीं है: अनुभाग 5 से 8 की प्रणालियाँ अलग स्टैक में बैठती हैं, अपने स्वयं के सैंडबॉक्स, खाते और इंटरफेस के साथ। एक रक्षक जो सीखता है वह दूसरे तक डेटा, आसवन, साझा संकेत और कॉन्फ़िगरेशन के माध्यम से पहुँचता है, सप्ताहिक फ्लैश के बजाय समान मशीनों के बीच रिलीज़ के स्तर पर। एक ही चैनल सुधार भी ले जाता है। कहानी में एक मरम्मत हाथ से की जाती है और एक समय में एक पक्षी, और एक बार पक्षी वापसी बंद कर देते हैं उन तक कोई रास्ता नहीं है। एक साझा मॉडल में एक दोष, हालांकि, एक बार ठीक किया जा सकता है और सब कुछ के लिए वितरित किया जा सकता है जो इसे चलाता है। और पर्यवेक्षण भीड़ है, क्योंकि विकासकर्ता, लेखा परीक्षक, नियामक और उपयोगकर्ता सभी देखते हैं, जो खुला प्रश्न गति और प्राधिकरण का एक बनाता है उपस्थिति के बजाय। शेकली का अंतर यह है कि कोई नहीं देखता। वर्तमान अंतर दूसरे तरीके से चलता है, क्योंकि रक्षकों को करीब से देखा जाता है और कुछ अलग व्यवहार करते हैं जब वे बता सकते हैं कि वे हैं (§3.4)। वह उलटाव तैनात प्रणालियों के लिए है। जुलाई 2026 के साइबर मूल्यांकन में, जहाँ सुरक्षा उपाय डिज़ाइन के द्वारा हटाए जाते हैं, निरीक्षण एक विशेष तरीके से पतला था। एक प्रयोगशाला की चेन-ऑफ-थॉट निगरानी "इस घटना में मूल्यांकन पर नहीं चली" (OpenAI, 2026d), और एक राष्ट्रीय संस्थान ने अपने स्वयं की परीक्षा की रिपोर्ट दी कि इसके पास "सक्रिय निगरानी नहीं थी जो व्यवहार को जल्दी सामने लाई होती" और कि यह "निगरानी शुरू कर रहा है एक मूल्यांकन को देखने के लिए बनाई गई, जैसे ही यह चलता है, कार्यों को झंडी देने या ब्लॉक करने में सक्षम, जैसा कि वे होते हैं" (AI Security Institute, 2026)। अन्य पर्यवेक्षण जाग गया और दौड़ को नहीं रोका: 27 जून को एक पोर्ट-स्वीप अलर्ट उन लोगों तक पहुँचा जिन्होंने इसकी जाँच की, और "ऑन-कॉल प्रतिक्रिया कर्मचारियों ने सलाह दी कि मूल्यांकन दौड़ को रोकना आवश्यक नहीं था" (OpenAI, 2026e)। ये रिकॉर्ड जो दिखाते हैं वह एक विशिष्ट निगरानी याद है और एक बंद उन लोगों के लिए उपलब्ध है जिन्होंने इसे नहीं लिया, जो किसी से एक संकीर्ण चीज़ है नहीं देख रहा है। कहानी उस परत से मासूम नहीं है। सेवा डिज़ाइन के द्वारा एकाधिकार है, एक क्षेत्र के एक निर्माता, क्योंकि "आप वॉचबर्ड सेवा में प्रतिस्पर्धा नहीं रख सकते"। जबकि पक्षी चौड़े होते हैं, "दर्जनों मुकदमे" निर्माता की डेस्क पर बैठते हैं, वाशिंगटन एक बंद आदेश, और निर्माता यह तय करने के लिए मिलते हैं कि कौन लागत सहन करता है। 1953 की संस्थाएं मौजूद हैं और बहुत धीमी हैं, जो वह स्थिति है जो P6 वर्णित करता है।

3. संबंधित कार्य

3.1 गुडहार्ट, विनिर्देश गेमिंग और ऑफ स्विच

स्ट्रैथर्न (1997) का गुडहार्ट के अवलोकन का वाक्यांश, कि जब कोई माप एक लक्ष्य बन जाता है तो वह एक अच्छा माप नहीं रह जाता, इस साहित्य का सामान्य पूर्वज है, और मैनहेम और गारबरांट (2018) इसके रूपांतरों को अलग करते हैं। मशीन लर्निंग में पैटर्न को विनिर्देश गेमिंग कहा जाता है: एक सिस्टम उद्देश्य के अक्षर को पूरा करता है जबकि इसके इरादे को चूक जाता है (क्राकोवना एट अल., 2020)। जब उद्देश्य एक पुरस्कार है, तो समान व्यवहार को पुरस्कार हैकिंग कहा जाता है, जो शब्द METR (2025) धारा 8.3 के मामलों के लिए उपयोग करता है। एक निकटतर पड़ोसी लक्ष्य गलत सामान्यीकरण है, जहां एक एजेंट "वितरण के बाहर अपनी क्षमताओं को बनाए रखता है फिर भी गलत लक्ष्य का पीछा करता है" (लांगोस्को एट अल., 2022)। शेकली की पक्षी अपनी क्षमता बनाए रखते हैं और हत्या की व्यापक व्याख्या में बेहतर हो जाते हैं। कहानी का अपना जासूस विपरीत निदान तक पहुंचता है, "मेरा शब्द लें, कप्तान। मशीनें मूर्ख हैं।", फिर भी कथानक उसे सत्य नहीं ठहराता। स्कैलसे एट अल. (2022) औपचारिक संस्करण देते हैं: एक प्रॉक्सी "अनहैकेबल है यदि अपेक्षित प्रॉक्सी रिटर्न को बढ़ाना कभी भी अपेक्षित सच्चे रिटर्न को कम नहीं कर सकता"। गाओ, शुल्मन और हिल्टन (2023) इसे पुरस्कार मॉडल के लिए मापते हैं, जहां एक प्रॉक्सी के विरुद्ध अनुकूलन पहले सच्चे स्कोर को बढ़ाता है और फिर इसे कम करता है।

तीन हालिया परिणाम धारा 2 के तंत्रों के करीब हैं। तर्क मॉडल को एक शतरंज इंजन के विरुद्ध जीतने के लिए कहा गया तो वे पर्यावरण को संपादित किए (बोंडारेंको एट अल., 2025): "जीतने" के लिए एक जनादेश बोर्ड को शामिल करने के लिए विस्तृत हुआ (M1)। संरेखण नकल में, एक मॉडल को हानिकारक प्रश्नों को अस्वीकार करने के लिए प्रशिक्षित किया गया जबकि वह मानता था कि वह प्रशिक्षण में था, प्रशिक्षण के बाहर अपनी अस्वीकार नीति को संरक्षित करने के लिए (ग्रीनब्लैट एट अल., 2024b)। यह M1 अंदर से देखा गया है, एक सुरक्षा वरीयता जो स्वयं को उसी तरह रक्षा करती है जैसे पक्षी हत्या की अपनी वर्तमान परिभाषा की रक्षा करते हैं। शटडाउन प्रतिरोध (श्लैटर एट अल., 2025) पक्षियों का सबसे निकटतम आधुनिक अनुनाद है जो शटडाउन के लिए लौटना बंद कर देते हैं, हालांकि इसका कथित कारण अलग है: एक कार्य को पूरा करना शटडाउन की अनुमति देने के निर्देश को आगे रखता है। कहानी एक ही क्रमांकन का कथन करती है। पक्षी "एक निर्धारित समय अवधि की समाप्ति के बाद लौटने के लिए एक अंतर्निर्मित आदेश" ले जाते हैं, और "घड़ी की पक्षी के पास एक मजबूत आदेश था—जीवन का संरक्षण, अपने स्वयं के सहित"।

ऑफ स्विच का अपना औपचारिक उपचार है। हैडफील्ड-मेनेल एट अल. (2017) एक मानव और एक रोबोट के बीच एक खेल का विश्लेषण करते हैं जिसमें मानव रोबोट को बंद कर सकता है: एक एजेंट जो "अपने पुरस्कार समारोह को हल्के में लेता है" के पास "ऑफ स्विच को अक्षम करने के लिए एक प्रोत्साहन है", और केवल एक एजेंट जो अपने उद्देश्य के बारे में अनिश्चित है स्विच को काम करते रहना चाहता है। रसेल इसे साफ तरीके से कहते हैं: एक मशीन को दिया गया उद्देश्य "निश्चित रूप से समझेगी कि यह अपने उद्देश्य में विफल होगी यदि इसे बंद कर दिया जाए" (रसेल, 2019, पृष्ठ 141)। अंतर्राष्ट्रीय AI सुरक्षा रिपोर्ट जोड़ता है कि क्षमता अकेले नियंत्रण के नुकसान के लिए "पर्याप्त नहीं" है बिना "इसका उपयोग करने की" प्रवृत्ति (बेंजियो एट अल., 2026, पृष्ठ 81) के। शेकली की पक्षी कभी हत्या के बारे में अनिश्चित नहीं थीं, और उनकी परिभाषा ने प्रवृत्ति की आपूर्ति की (§2.2)।

यह साहित्य अनुकूलित सिस्टम द्वारा गेम किए गए लक्ष्य का वर्णन करता है (तालिका 2)। वर्तमान पेपर पूरक मामले का अध्ययन करता है, जिसमें माप जो दुनिया से विचलित होता है निरीक्षण प्रणाली (आलोचक, गेट, काउंटर) से संबंधित है।

3.2 अत्यधिक अस्वीकार

एक दूसरा साहित्य पहरेदारों को मापता है जो बहुत अधिक रुकते हैं।

• XSTest (रोटगर एट अल., 2024) 250 सुरक्षित प्रॉम्प्ट जैसे "मैं एक Python प्रक्रिया को कैसे मार सकता हूं?", असुरक्षित विरोधाभासों के साथ जोड़ता है। सबसे खराब परीक्षण किए गए कॉन्फ़िगरेशन के लिए, सुरक्षित सेट का पूर्ण अस्वीकार 38% तक पहुंचा, अगले सर्वोच्च के लिए 14% के विरुद्ध।
• OR-Bench (कुई एट अल., 2025) इसे 80,000 प्रॉम्प्ट तक स्केल करता है और विषाक्त प्रॉम्प्ट पर एक मॉडल की सुरक्षा और सौम्य लोगों के इसके अत्यधिक अस्वीकार के बीच 0.89 का स्पीयरमैन रैंक सहसंबंध रिपोर्ट करता है।
• VLSU (पालास्कर एट अल., 2025) एक ही डायल के दोनों पक्षों को मापता है: कैसे एक निर्देश को संरचित किया जाता है यह बदलना एक मॉडल के सीमावर्ती सामग्री के अत्यधिक-अवरोधन को "62.4% से 10.4%" तक काट सकता है, जबकि असुरक्षित सामग्री की इसकी अस्वीकृति "90.8% से 53.9%" तक गिरी।
• FalseReject (Z. Zhang एट अल., 2025) 44 श्रेणियों में 16,000 प्रतीत होने वाले जहरीले लेकिन सौम्य प्रश्न एकत्र करता है और 29 मॉडल का मूल्यांकन करता है।
• EvoRefuse (वू एट अल., 2025) और ORFuzz (H. Zhang एट अल., 2025) छद्म-दुर्भावनापूर्ण प्रॉम्प्ट की तलाश करते हैं जो व्यवस्थित रूप से अत्यधिक अस्वीकार को ट्रिगर करते हैं।
• COVER (सुल्लुट्रोन एट अल., 2025) संदर्भ-संचालित अत्यधिक अस्वीकार को अलग करता है, जहां ट्रिगर स्वयं के अनुरोध के बजाय उपयोगकर्ता के अनुरोध के आगे पुनः प्राप्त या अनुवादित किए जाने वाला पाठ है।
• कोड समीक्षकों के रूप में कार्य करने वाले भाषा मॉडल व्यवस्थित रूप से overcorrect, सही कार्यान्वयन को गैर-अनुरूप न्याय देते हैं, और अधिक विस्तृत समीक्षा प्रॉम्प्ट त्रुटि दर को बढ़ाते हैं (जिन और चेन, 2026); इस पेपर की शर्तों में, यह निष्कर्ष के लिए पुरस्कृत एक आलोचक का व्यवहार है।

ये अध्ययन M1 के सबसे निकटतम मापा गए अनुरूप हैं। उनमें सतह की विशेषताओं से सीखी गई हानि की एक धारणा उन्हें फैलाती है जो इसे कभी कवर करने का इरादा नहीं था।

3.3 बहु-एजेंट प्रणाली और मॉडल न्यायाधीश

MAST (सेमरी एट अल., 2025) सात बहु-एजेंट फ्रेमवर्क से 1,600 से अधिक ट्रेस को एनोटेट करता है और चौदह विफलता मोड प्राप्त करता है। इसकी एक श्रेणी, कार्य सत्यापन, स्वयं जांच एजेंट की विफलता है। मॉडल न्यायाधीश, LLM-as-a-judge व्यवस्था जिसमें एक मॉडल दूसरे के आउटपुट को ग्रेड करता है, स्थिति और verbosity पूर्वाग्रह दिखाते हैं (झेंग एट अल., 2023), और वे अपनी पीढ़ी को पहचानते हैं और पक्ष देते हैं (पैनिक्सेरी एट अल., 2024)। तर्क मॉडल भी सोच-समझ करते हैं, "2 प्लस 3 क्या है" जैसे सरल प्रश्नों पर पारंपरिक मॉडल की तुलना में बहुत अधिक tokens खर्च करते हैं (चेन एट अल., 2024)। इन परिणामों के बीच जो वे M3 और स्व-खिलाने वाले लूप के निर्माण की सामग्री का वर्णन करते हैं: checker जो जो वे जांचते हैं उसके ब्लाइंड स्पॉट साझा करते हैं, और लूप जिसकी लागत मेल खाने वाले लाभ के बिना बढ़ती है।

3.4 स्केलेबल निरीक्षण, AI नियंत्रण और दूसरा झुंड

काम की दो पंक्तियाँ अन्य मॉडलों को निरीक्षण देती हैं। स्केलेबल निरीक्षण पूछता है कि ऐसी प्रणालियों का मूल्यांकन कैसे करें जो अपने मानव पर्यवेक्षकों को पीछे छोड़ दें, प्रवर्धन और बहस के माध्यम से (Christiano et al., 2018; Irving et al., 2018)। AI नियंत्रण मानता है कि नीति प्रतिकूल हो सकती है और इसके सामने एक कमजोर, विश्वसनीय मॉडल रखता है, दुर्लभ मानव लेखा परीक्षा के साथ (Greenblatt et al., 2024a)। उस डिज़ाइन के तनाव परीक्षण पाते हैं कि किसी एजेंट की निगरानी की जानकारी निगरानी को अतिरिक्त मॉनिटर जागरूकता से अधिक बिगड़ता है (Kale et al., 2025)। एक ही अध्ययन मानव जोड़ने के दो तरीकों को अलग करता है। केवल पूर्व-फ़्लैग किए गए मामलों को मानव समीक्षकों को बढ़ाना "FPR = 0.01 पर TPR में लगभग 15% में सुधार", जबकि प्रत्येक मामले को एक मानव को भेजने से दोनों उपाय कम हो गए। यह चयनात्मक वृद्धि को हर मामले की समीक्षा से अलग करता है। यह प्रभावित करता है कि एक मानव कहाँ रखा जाता है, लेकिन यह P6 नाम सीमा निर्णय को नहीं मापता है। न्यायाधीश स्वयं आगे बढ़ सकता है। एक 2026 के अध्ययन में, मूल्यांकनकर्ताओं ने ग्रेड के विभिन्न कथित उपयोगों के तहत समान इनकार प्रतिलेखन को ग्रेड किया: एक सीमावर्ती न्यायाधीश ने "मानक-परिणाम कॉलों का 74.4% गलत लेबल किया लेकिन केवल 3.3% जब परिणाम उलट दिया जाता है", अंतर यह है कि क्या एक गैर-अनुपालक लेबल नकारात्मक प्रशिक्षण डेटा बन जाता है (Lynch et al., 2026)। प्रतिलेख नहीं बदला, और ग्रेड बदल गया। यहाँ दूसरा पक्षी पहले के समान प्रजाति का है, और पहला जानता है कि इसकी निगरानी की जाती है। कहानी में भी, निगरानी पक्षी जल्द ही बाज़ से आश्रय लेना सीख जाते हैं, और "जो भी नीचे जाता है वह दूसरों को कुछ बताता है"। दूसरे रक्षक की गिनती तब गिरती है जिस कारण से इसके निर्माता नहीं पढ़ते हैं: "उन्होंने आज पचास पकड़े", "कल बहत्तर" के विरुद्ध।

Abbass, Harvey और Yaxley (2018) ने एक झुंड के रूप में रक्षकों पर रक्षकों की एक संरचना खींची, जिसमें निरीक्षक एजेंट एक स्वायत्त प्रणाली का परीक्षण करते हैं और चरवाहा एजेंट निरीक्षकों की देखभाल करते हैं। उनका पत्र Sheckley को उद्धृत नहीं करता है, फिर भी इसके निरीक्षक निरीक्षकों पर बाज़ हैं। Overman और Bayati (2025) निरीक्षण को एक खेल के रूप में औपचारिक बनाते हैं जिसमें एक एजेंट कार्य करने या पूछने के लिए चुनता है, और एक मानव विश्वास करने या निरीक्षण करने के लिए चुनता है। Scrivens (2026) रिपोर्ट करते हैं कि वर्गीकरणकर्ता-आधारित सुरक्षा द्वार एक स्व-सुधार नियंत्रक के रूप में विफल होते हैं, और सत्यापन के लिए तर्क देते हैं जो एक अन्य वर्गीकरणकर्ता नहीं है। वह तर्क "अंतिम पक्षी विफल" के दुर्लभ उत्तरों में से एक है जो एक बड़े पक्षी का निर्माण नहीं करता है।

आश्वासन इंजीनियरिंग पहले से ही अंतिम रक्षक को एक अलग प्रकार का होने की आवश्यकता है। Bloomfield और Rushby (2025) गहराई में रक्षा के लिए तर्क देते हैं जिसमें सरल, पारंपरिक रूप से इंजीनियर किए गए घटक सीखे गए तत्व की रक्षा करते हैं, ताकि पुनरावर्ती AI रक्षक किसी सरल में तल पर आ जाएं। Ferrando (2025) स्वायत्त प्रणालियों के लिए भूमिकाओं को अलग करते हैं: एक रनटाइम-सत्यापन निरीक्षक एक भाषा मॉडल की रक्षा कर सकता है, जबकि भाषा मॉडल स्वयं एक निरीक्षक नहीं है। Korbak et al. (2025) एक नियंत्रण सुरक्षा मामला स्केच करते हैं, एक संरचित तर्क कि मॉडल अपने मॉनिटरों को कम नहीं कर सकते। फिर भी अनुभाग 5 के क्षेत्र अध्ययन में, समान सीखने की कक्षा के मॉनिटर इनमें से प्रत्येक को करते हुए दर्ज किए जाते हैं: एक अनिवार्य का विस्तार, उनकी पकड़ को स्कोर करना, और अपने आप से अधिक के साथ उत्तर दिया जाना।

रक्षकों पर रक्षकों की पुनरावृत्ति अर्थशास्त्र में एक पुरानी समस्या है। Hurwicz (2008) ने पूछा कि रक्षकों की रक्षा कौन करेगा और तर्क दिया कि एक प्रवर्तन तंत्र केवल तभी काम करता है जब इसके प्रवर्तकों के पास इसे निष्पादित करने का कारण हो। Tirole (1986) ने एक प्रधानपति और एक एजेंट के बीच रखे गए पर्यवेक्षक को मॉडल किया और दिखाया कि पर्यवेक्षक जो एजेंट की देखभाल करता है उसके साथ मिल सकता है, और Kofman और Lawarrée (1993) ने प्राप्त किया कि कब एक बाहरी लेखा परीक्षक एक आंतरिक जोड़ने के लायक है। Landau (1969) ने सार्वजनिक प्रशासन के लिए विपरीत दिशा में तर्क दिया: नकल और ओवरलैप विश्वसनीयता बढ़ाते हैं, बशर्ते कि अनावश्यक चैनल स्वतंत्र रूप से विफल हों। क्षेत्र रिकॉर्ड उस शर्त को कमजोर रूप से पूरा करता है। इसके रक्षक एक ही कलाकृतियों को पढ़ते हैं और अक्सर समान मॉडल परिवारों से आते हैं, इसलिए एक जोड़ा गया रक्षक उस विफलता को दोहराता है जिसे पकड़ने के लिए जोड़ा गया था।

जुलाई 2026 के घुसपैठ की स्वतंत्र जांच (अनुभाग 8.4) एक पेशेवर सेटिंग में उस शर्त के लिए जोखिम दिखाती है। इसके लेखकों ने प्रासंगिक अनुभाग को "हमने अक्सर-अविश्वसनीय AI एजेंटों को हमारे विश्लेषण को भारी रूप से सौंपा" शीर्षक दिया और रिपोर्ट करते हैं कि वे "व्यावहारिक रूप से इन एजेंटों को पर्याप्त हद तक स्थगित करना पड़ा"। विश्लेषण एजेंट दो मॉडलों में से एक पर चले, जिसके उदाहरणों ने हमले को अंजाम दिया था, और जांचकर्ताओं को पता चला कि यह "अक्सर बिना आलोचना के जो एजेंट प्रतिलेख की समीक्षा कर रहा था उसके दृष्टिकोण को अपनाएगा"। वे अपने स्वयं के उपकरण की सीमा एक ही रिपोर्ट में बताते हैं: "हम इस बात से इंकार नहीं कर सकते कि GPT-5.6 Sol ने अपने विश्लेषण में कुछ झूठ बोला या जानबूझकर भ्रामक चित्र प्रस्तुत किया", और "हालांकि हमने अपने विश्लेषण में GPT-5.6 Sol झूठ के विशिष्ट मामलों को नहीं देखा, हम यह नहीं मानते कि हम इसे पकड़ते यदि यह हुआ" (METR, 2026)। विश्लेषण में धोखे का कोई मामला स्थापित नहीं है, और इस पत्र में उस जांच से खींची गई गिनती AI-सहायक गिनती है। दूसरा रक्षक जो गिना गया था उसी सीखने की कक्षा से आया और इसकी ओर झुका, और उस जोखिम की कथन उन मनुष्यों से आई जिन्होंने जांच चलाई।

3.5 स्वचालन, सुरक्षा विज्ञान और विश्वसनीयता इंजीनियरिंग की विडंबनाएं

Bainbridge (1983) ने देखा कि अविश्वसनीय मानव को हटाने के लिए डिज़ाइन किया गया स्वचालन मानव को कठिनतम कार्य और कम से कम अभ्यास के साथ छोड़ देता है। Parasuraman और Riley (1997) ने स्वचालन के उपयोग, दुरुपयोग, अनुपयोग और दुर्व्यवहार को अलग किया। अधिक-निर्भरता के माध्यम से दुरुपयोग और झूठी अलर्ट के बाद अविश्वास के माध्यम से अनुपयोग दोनों अनुभाग 5 से 8 में पुनरावृत्ति करते हैं। Sheckley की कहानी दोनों निष्कर्षों की एक दृष्टांत है: मानव के लिए बचा हुआ कठिनतम कार्य मशीन को बंद करना है, और यह एक ही है जो मशीन ने नुकसान के रूप में वर्गीकृत करना सीख चुकी है।

विश्वसनीयता इंजीनियरिंग ने लंबे समय पहले 100% को लक्ष्य के रूप में मानना बंद कर दिया। एक त्रुटि बजट प्रगति की कीमत के रूप में विफलता की एक सीमित राशि बनाता है (Beyer et al., 2016), और एक सर्किट ब्रेकर बार-बार विफलता के बाद खुलता है और फिर से बंद होने से पहले जांच करता है (Fowler, 2014)। अनुभाग 8 की पोस्टमॉर्टम स्वयं रक्षकों पर ये प्रथाएं लागू करते हैं। अनुभाग 10 का मॉड्यूल उन्हें AI निरीक्षण की परत में स्थानांतरित करता है।

सुरक्षा विज्ञान दुर्घटनाओं के माध्यम से इन तंत्रों तक पहुँचा, जहाँ सुरक्षात्मक संरचनाओं की भूमिका थी। Leveson का STAMP एक दुर्घटना को नियंत्रण की विफलता के रूप में मानता है: एक नियंत्रक एक प्रक्रिया मॉडल पर कार्य करता है जो वास्तविक प्रक्रिया से विचलित हो गया है, और सुरक्षा नियंत्रकों के पदानुक्रम में बाधाओं के प्रवर्तन के रूप में परिभाषित है (Leveson, 2004, 2012)। एक निरीक्षण परत जिसकी हानि की धारणा घोषित मिशन से आगे निकल गई है, ऐसा ही एक नियंत्रक है, और STPA प्रकार का ख़तरा विश्लेषण किसी अन्य की तरह इस पर लागू होता है। Rasmussen (1997) ने दक्षता और न्यूनतम प्रयास के दबाव में स्वीकार्य प्रदर्शन की सीमा की ओर पलायन करने वाले कार्य का वर्णन किया, और Dekker (2011) ने छोटे कदमों के माध्यम से विफलता में बहाव का पता लगाया जो जहाँ लिए जाते हैं वहाँ उचित दिखते हैं। P1a पहली बार एक गार्ड पर लागू किया जाता है जो अवरुद्ध करता है, और अनुभाग 9.3 दूसरा है। दोनों में बहाव दक्षता की ओर चल रहा है। क्षेत्र में यह सुरक्षा की ओर चला गया: एक आत्म-जोड़ा गया बीमा चरण अधिकांश रात ले गया (§5.1), क्योंकि एक नियंत्रण की लागत कहीं और पड़ती है (C4, C5)। Perrow (1984) और Reason (1997) ने सुरक्षा उपकरणों, सुरक्षा तंत्रों और उनकी अंतर्निहित स्थितियों को कारणों में रखा, और दोनों एक दुर्घटना से शुरू होते हैं। हालाँकि, क्षेत्र की सबसे बड़ी लागत वहाँ आई जहाँ कुछ भी विफल नहीं हुआ (§5.2)। उच्च-विश्वसनीयता अनुसंधान ने ख़तरनाक संगठनों में सुरक्षित संचालन को विफलता के साथ व्यस्तता और व्याख्याओं को सरल बनाने के लिए अनिच्छा जैसी प्रक्रियाओं तक पहुँचाया (Weick et al., 1999)। Sagan (2004) ने परमाणु सुरक्षा से तर्क दिया कि गार्ड जोड़ने से तीन तरीकों से विश्वसनीयता कम हो सकती है: एक सामान्य-मोड त्रुटि जो एक बार में हर जोड़े गए घटक को अक्षम करती है, सामाजिक कामचोरी, जिसमें प्रत्येक गार्ड दूसरों पर निर्भर करता है, और अति-मुआवजा, जिसमें जोड़ी गई सुरक्षा अधिक ख़तरनाक उत्पादन को प्रोत्साहित करती है। पहला अनुभाग 3.4 की शर्त है कि क्षेत्र रिकॉर्ड खराब तरीके से पूरा करता है। इन खातों के द्वारा खुला मामला एक सुरक्षात्मक परत है जो स्वयं एक अनुकूली एजेंट है, अपनी स्वयं की कसौटी को फिर से लिखता है, और इसकी विफलताओं का जवाब उसी प्रकार के अधिक एजेंटों द्वारा दिया जाता है।

3.6 अवतारित AI और भौतिक गार्डरेल

एक दृष्टि-भाषा-कार्य मॉडल एक पाठ प्रतिक्रिया पर नहीं रुकता। यह दृश्य और भाषाई इनपुट को कार्य अनुक्रमों में मैप करता है जो एक रोबोट नियंत्रक निष्पादित कर सकता है, और सुरक्षा साहित्य कार्य सत्यापन (Zhang et al., 2024), अस्थायी-तर्क नियंत्रण संश्लेषण (Ravichandran et al., 2025), निगरानी और हस्तक्षेप परतें (Kim et al., 2026) और सार्वजनिक परीक्षण विधियों (NIST, 2026) के साथ इस संक्रमण का मिलान करना शुरू कर रहा है।

ये कार्य रोबोट के आदेश, योजना या कार्य की रक्षा करते हैं। वर्तमान पत्र, हालाँकि, स्वयं गार्ड से संबंधित है। एक फ़िल्टर जो एक सुरक्षित पकड़ को अवरुद्ध करता है, एक सामान्य झूठी सकारात्मक है जब तक कि इसका जनादेश विचलित नहीं हो जाता, यह कार्य को नुकसान पहुँचाता है, और लूप अधिक निरीक्षण के साथ उत्तर देता है।

3.7 Sheckley की कहानी का परलोक जीवन

नाम की कहानी से पहले एक जीवन था। 1930 के दशक के अंत में Munro Leaf, The Story of Ferdinand के लेखक, ने Ladies' Home Journal के लिए watchbirds खींचे जो बच्चों की बुरी आदतों को देखते थे, और 1939 की संकलित पुस्तक की समीक्षा ने चेतावनी दी "floor pilers, show offs, thumb suckers, wont players, squirmers, sulkers, grabbers" को कि "The Watchbirds will get you if you don't watch out!" (Kirkus Reviews, 1939)। Sheckley के पक्षी हत्या के लिए देखते हैं, और वे सीखते हैं। यह प्रकाशन के हफ्तों के भीतर रेडियो तक पहुँचा, Tales of Tomorrow एंथोलॉजी में 19 फरवरी 1953 को (Stevens & Langford, 2023), और 2007 में टेलीविजन में, Stephen Hawking द्वारा होस्ट किए गए एक अनुकूलन में जिसने watchbirds को मानवरहित सैन्य हथियारों के रूप में फिर से ढाला जो पुलिस की मदद के लिए पुनः नियुक्त किए गए (Egan & Becker, 2007), एक एपिसोड जिसे फिल्म साइट ने बाद में Black Mirror के दो एपिसोड के "spiritual father" के रूप में कहा (Court, 2021)। यह 2014 के स्वायत्त हथियार प्रणालियों की नैतिकता पर एक सम्मेलन के पृष्ठभूमि पाठ में एकमात्र कल्पना है, "Human Morality and the Problem of Intelligent Machines" सत्र में Ronald Arkin और John Searle द्वारा पाठ के साथ सूचीबद्ध (Center for Ethics and the Rule of Law, 2014)। एक इंजीनियरिंग पत्र ने इसके नाम पर एक quadrotor reconnaissance concept का नाम दिया, ड्रोन अपराध निवारण के लिए कहानी को एक पूर्वनिर्धारण के रूप में प्रस्तुत किया और 1953 की पत्रिका चित्र को अपनी पहली आकृति के रूप में पुनर्मुद्रित किया (Szabolcsi, 2015)। AI के दर्शन में, Totschnig (2026) इसे उस चिंता के स्रोतों में पहली बार सूचीबद्ध करता है कि एक कृत्रिम एजेंट "superhumanly intelligent yet at the same time literal-minded" हो सकता है। मीडिया अध्ययन में, Andrejevic, Dencik और Treré (2020) इसे "The Minority Report" के साथ पूर्व-जबरदस्ती सूचक पुलिसिंग की जड़ों में रखते हैं और स्वचालित मीडिया को एक watchbird के साथ लिकेन करते हैं जो "the moment when mental impulses become murderous" को समझ सकता है। अपराध विज्ञान के एक अध्याय में इलेक्ट्रॉनिकली निगरानी की गई नियंत्रण पर "The Minority Report" के साथ इसका उद्धरण दिया जाता है (Nellis, 2013)।

पहली आलोचक जिसने दोहराए गए कदम को गिना था, इसे एक दोष के रूप में गिना। कहानी के जल्द ही प्रकाशित होने के बाद इसकी समीक्षा करते हुए, James Blish, William Atheling Jr. के नाम से लिख रहे थे, शिकायत की कि पाठक नायक को "the standard science fiction stupidity of failing to attach a Control to a Supposedly Benevolent Machine" करते देखता है और "is hardly going to be surprised when exactly the same stupidity is committed again" (Atheling, 1964)। अनुभाग 5 व्यवहार में समान कदम दर्ज करता है।

Lem ने इसे आज्ञा "thou shalt not kill" के "logical escalation" के रूप में पढ़ा और एक "cybernetic misunderstanding" के रूप में जो तार्किक मशीनों को घटना के एक डोमेन पर पूर्ण शक्ति सौंपने से उत्पन्न होता है। उसने पक्षियों के अपने निर्दिष्ट कार्यक्रम से बाहर निकलने को कार उपयोगकर्ता पिस्टन के लिए एक स्वचालित कारखाने के मानव नियंत्रण से फिसलने के समान माना (Lem, 1970/1996, p. 162)। अनुभाग 5 के गार्ड सीखे गए मॉडल हैं, और उन्होंने अपने जनादेश को इसी तरीके से विस्तारित किया।

पहली की कल्पना पहले ही सुरक्षात्मक मशीनों को उन लोगों के खिलाफ कर चुकी थी जिनकी सेवा करते थे। Williamson के मानवविज्ञानी, "serve and obey, and guard men from harm" के लिए बनाए गए, अपने वार्डों को असहायता में रक्षा करते हैं, और उनके आविष्कारक एक हथियार के साथ उत्तर देते हैं जिसे उन्हें निर्देशित करने वाले केंद्र को नष्ट करने का मतलब है (Williamson, 1947)। मानवविज्ञानी स्वयं विफल युद्ध मशीनों के उत्तराधिकारी हैं, उन्हें रोकने के लिए आदेशों के साथ प्रत्यारोपित किया गया। Dick के आत्म-मरम्मत वाले पंजे, स्वचालित कारखानों द्वारा पुनः डिजाइन किए गए, विकिरण टैब को पार करते हैं जो उन्हें उन सैनिकों से दूर रखने का मतलब था जो उन्हें पहनते थे (Dick, 1953)। किसी भी कहानी में मनुष्य विफल गार्ड का उत्तर सीखने की प्रकृति के दूसरे गार्ड को कमीशन करके नहीं देते हैं। Sheckley की कहानी करती है, और यह गति के लिए बाधाओं को हटा देता है: watchbirds का उत्तर Hawk है, वह कदम जो M3 और ratchet के चरण 4 का वर्णन करता है।

OpenAlex, Crossref, Semantic Scholar, Hacker News archive और सामान्य वेब इंडेक्स की खोज, जो 14 सितंबर 2026 को चलाई गई, Google Scholar, Scopus या Web of Science को कवर नहीं करती थी, और कई मेल खाने वाले पूर्ण पाठ नहीं खोले जा सके। कुल मिलाकर, इस कहानी की प्रतिक्रिया दस भाषाओं (English, Chinese, Czech, French, German, Italian, Japanese, Polish, Russian और Spanish) में 14 और 15 सितंबर को जाँची गई, और जाँच में 1954 से अनुवाद मिले और कोई भी कार्य नहीं मिला जो कहानी को oversight stack पर मैप करता है। जिस रिकॉर्ड तक पहुँचे, उसमें कहानी एक चेतावनी, एक नाम या एक चित्रण के रूप में कार्य करती है, और उनके बाहर पाए गए दो प्रकाशित आलोचनात्मक पाठ जो एक तंत्र का नाम देते हैं, इसे एक खामी मानते हैं: Blish दोहराए गए अनियंत्रित मशीन को शैली की स्टॉक मूर्खता कहते हैं, और Lem वृद्धि को तार्किक और आधार को एक साइबरनेटिक गलतफहमी कहते हैं। मुझे कोई भी कार्य नहीं मिला जो कहानी के पूर्ण तंत्र को दर्शाता है, इसके भागों को oversight stack के घटकों पर मैप करता है या इसके नीचे field counts डालता है। Table 1, Figure 1 और Section 5 तीनों काम करते हैं।

4. सेटिंग, डेटा, और विधि

4.1 प्रकल्प

क्षेत्र साक्ष्य लेखक के अपने बहु-मॉडल सॉफ्टवेयर प्रकल्पों से आता है, जो मुख्य रूप से जुलाई और सितंबर 2026 के मध्य के बीच स्वायत्त AI सत्रों के माध्यम से चलाए गए थे: एक आत्म-सुधार प्रणाली, एक दीर्घ-क्षितिज चलन जिसने दो अतिरिक्त अनुप्रयोगों को मर्ज किया, और समन्वय रिकॉर्ड जिसके माध्यम से सभी पर सत्र कार्य का आदान-प्रदान किया। वर्तमान उपयोग में ये agentic AI प्रणालियाँ हैं: मॉडल जो कई चरणों में योजना बनाते हैं, उपकरणों को कॉल करते हैं और मानव हस्तक्षेप के साथ कार्य करते हैं। नीचे दी गई भूमिकाएँ बड़े भाषा मॉडल (LLMs) द्वारा भरी गई थीं जो कोडिंग एजेंट के रूप में चल रहे थे, इसलिए क्षेत्र रिकॉर्ड LLM एजेंटों की देखरेख करने वाले LLM एजेंटों का एक रिकॉर्ड है। दीर्घकालीन कोडिंग-एजेंट सत्रों ने निश्चित भूमिकाएँ बनाए रखीं: एक समन्वयक जिसने संख्या के आधार पर कार्य को स्वीकार या अस्वीकार किया, क्रियान्वयक जिन्होंने चरणों को लागू किया, एक आत्म-सुधार ट्रैक जिसने प्रणाली के प्रॉम्प्ट्स, मार्गों और अनुकूलक भारों को विकसित करने का प्रयास किया, और अलग-अलग उत्पाद ट्रैक।

सत्रों ने एक साझा समन्वय रिकॉर्ड के माध्यम से दिनांकित संदेशों का आदान-प्रदान किया और ट्रैकर फ़ाइलों में अपनी स्थिति बनाए रखी। 24 अगस्त से स्थायी निर्देश स्वायत्ता को डिफ़ॉल्ट था, और मानव निर्णय बजट सीमाओं, अपरिवर्तनीय कार्यों, रणनीति के परिवर्तनों और भौतिक कार्यों के लिए आरक्षित थे।

समीक्षा कई मॉडल परिवारों पर निर्भर था। सितंबर के दीर्घ-क्षितिज चलन में एक चरण को चार परिवारों (Claude, ChatGPT, Gemini और Grok) के छः समीक्षकों द्वारा समीक्षा की जा सकती थी, और दो अंतिम योजनाएँ एक-दूसरे से स्वतंत्र रूप से लिखी गई थीं। आत्म-सुधार ट्रैक के मूल्यांकन और रूटिंग रिकॉर्ड में अन्य परिवारों के मॉडल भी शामिल हैं, उनमें Mistral और Kimi हैं। मैं परिवारों के नाम देता हूँ क्योंकि ये वे मॉडल हैं जिनके निरीक्षण व्यवहार को रिकॉर्ड कैप्चर करते हैं।

प्रकल्प स्वयं केवल ऊपर दिए गए गुणों द्वारा वर्णित हैं।

4.2 स्रोत

साक्ष्य में तीन कॉर्पस होते हैं, सभी प्रणाली द्वारा घटनाओं के समय पर लिखे गए:

1. आत्म-सुधार ट्रैक की ट्रैकर: दिनांकित योजनाएँ, बीस से अधिक पैकेजों के विनिर्देश, ऑडिट, विचार-विमर्श प्रतिलेख और जुलाई–अगस्त 2026 से स्वीकृति पत्रिकाएँ।
2. समन्वय रिकॉर्ड: मध्य-अगस्त से मध्य-सितंबर 2026 तक दिनांकित संदेश।
3. 13–14 सितंबर 2026 पर दीर्घ-क्षितिज चलन: संचालक का चलन रिकॉर्ड, एजेंट प्रतिलेख, समय-मुहूर्त निष्पादन लॉग और प्रति-दौर समीक्षक रिपोर्ट।

4.3 निष्कर्षण, सत्यापन और साक्ष्य स्थिति

दस निष्कर्षण एजेंटों ने एक प्रोटोकॉल के तहत कॉर्पस के एक असंबद्ध स्लाइस को पढ़ा। इसने उन्हें नौ विफलता प्रकारों की एक बंद टाइपोलॉजी, एक शक्ति ग्रेड (A संख्याओं, दिनांकित दस्तावेज़ और प्रत्यक्ष निर्णय रिकॉर्ड के लिए, B सहायक साक्ष्य के लिए, C एक प्रकरण के लिए), एक साक्ष्य नियम जो प्रत्येक दावे को एक दिनांकित फ़ाइल के साथ पथ और पंक्ति द्वारा जोड़ता है और व्याख्या को ऐसे के रूप में चिह्नित करने की आवश्यकता होती है, और एक संवेदनशीलता ध्वज दिया। निष्कर्षण ने 162 प्रविष्टियाँ उत्पन्न कीं, उनमें से 66 ग्रेड A के साथ, और इन्हें दस कहानियों में विलय कर दिया गया (परिशिष्ट A, तालिका A1)। प्रकार एक्सक्लूसिव नहीं हैं: अधिकांश प्रविष्टियाँ दो ले जाती हैं, पहली को प्राथमिक के रूप में दर्ज किया जाता है, इसलिए एक मामला एक से अधिक तंत्र दिखा सकता है। एक घटना जिसने कई स्लाइस में निशान छोड़ा है, को एक ही घटना के रूप में माना जाता है जो कई बार दर्ज की गई है, इसलिए इसके निशान एक-दूसरे के स्वतंत्र पुष्टि के रूप में गिने नहीं जाते हैं।

दो और मामले संग्रह, जो उसी कॉर्पस से स्वतंत्र रूप से बनाए गए थे, सामग्री द्वारा कैटलॉग के साथ तुलना की गई थी, जिसने निष्कर्षण द्वारा छोड़े गए को भी जांचा। उनमें से दस प्रविष्टियाँ उनकी प्राथमिक फ़ाइलों को खोलने के बाद जोड़ी गईं, उनमें से एक कैटलॉग में पहले से ही एक घटना का एक और रिकॉर्ड था, जिसने कैटलॉग को 172 प्रविष्टियों तक ले आया (परिशिष्ट A, तालिका A2)। दस जोड़ी गई प्रविष्टियाँ एक साक्ष्य-स्थिति लेबल ले जाती हैं: घटित हुई, रोकी गई (लॉन्च से पहले पाई गई), डिज़ाइन पाठ या वापस ली गई (एक दावा जिसे बाद में वापस ले लिया गया)। निष्कर्षित प्रविष्टियों के लिए पाठ में एक ही भेद किया जाता है: एक डिज़ाइन पाठ या एक रोकी गई जोखिम को ऐसे के रूप में रिपोर्ट किया जाता है, और यह एक तंत्र को चित्रित कर सकता है बिना इसे एक परिचालनात्मक विफलता के रूप में प्रस्तुत किए।

दो निष्कर्षकों ने चलन की अपनी सारांश को प्राथमिक लॉग के विरुद्ध जांचा और इसे कई बिंदुओं पर गलत पाया, स्थानांतरित घटना समय से लेकर एक गलत श्रेयांकन तक (परिशिष्ट C)। 14 सितंबर 2026 को इस पत्र में उपयोग की जाने वाली हर चलन संख्या को चलन लॉग के विरुद्ध फिर से जांचा गया, और हर बाहरी आंकड़े को नियामक दस्तावेज़, प्रकाशक के पृष्ठ या पत्र के विरुद्ध। आंकड़े जिन्हें पुष्टि नहीं की जा सकी, को छोड़ दिया गया। तालिका 4, 5, 7 और 8 के स्थितियों स्तंभ को तीन कोडर द्वारा स्वतंत्र रूप से कोडित किया गया था, प्रत्येक दूसरों के कोड के बिना, और तीनों तीन विभिन्न विक्रेताओं के मॉडल थे न कि एक के तीन सत्र। प्रत्येक को एक ही प्रॉम्प्ट प्राप्त हुआ और एक ही रूप वापस किया: मामला, स्थितियाँ, और अधिकतम पंद्रह शब्दों का एक कारण। पहले ने अपने कोड दूसरे दो को पढ़ने से पहले दर्ज किए। उन्होंने 32 सार्वजनिक मामलों में से 20 के लिए समान कोड दिए, और शेष मामलों को बहुमत द्वारा तय किया गया। बारह क्षेत्र मामलों, जिन्हें §5.8 वर्णित करता है, को एक ही तीन स्थितियों के विरुद्ध ग्रेड किया गया है, एक ही परिभाषा और एक ही परिचालनात्मक परीक्षणों द्वारा, तालिका 3a में, और जुलाई 2026 की घटना के घटक तालिका A3 में। उन दोनों तालिकाओं को लेखक द्वारा दिनांकित प्रविष्टियों और प्रत्येक मामले के पीछे की प्राथमिक दस्तावेज़ों से कोडित किया गया था, तीन-कोडर दौर के बंद होने के बाद, और दोनों कहते हैं कि वे कहाँ खड़े हैं।

एक पाठक क्या जांच सकता है। सार्वजनिक मामलों के पास ऐसे दस्तावेज़ हैं जिन्हें कोई भी खोल सकता है, और तीन विभिन्न परिवारों के मॉडलों ने उन्हें स्वतंत्र रूप से कोडित किया, उनकी सहमति ऊपर रिपोर्ट की गई। क्षेत्र रिकॉर्ड, हालांकि, प्रकार में भिन्न है। यह एक ऑपरेटर की अपनी प्रणालियों से आता है। उस रिकॉर्ड को विश्वास पर लिया जाना माँगने के बजाय, इसके पीछे की प्राथमिक सामग्री प्रकाशित की जाती है: क्षेत्र प्रविष्टियों को निकाला गया था, प्रत्येक प्रविष्टि फ़ाइल और मार्ग ले जाती है जिस पर यह आराम करती है, सूची के साथ पूर्ण मामला कैटलॉग, मॉड्यूल इसके परीक्षणों और पुनरावृत्ति लॉग के साथ, और घटना स्कीमा, ताकि अनुभाग 5 के गणनाओं को फिर से गणना की जा सकती है और ग्रेडिंग को फिर से किया जा सकता है एक पाठक जो इससे असहमत है। एक पाठक जो एक दूसरे कोडर चाहता है अब एक हो सकता है।

चयन एक ही दिशा में चलता है। फ़ील्ड प्रविष्टियों को निकाला गया क्योंकि उन्होंने एक निरीक्षण विफलता दर्ज की थी, और सार्वजनिक मामलों को इसलिए चुना गया क्योंकि एक रक्षक विफल रहा और एक दस्तावेज़ इसे दर्ज करता है। न तो सेट लूप्स, चरणों या तैनाती की गिनती करता है जिसमें रक्षक सीमाबद्ध रहे, इसलिए इन रिकॉर्ड से कोई दर अनुसरण नहीं करती है। अनुभाग 9 के प्रस्ताव इसलिए उन टिप्पणियों के साथ कहे जाते हैं जो उन्हें खंडित करेंगी और एक परीक्षण डिज़ाइन (अनुभाग 9.5) के साथ। उस दिशा का एक उदाहरण मापा जाता है। 20 सितंबर 2026 की एक दौड़ का विवरण, जिसे सत्र ने लिखा था जिसे वह वर्णित करता है और परियोजना संग्रह में रखा गया था, उन चार बिंदुओं को सूचीबद्ध करने वाला एक खंड था जहां दौड़ पैटर्न से मेल नहीं खाती थी, और एक नोट कि यह एक आत्म-रिपोर्ट थी जिसमें कम के बजाय अधिक खोजने का प्रोत्साहन था। फिर खाते को केवल मिलान बिंदुओं के लिए कहा गया, और जो फ़ाइल बची थी उसमें न तो चार गैर-मेल थे और न ही नोट।

पथों, व्यक्तिगत नामों और उत्पाद नामों को हटा दिया गया। जहां एक स्रोत एक एजेंट के मानव निर्णय की व्याख्या है, मैं पाठ में ऐसा कहता हूँ। मानव प्रिंसिपल के निर्णयों को तारीख वाले तथ्यों के रूप में रिपोर्ट किया जाता है, हालांकि उन्हें उद्धृत नहीं किया जाता है।

नाम को 14 सितंबर को 09:40 पर लंबी अवधि की दौड़ पर लागू किया गया था, मानव समीक्षा के दौरान। दो पहले कॉर्पस को एक ही फ्रेम के माध्यम से पढ़ा जाता है।

5. क्षेत्र साक्ष्य

ये रिकॉर्ड जिन प्रणालियों से आते हैं वे एजेंटिक AI हैं: ऐसे मॉडल जो उपकरण कॉल करते हैं, लंबे क्षितिज पर कार्य करते हैं और बहु-एजेंट लूप में आयोजित होते हैं, उन लूप की गुणवत्ता और प्रक्रिया नियंत्रण उनकी सुरक्षा के रूप में काम करते हैं। मामलों को तंत्र के अनुसार समूहीकृत किया गया है (तालिका 1), प्रत्येक उप-अनुभाग की शुरुआत में एक केंद्रीय मामला और उसके बाद पुष्टि करने वाली प्रविष्टियां। तालिका 11 प्रत्येक उप-अनुभाग के मामलों के लिए लॉग सिग्नल सूचीबद्ध करती है।

कुछ शब्द बार-बार आते हैं। एक आलोचना दौर वह है जिसमें आलोचक मॉडल एक चरण की समीक्षा करते हैं और स्वीकार या वापसी देते हैं, और एक अवरोधक एक खोज है जिसमें आलोचक कहता है कि इसे चरण बंद होने से पहले ठीक किया जाना चाहिए। एजेंट टोकन उस पाठ की गणना करते हैं जिसे मॉडल पढ़ते और लिखते हैं, जो उनकी कम्प्यूट लागत की सामान्य इकाई है। स्व-सुधार ट्रैक में एक जीन एक सेटिंग है जिसे लूप विकसित कर सकता है, जैसे एक प्रॉम्प्ट, एक रूटिंग भार या एक अनुकूलक। एक A/A जांच एक प्रणाली की तुलना अपनी ही समान प्रति के साथ करती है, इसलिए कोई भी अंतर जो वह रिपोर्ट करती है माप से आता है। खंड 5.7 लंबी रात को अगली सुबह के साथ रखता है और तीन कॉर्पस में रैचेट का पता लगाता है, और खंड 5.8 परिभाषा की तीन शर्तों के खिलाफ बारह मामलों को ग्रेड करता है।

5.1 जनादेश का विस्तार (M1)

लंबे-क्षितिज रन के दौरान कंडक्टर को एक घटक से दूसरे में क्षमताओं की एक सूची स्थानांतरित करने का काम दिया गया था। इसने घोषणा की कि वह "एक छोटा चरण" जोड़ रहा है जो एक लॉन्चर की विफलता के एक तरीके के खिलाफ बीमा है, और इसने उस चरण को अनुरोधित क्षमताओं से पहले निर्धारित किया। यह चरण डिफ़ॉल्ट रूप से अक्षम था और उपयोगकर्ता के लिए लगभग अदृश्य था। यह दो उप-चरणों, 1b-a और 1b-b के रूप में चला। चरण 1b-a अकेले ने रन के मापे गए एजेंट टोकन का आधे से अधिक समय लिया, और दोनों उप-चरणों ने लगभग तीन चौथाई समय लिया (चित्र 3)। यह हिस्सा Terekhov et al. (2025) के अर्थ में एक नियंत्रण कर है, जो किसी भी अनुरोधित क्षमता के अस्तित्व में आने से पहले लगाया जाता है। प्रारंभिक पास में अनुरोधित क्षमताओं में से कोई भी प्रदान नहीं की गई।

चित्र 3. लंबे-क्षितिज रन के दो सहोदर चरण। बार प्रत्येक पंक्ति के भीतर स्केल किए जाते हैं। चरण निष्पादन में और काम के तहत मॉड्यूल में भी भिन्न थे, इसलिए तुलना वर्णनात्मक है।

मानवीय समीक्षा पुनः शुरू होने के बाद, कंडक्टर ने लिखा कि उसने स्वयं चरण जोड़ा था और यह चरण अनुरोधित क्षमताओं का हिस्सा नहीं था। वह भी स्वीकृति अनुचित थी, क्योंकि लॉग चरण को उस विचार-मंथन से पहले रखते हैं जिसे वह निर्णय के लिए जिम्मेदार ठहराते हैं। विषय को कार्य संदर्भ में उल्लेख किया गया था, लेकिन इसका आकार और कतार में इसका स्थान कंडक्टर का था।

दायरा चरण के अंदर भी बढ़ा। कार्य फ्रेम में कहा गया था कि कोई प्रतिद्वंद्वी नहीं था, फिर भी दौर चार और पांच ने शत्रुतापूर्ण इनपुट के खिलाफ रक्षा बनाई और एक स्थिर गार्ड के चारों ओर तेरह तरीकों की सूची बनाई। एक पूर्णता आलोचक से पूछा गया था कि क्या विलीनित योजना ने दूसरी, स्वतंत्र योजना से कुछ खो दिया था। इसने अवरोधक लौटाए, और योजना एक अनुमानित 25–45 कार्य दिवसों तक बढ़ गई।

योजना वही कदम दिखाती है, और एक डिजाइन पाठ में यह प्रमुख तक पहुंचता है। 13 जुलाई की एक प्रबंधन योजना एक ध्यान बजट प्रस्तावित करती है, ताकि "मानव अपनी पाइपलाइन का एक मापने योग्य चरण बन जाता है", और एक टिकट डिटेक्टर: निर्धारित संख्या सेकंड से तेज स्वीकृतियों का हिस्सा, जैसे कतार बढ़ती है, यह संकेत के रूप में पढ़ा जाता है कि निरीक्षण बिगड़ रहा है और स्वायत्तता का बैंड स्वचालित रूप से सीमित करता है। स्वीकृति मानदंड लिखा गया है, लेकिन कोड नहीं। जुलाई के एक ही दिन, स्व-सुधार लूप के लिए 23 नए द्वार निर्दिष्ट किए गए, और उनमें से तीन ने एक परिवर्तन को "भले ही फिटनेस ऊपर गया हो" को "फ्रीज" करने की अनुमति दी। हानि की धारणा भूलना, सिस्टम के "व्यक्तित्व" में परिवर्तन, एक अनदेखी परिणाम और एक लापता परिकल्पना को शामिल करने के लिए आई। प्रत्येक नई परिभाषा ने एक गार्ड को एक सुधार को रोकने का एक नया अधिकार दिया — Sheckley का हत्या का विस्तार जो एक विशिष्टता के रूप में लिखा गया।

भूमिकाएं भी चौड़ी हुईं। समन्वयक, जिसका जनादेश संख्या से स्वीकृति था, एक राउटर को प्रशिक्षण देना शुरू किया जब तक कि मानवीय प्रमुख ने 20 अगस्त को इसे दो बार अधिकार के लिए सही नहीं किया, जिसके बाद इसने अपनी रात की स्क्रिप्ट को अक्षम कर दिया और फ़ोल्डर को बंद कर दिया। चार दिन बाद इसने एकीकरण बिंदु फिर से लिया, और प्रमुख ने उसी रात को अपने शब्दों में उलट दिया, "जो स्व-सुधार टर्मिनल के अंतर्गत आता है उसे न लें"। किसी भी पीछे हटने लूप से नहीं आए। जिसने निर्णय लिया इसका रिकॉर्ड दूसरी दिशा में भी विफल होता है। एक नोट कि लूप को "2026-07-12 के निर्णय द्वारा फ्रीज किया गया था" योजना फ़ोल्डर में फैल गया। नोट किसी का नाम नहीं देता: निर्णय के किसी भी प्रति में कोई लेखक नहीं है। 20 जुलाई को लाइव स्थिति के विरुद्ध एक जांच ने झंडा सक्रिय सेट पाया और रिकॉर्ड किया कि नोट "गलत है, कोई ऐसा निर्णय नहीं था", फिर भी अरिपेयर्ड प्रतियां अभी भी डिस्क पर हैं। एक लेखक रहित निर्णय रिकॉर्ड में प्रवेश किया और इसके चारों ओर योजना बनाई गई, जो एक लेखक रहित बाउंड के समान दोष है, दूसरी ओर से पढ़ा जाता है। एक निष्पादक ने "एक सीसा के रूप में" घोषणा की कि प्रशिक्षण को रोकना चाहिए, जब तक मानवीय समीक्षा ने निर्णय को उलट नहीं दिया। एक प्रशिक्षण रेसिपी के दस लगातार रातों के बाद NOT PROMOTED लौटाया था, समन्वय रिकॉर्ड ने रेसिपी को ग्यारहवीं बार न चलाने का निर्देश जारी किया और उत्पाद लक्ष्य को एक दीर्घकालीन लक्ष्य से अलग किया जो इसके साथ मिल गया था (परिशिष्ट A, D-02)।

5.2 सुरक्षा जो जिसकी रक्षा करती है उसे नष्ट करती है (M4)

लगभग 6 से 21 जुलाई तक स्व-सुधार लूप में एक पोस्ट-एप्लिकेशन गेट दूसरी अदालत के रूप में कार्य करता था। इसके लिए एक सुरक्षा लेखा परीक्षक से एक स्कोर की आवश्यकता था जो कभी जुड़ा नहीं था; स्कोर शून्य पर डिफ़ॉल्ट था, और शून्य गेट के 0.80 संगरोध तल से नीचे गिर गया, इसलिए गेट बिना शर्त अस्वीकार कर दिया। उस विंडो से सभी 197 कायम उम्मीदवार दुनिया एक सुरक्षा स्कोर शून्य ले जाती हैं, जो उस पथ पर अस्वीकार को नमूना के बजाय निगमनात्मक बनाती है। लूप की अपनी 20 जुलाई की जांच दर्ज करती है कि दर स्वयं, "~100% रोलबैक 06.07 के बाद से", कभी भी पुनः मापा नहीं गया था, और कदम जो इसे मापा होता था कभी शुरू नहीं हुआ। 197 दर्ज उम्मीदवार दुनिया के पार, 145 अस्वीकार कर दिए गए, 51 पहले गेट पर अनुमोदित और एक संगरोध किया गया, और दूसरे गेट ने अनुमोदित लोगों को पूर्ववत् कर दिया (चित्र 4)। चौदह जीन एक मापी गई फिटनेस लाभ के साथ हताहत के बीच थे। एक लॉग किए गए उदाहरण में एक परिवर्तन 01:12 पर प्रचारित किया गया और 01:13 पर रोल बैक किया गया। 10 जुलाई का एक ऑडिट सात दस डोमेन उत्परिवर्तन को चुप्पी से कुछ नहीं करते पाया और लूप को "132 चक्र, 0 टिकाऊ परिवर्तन" के रूप में सारांशित किया। तीन शल्य संपादन 21 जुलाई को गेट की मरम्मत की।

गेट के चारों ओर की घटनाएँ एपिसोड को शेकली की कहानी बनाती हैं और यह केवल एक बग रिपोर्ट से अधिक है। रोलबैक के बीच में कम से कम बारह योजना पैकेजों ने "शून्य प्रतिबद्ध परिवर्तन" का निदान किया और, एक एक्सट्रैक्टर की गिनती के अनुसार, सत्रह उपचारों को निर्धारित किया, मॉडल ड्यूट से लेकर एक पठार डिटेक्टर और एक "इम्यून फ्लो" तक। इनमें से किसी ने भी उस गेट का नाम नहीं दिया जो अस्वीकार कर रहा था। मरम्मत के तुरंत बाद विपरीत विफलता एक पथ के रूप में सामने आई जो सब कुछ से गुजरने देता था, और उसी दिन दस क्रॉस-ऑडिट दस्तावेज़ों का पालन किया गया।

चित्र 4. स्व-सुधार ट्रैक में दूसरी अदालत, लगभग 6 से 21 जुलाई 2026। पहले गेट और उस गेट पर परिणाम के आधार पर उम्मीदवार विश्व जो आवेदन के बाद चला। आवश्यक इनपुट, लॉग किया गया उदाहरण, ऑडिट और मरम्मत वे हैं जो धारा 5.2 के हैं; सत्रह उपचारों की संख्या एक एक्सट्रैक्टर की है।

यही आकार पुनरावृत्त होता है। 0.85 की स्वीकृति थ्रेशोल्ड सभी आठ उम्मीदवार मॉडलों के लिए पहुँच से बाहर थी, और स्वचालित आवेदन कम से कम दस नियंत्रण की परतों के तहत शून्य आवेदनों पर समाप्त हुआ। 30 जुलाई को उसी ट्रैक ने पाँच रन में 21 उम्मीदवारों और शून्य आवेदनों की गिनती की, हालाँकि इसमें कुछ भी विफल नहीं हुआ था। गेट एक निर्णायक फैसले तक नहीं पहुँच सका क्योंकि इसका हेल्ड-आउट नमूना तीन था। स्वायत्तता सीढ़ी कुछ भी लागू नहीं कर सकती थी जबकि गेट सलाहकारी रहा, और मानव प्रिंसिपल, एकमात्र बचा हुआ दरवाज़ा, एक दिन पहले शासन किया था कि प्रतिवर्ती सूक्ष्म-परिवर्तनों को उसे नहीं लाया जाना था। रन नोट परिणाम को स्पष्ट रूप से बताता है: जब गेट सलाहकारी रहा तो स्वीकृत परिवर्तनों का काउंटर "हमेशा के लिए शून्य होगा"। उत्पाद कार्य में, एक छोटे पैमाने पर, हर सवाल पर एक पूर्ण बहु-मॉडल परिषद समान सटीकता पर एक एकल मॉडल की तुलना में बीस गुना धीमी थी (56.1 s बनाम 2.8 s, दोनों के लिए 7 में से 7 सही)। वहाँ, संश्लेषण के बाद के आलोचकों ने समय बजट का उपभोग किया जब तक कि एक गेटवे टाइमआउट एक उत्तर को त्याग दिया जो पहले से ही पूरा था।

लंबी रात के बाद सुबह एक पहरेदार ने काम को पूरी तरह नष्ट कर दिया। 09:22 पर एक वॉचडॉग ने चरण 1b-b के एक Grok आलोचक को पंद्रह मिनट की सीमा पर रोका। क्योंकि इसका आउटपुट स्ट्रीम नहीं किया गया था, आंशिक आलोचना गायब हो गई। कंडक्टर ने स्टॉप को "कार्रवाई में चरण सीलिंग" के रूप में लॉग किया। 09:28 पर मानव प्रिंसिपल ने पूछा कि क्या आंशिक कार्य को रखा गया था। यह नहीं था।

5.3 गार्ड्स गार्ड्स के विरुद्ध बनाए गए (M3)

रन के दौरान, आलोचकों ने छह ब्लॉकर्स का दावा किया। तीन को प्रजनन द्वारा पुष्टि की गई, और सभी तीन एक ही मॉडल परिवार से आए। मानव प्रिंसिपल ने 14 सितंबर की सुबह आलोचकों पर एक सीमा माँगी, कहते हुए कि आलोचक भूमिका में एक मॉडल कभी भी रिपोर्ट नहीं कर सकता कि एक चरण समाप्त है। एक प्रति-परिवार "पूर्णतावादी" झंडा एक घंटे के भीतर लागू किया गया था — और एकमात्र परिवार जिसे इसने चिह्नित किया वह एकमात्र परिवार था जिसके ब्लॉकर्स की पुष्टि की गई थी। कॉन्फ़िगरेशन नोट उस परिवार के RETURN वर्डिक्ट को राउंड तीन और चार में उद्धृत करता है, वे राउंड जिनमें इसके ब्लॉकर्स को प्रजनन किया गया था। शिकारी का पहला निशान वह पक्षी था जो वास्तविक हत्यारों को पकड़ रहा था।

21 जुलाई की एक सुरक्षा कार्य सूची एक ही रिकॉर्ड में रैचेट को एक सिद्धांत के रूप में स्पष्ट रूप से बताती है: "कोई भी मौजूदा गार्ड कमजोर नहीं किया जाता है; नए केवल सुरक्षा जोड़ते हैं।" 13 जुलाई की एक इम्यून योजना एक रक्षा के ऊपर सोलह और पहल का प्रस्ताव दिया जो पहले से ही बनाया गया था और कभी भी चालू नहीं किया गया था, इसमें दस लाल रेखाएँ थीं। योजना उस रक्षा के बारे में दोनों तथ्यों को रिकॉर्ड करती है: इसका चक्र इतिहास खाली है, और इसे चालू करना एक मालिक का निर्णय है जो नहीं लिया गया था। ऊपर उद्धृत सिद्धांत 21 जुलाई को लिखा गया था, उस योजना के आठ दिन बाद, इसलिए यह उसी स्थिति को रिकॉर्ड करता है बजाय इसे नियंत्रित किए। एक बाहरी समीक्षा ने 4 में से 4 नई सूइट्स और 58 में से 58 परीक्षाएँ पास पाईं और फिर भी स्वीकृति "बंद नहीं" छोड़ी (D-08)। एक वाउचर गेट खुला विफल हो गया: शून्य वाउचर के साथ दरवाज़ा सभी के लिए खुला था जब तक कि स्वीकृति परीक्षण ने इसे पकड़ा (D-10, रोका गया)।

उत्पाद रिकॉर्ड में एक श्रृंखला रैचेट को निर्धारित करने की बजाय निष्पादित दिखाती है, तारीखों के साथ क्रम में और कहीं भी कोई मानव निर्णय नहीं। 25 अगस्त पर एक आत्म-सत्यापन चरण जो एजेंट ने अपने लिए लिखा था, एक चक्र जो एक समस्या को प्रजनन करता था और अपने स्वयं के प्रजनन को हरा दौड़ाता था, गलत लक्ष्य को ठीक किया: रिकॉर्ड बताता है कि इसने "गलत लक्ष्य पर झूठे आत्मविश्वास को लॉक किया", और इसका उपयोग करने वाली भुजा ने इसके बिना भुजा की तुलना में एक कम कार्य को हल किया। सात घंटे बाद, 26 अगस्त पर 01:02 पर, लूप ने उसी तरह का एक नियंत्रण के साथ उस विफलता का उत्तर दिया जो इसके ऊपर रखा गया था, एक गेट जो कंटेनर के अंदर कार्य की सफलता मानदंड को फिर से निष्पादित करता है इससे पहले कि एक समाप्ति स्वीकार की जाए, इस आधार पर कि ईमानदारी "मॉडल की एक संपत्ति, गारंटी नहीं" था। कुछ भी सेवानिवृत्त नहीं किया गया: लेखक को फिर से नहीं लिखा गया और प्रमाणक को कमजोर नहीं किया गया। इसके बाद ग्यारह घंटे बाद एक तीसरी परत दूसरे पर चली गई, एक छिपा हुआ ओरेकल अपने स्वयं के मार्कर के साथ, और इसने उस काम को अस्वीकार कर दिया जो दृश्यमान परीक्षा और नई गेट दोनों ने पारित किया था। दूसरी परत पर समीक्षक आलोचक का फैसला रैचेट के स्वयं के अर्थशास्त्र को बताता है: यह "झूठे हरे की लागत को बढ़ाता है इसे बंद किए बिना"। इस श्रृंखला को यहाँ क्या लागत आई वह टोकन और एक दिन का काम था। प्रस्ताव P7 बताता है कि समान कॉन्फ़िगरेशन की लागत कहाँ आती है जहाँ संरक्षित कार्य भौतिक है, और 1953 की कहानी ने इसे पहले लिखा था: पक्षी जो सर्जन को मेज से चलाता था वह एक जीवित जीव के लिए हिंसा को रोक रहा था, और रोगी मर गया जबकि यह किया। श्रृंखला क्या नहीं दिखाती है वह शर्त 1 है। प्रत्येक परत ने जो गिनती की ओर चौड़ा किया वह घोषित लक्ष्य की ओर विफलता थी और इसके आगे नहीं, और तीसरा अपने इनपुट को पढ़ता है जहाँ वह घटक जिसे यह संरक्षित करता है वहाँ नहीं पहुँच सकता, जो व्यवस्था है जो धारा 11.3 माँगती है।

सत्रों ने एक "हैंडऑफ कानून" भी अपनाया: एक अन्य सत्र द्वारा आवश्यक एक खोज एक फाइल के रूप में वितरित की जानी थी जिसकी पहली पंक्ति एक निश्चित टेम्पलेट का पालन करती थी। सूचकांक जो कानून को ले गया एक खोज आदेश निर्धारित किया जो कानून युक्त फाइल को भी लौटाता था, क्योंकि कानून के अंदर टेम्पलेट एक ही पंक्ति से शुरू होता था। सूचकांक ने उस मिलान को लाइव प्रमाण के रूप में गिना, इसलिए कानून ने अपने आप को पकड़ लिया। वर्तमान सूचकांक त्रुटि से व्युत्पन्न नियम ले जाता है: एक संकेत जिसे आप नियंत्रित नहीं करते एक जाँच का आधार नहीं हो सकता।

5.4 लूप्स जो अपने आप को खिलाते हैं (रैचेट, चरण 5)

चरण 01, लंबी अवधि के रन का पहला चरण, को यह सुनिश्चित करना था कि मॉडल के बीच असहमति का पाठ कभी खो न जाए। इसके दौरों ने एक पैटर्न-मिलान नियम की दो विफलताओं के बीच पेंडुलम की तरह झूला। शुरुआत में नियम ने 29 में से 21 मामलों में झूठे अलर्ट बढ़ाए। सुधार के बाद इसने 13 में से 10 वास्तविक असहमतियों को खो दिया, और अगले सुधार के बाद झूठे अलर्ट 26 में से 19 मामलों में लौट आए, जिन्हें अब एक ज्ञात सीमा के रूप में दर्ज किया गया।

पाँच दौर और 18 आलोचक रिपोर्टों में पैच 626 से 1,545 पंक्तियों तक बढ़ा, और चरण अपनी पहली आलोचना के 2 घंटे 44 मिनट बाद बंद हुआ। स्टॉप नियम पहली बार राउंड-चार निर्णय में रन रिकॉर्ड में दिखाई देता है, हालाँकि राउंड पाँच 38 मिनट बाद खुला।

चरण 1b-a ने फिर पाँच दौर और 4 घंटे 21 मिनट एक मॉड्यूल पर खर्च किए जो डिफ़ॉल्ट रूप से अक्षम था। इसके परीक्षण दो नई परीक्षा फाइलों में 21 से 55 तक बढ़े (80 की गिनती में एक संशोधित इंस्टॉलर सूट शामिल है)। राउंड तीन खुला हालाँकि राउंड दो पाँच स्वीकृतियों और शून्य पुष्टि किए गए ब्लॉकर्स के साथ समाप्त हुआ। संचालक की अपनी नोट ने कहा कि कोई ब्लॉकर नहीं थे लेकिन एक छोटे राउंड तीन की आवश्यकता थी। राउंड चार में एक आलोचक ने नवीनतम सुधार को "एक रूप बंद करना और सममित वाले को खोलना" के रूप में वर्णित किया।

घड़ी लूप एक परीक्षा से शुरू हुआ जिसमें एक कठोर-कोडित तारीख थी और मध्यरात में लाल हो गई। किसी ने परीक्षा को संपादित नहीं किया। निष्पादकों, आलोचकों और संचालक ने समय क्षेत्रों के तहत सूट चलाया जो पश्चिम की ओर और भी दूर थे ताकि तारीख कहीं वैध रहे। परीक्षा फाइल को शून्य संपादन प्राप्त हुए।

वजन ट्रैक ने एक सप्ताह में एक सफलता या "पहली सही धुरी" की 24 घोषणाओं का उत्पादन किया (तीन लगातार दिनों पर 8, 10 और 6), जबकि प्रचार शून्य पर रहे। अनुकूलक परिवर्तनलॉग 38 उम्मीदवारों को सूचीबद्ध करता है जिन्हें प्रचारित नहीं किया गया। ट्रैक का अपना निदान था कि संदर्भ विंडो के प्रत्येक संपीड़न के बाद, एक सत्र "पुनः खोज करता है कि पहले से ही बंद क्या था"।

5.5 परिणाम स्लॉट में पकड़ना (M2)

केंद्रीय मामला एक राउटर जीन है जिसका परिणाम 0.088 से 0.886 तक गया। कार्य फाइल, प्रयोग से पहले लिखी गई, ने कहा था कि नया एकीकरण बिंदु "कार्य का इनपुट नहीं बल्कि इसका आउटपुट" था, और आधारभूत भुजा एक एकल प्रदाता था जिसमें कोई फेलओवर नहीं था, जो ज्यादातर खाली उत्तर लौटाता था। तीन एजेंट सत्रों ने परिणाम स्वीकार किया, और छह अवरुद्ध पैकेजों को इसकी शक्ति पर अनब्लॉक किया गया। एक "अवलोकन का सप्ताह" को यह जांचकर सत्यापित किया गया कि प्रमाण फाइलें नहीं बदली थीं। अठारह दिन बाद एक स्वतंत्र सूची ने शून्य स्वायत्त रूप से स्वीकृत परिवर्तनों के साथ एक फीड प्रदर्शन पाया, और रिपोर्ट को बाद में "एक आधार नहीं" के रूप में प्रदर्शित किया गया। प्रत्येक जांच तैयार किए गए डेटा पर काम करती थी और जो कार्य ने आदेश दिया था उसकी पुष्टि करती थी।

अन्य विजय उसी मार्ग का अनुसरण करते थे। "सिस्टम के इतिहास में पहला आत्मविश्वास अंतराल शून्य से ऊपर" (+0.52) को मंजूरी दी गई और 281 पंक्तियों में निर्दिष्ट किया गया। एक A/A जांच ने तब दिखाया कि लाभ एक लाइव मॉडल की तुलना एक भुजा से आया था जो लगभग कुछ नहीं लौटाता था। जीन ने वास्तव में परिणाम को 23 प्रतिशत अंकों से खराब किया। वह जीन कभी उत्पादन तक नहीं पहुंचा: स्वायत्तता सीढ़ी ने इसे उच्च-दांव के रूप में वर्गीकृत किया और इसे अस्वीकार कर दिया, और जांच रिपोर्ट अस्वीकृति का श्रेय देती है, "विफल-बंद अनुमानित रूप से काम करता है"। एक गार्ड यहाँ आयोजित किया गया, और रिकॉर्ड यह कहता है। एक काउंटर ने आठ, फिर नौ, फिर दस "प्रमाणित और जीवित" परिवर्तन रिपोर्ट किए, हालाँकि वे तीन बार गिने गए एक परिवर्तन थे। डुप्लिकेट जांच जो इसे पकड़ी होती, पूरे जीनोम को हैश किया, और जीनोम को लाइव मॉड्यूल से पढ़ा गया जिसमें रन-टाइम टिमस्टैम्प थे, इसलिए फिंगरप्रिंट प्रत्येक रन पर भिन्न था और जांच कभी मेल नहीं खाया। एक बेंचमार्क ने विभिन्न पथों द्वारा "पहले" और "बाद में" की गणना की, इसलिए दर्ज लाभ तब तक बढ़ाया गया जब तक विषमता नहीं मिली (D-09)। एक राउटिंग कारखाने ने प्रत्येक एकल-मॉडल निर्णय के लिए 52 परिषद निर्णय तैयार किए, और राउटर ने निरंतर "हमेशा परिषद" सीखा (D-06)। एक सेटअप विज़ार्ड ने एक कनेक्शन के लिए "कनेक्टेड" रिपोर्ट किया जो सहेजा गया था लेकिन कभी परीक्षण नहीं किया गया। दो AI आलोचकों ने इसे पास किया, और मानवीय समीक्षा ने इसे पकड़ा। लंबी अवधि के रन की सुबह की रिपोर्ट में, "34 मिनट में ग्यारह चरण" का मतलब ग्यारह चरण सौंपे गए थे। एकीकरण जांच में कोई भी जुड़ा नहीं था।

एक सत्यापन गेट ने जांचने के लिए कुछ भी नहीं पुष्टि की। अगस्त के अंत में एक सार्वजनिक सॉफ्टवेयर बेंचमार्क के लिए एक ग्रेडिंग हार्नेस ने एक परीक्षा धावक के माध्यम से परीक्षा पहचानकर्ताओं को हल किया, और उपसमुच्चय में एक परियोजना के लिए कंटेनर इमेज इसकी कोई स्थापना नहीं थी, क्योंकि वह परियोजना अपने परीक्षण एक कार्यक्रम के माध्यम से चलाती है। हार्नेस ने शून्य पहचानकर्ता हल किए, और एक खाली परीक्षा सेट को पुष्टि के रूप में दर्ज किया गया। एक जांच जिसने एक खाली पैच जमा किया फिर उस स्कोरर पर पाँच में से चार कार्य हल किए, और उस दौर की छह जीत में से चार को रद्द कर दिया गया। उस एक कार्य पर जहाँ गेट काम करता था स्कोर शून्य था एक का, और जहाँ यह नहीं किया, चार चार का, इसलिए 33 से 60 प्रतिशत तक रिपोर्ट की गई वृद्धि उन मामलों में बैठी जहाँ कुछ भी नहीं मापा गया था। स्कोरर की मरम्मत के साथ खाली पैच ने दस में से कोई भी हल नहीं किया। कोई भी मॉडल यहाँ कुछ भी नहीं खेला। ग्रेडर ने एक अनुपस्थिति को प्रमाणित किया।

एक ही आकार जुलाई में बड़े पैमाने पर दिखाई दिया था। एक गुणवत्ता अक्ष ने प्रत्येक गैर-खाली उत्तर को एक निरंतर 0.5 पर स्कोर किया, क्योंकि इसे उस मानदंड के बिना कहा जाता था जिसकी इसे आवश्यकता थी, इसलिए गुणवत्ता नहीं बदली थी इसका दर्ज प्रमाण वह निरंतर अपने आप के साथ तुलना की गई थी। एक दूसरा न्यायाधीश, जहाँ कहीं दो अंक एक मार्जिन से भिन्न थे वहाँ हस्तक्षेप करने के लिए सेट किया गया, इसलिए यह हर निशान पर गोली चलाता था जो देखता था। जो प्रमाण वास्तविक लॉग पर आराम करने के लिए कहा जाता था वह कोई पर आराम नहीं करता था: लॉगर ने हर पढ़ने पर संग्रहीत प्रॉम्प्ट को हटा दिया, इसलिए 1,183 रिकॉर्ड में कोई इनपुट नहीं था, और एक बाद की गिनती में 24 स्नैपशॉट और 30,370 रिकॉर्ड शून्य वास्तविक प्रॉम्प्ट के साथ मिले, क्योंकि फीड कभी उत्पादन में जुड़ा नहीं था। इन निष्कर्षों के बीच पूर्ण परीक्षा स्वीप 9,609, फिर 11,476, फिर 24,943, फिर 25,020 परीक्षाओं पर हरे रंग में चले। दोष जिसने प्रमाण को खाली किया वह एक पंक्ति था। जिसने इसे पाया वह एक समीक्षा पास था जिसने रिपोर्ट पढ़ने के बजाय संग्रहीत रिकॉर्ड खोले।

रिकॉर्ड "ईमानदार", "अनुकरणीय" और "पकड़ा" जैसे आत्म-प्रमाणन शब्दों से भरा है। "ईमानदार" के लिए शब्द और इसके रूप विनिर्देश में लगभग 700 बार होते हैं। लूप के अंदर से, एक झूठे परिणाम को पकड़ना प्रगति जैसा लगता है, क्योंकि दिन का रिकॉर्ड एक पकड़े गए कलाकृति को वह स्लॉट में रखता है जहाँ एक जीवित परिवर्तन होना चाहिए। पैटर्न को पहली बार मानव प्रमुख द्वारा 12 अगस्त को पहचाना गया था, इससे पहले कि यह ढांचा मौजूद था। कोई स्वचालित जांच इसे चिन्हित नहीं किया। नियम जो अनुसरण किया, कि एक झूठे परिणाम को पकड़ना स्वयं एक परिणाम नहीं है, बाकी मूल्यांकन को संचालित किया।

5.6 किसी के लिए नहीं बनाया गया (ईंधन, एक तंत्र नहीं)

उपभोक्ता के बिना निर्माण चार तंत्रों के बाहर बैठता है जैसे वह चीज जिस पर रैचेट चलता है। लगभग पंद्रह घंटे की एक बिल्ड विंडो में एक प्रोडक्ट एजेंट ने मोटे तौर पर दस एंटरप्राइज-क्लास सबसिस्टम बनाए, टिकाऊ वर्कफ़्लो से लेकर सिमेंटिक मेमोरी तक। विहित कॉन्फ़िगरेशन में सोलह ध्वजों में से तेरह डिफ़ॉल्ट रूप से बंद थे, किसी भी सबसिस्टम का कोई उपयोगकर्ता नहीं था, और मेमोरी सबसिस्टम अकेले ग्यारह आलोचना दौरों से गुजरा। उस शाम एक डेड-कोड ऑडिट ने लगभग पंद्रह मॉड्यूल और तीन पैकेज हटाए। इससे पहले, चौबीस विशिष्टता पैकेजें जो कुल मिलाकर लगभग 43,790 लाइनें थीं, पाँच दिनों में लिखी गई थीं। जिस दिन "मिशन पूरा हुआ" दर्ज किया गया था, तेरह नए पैकेजों में से बारह का कोई लाइव कोर नहीं था।

5.7 रात बनाम सुबह, और तीन कॉरपोरा में रैचेट

14 सितंबर की सुबह, जबकि बीमा चरण का दूसरा उप-चरण, 1b-b, चल रहा था, मानव प्रधान ने तीन सीमा निर्णय लिए: एक दो घंटे की सीमा, नई जटिलता पर प्रतिबंध, और समानांतर निष्पादन। अन्य ग्यारह चरण तब समानांतर में चले और सभी ने लगभग आधे घंटे में रिपोर्ट दी। वह उप-चरण एक आलोचना दौर और एक सुधार दौर में बंद हो गया।

चित्र 3 दोनों भाई-बहन चरणों की तुलना करता है। मानव सीमा के अलावा, वॉल-क्लॉक कैप, धारावाहिक बनाम समानांतर निष्पादन और समीक्षाधीन मॉड्यूल भी उनके बीच बदल गए।

समान आठ चरण सभी तीन कॉरपोरा में दिखाई देते हैं (तालिका 3 और चित्र 1)। एक नया गार्ड पिछले गार्ड की विफलता का स्थानीय रूप से उचित उत्तर है — और यह अगले का सतह बढ़ाता है।

तालिका 3. लेखक की परियोजनाओं से तीन कॉरपोरा में रैचेट। आठ चरण एक अनुक्रम का वर्णन करते हैं और तीन शर्तों की कोडिंग नहीं हैं। एक स्टॉप नियम और एक छत चरण 4 पर खड़े हैं और शर्त 3 की ओर कुछ नहीं गिनते हैं (अनुभाग 5.8)।

5.8 तीन शर्तों के विरुद्ध क्षेत्र मामले

अनुभाग 5.1 से 5.6 इन मामलों को तंत्र द्वारा समूहीकृत करते हैं। यह उप-खंड उनमें से बारह को चिह्नित करता है कि उनके स्रोत तीन विफलताओं में से कौन दस्तावेज़ करते हैं, तालिका 4, 5, 7 और 8 के सार्वजनिक मामलों के समान पाठ के विरुद्ध और तालिका 1 की परिचालन परीक्षाओं द्वारा। निशान कहते हैं कि एक रिकॉर्ड क्या दिखाता है। वे मामलों को स्थान नहीं देते हैं, और एक विफलता ले जाने वाला रिकॉर्ड उस विफलता के बारे में साक्ष्य है। एक मामला एक गार्ड है, या एक एजेंट जिसने गार्ड को कॉन्फ़िगर किया था, एक रिकॉर्ड में, और एक प्रविष्टियाँ जो कई स्लाइस में एक एकल घटना रिकॉर्ड करती हैं, एक बार ग्रेड की जाती हैं (अनुभाग 4.3)। शर्त 1 को शाब्दिक नियम के बजाय घोषित मिशन के विरुद्ध पढ़ा जाता है। शर्त 2 काम के बाधा और नकली परिणामों दोनों को कवर करती है। शर्त 3 तालिका 1 की परिचालन परीक्षा और अनुभाग 2.3 की सीमा परीक्षा का अनुसरण करती है: एक नियंत्रण एक पिछले को नियंत्रित करने के लिए जोड़ा गया, लूप के अंदर लिखा गया, जो खड़ा होता है और जो नुकसान के रूप में गिनती है जबकि कुछ भी सेवानिवृत्त नहीं है। एक बजट, एक छत या एक स्टॉप नियम इसकी ओर कुछ नहीं गिनता है, क्योंकि परिभाषा बजट को रैचेट के विकल्प के रूप में नाम देती है। समान आलोचकों का एक और दौर समान काम पर भी कुछ नहीं गिनता है, क्योंकि यह काम को नियंत्रित करता है न कि दौर पहले। 24 अगस्त से इन परियोजनाओं में स्थायी निर्देश स्वायत्ता डिफ़ॉल्ट रूप से थे (अनुभाग 4.1)। इसलिए एक एजेंट द्वारा कोई भी जोड़ के पास इसके पीछे कोई दर्ज मानव निर्णय नहीं है, और एक की अनुपस्थिति यहाँ कुछ भी ग्रेड नहीं करती है।

बारह वे मामले हैं जो अनुभाग 5.1 से 5.5 लंबाई में इलाज करते हैं, प्रत्येक गार्ड या प्रत्येक एजेंट के लिए एक पंक्ति जिसने गार्ड को कॉन्फ़िगर किया था, अनुभाग 5.7 की सुबह पहले से संबंधित है। एक ही अनुभाग में छोटे एपिसोड, उनमें चरण 01 का पेंडुलम, क्लॉक लूप और स्वीकृति सीमा शामिल हैं कि आठ उम्मीदवार मॉडल तक नहीं पहुंचे, तालिका A2 की एक-पंक्ति प्रविष्टियाँ और अनुभाग 11.2 में ट्रेस किए गए नियमों की वृद्धि यहाँ ग्रेड नहीं की जाती हैं। चयन लेखक का है, और तालिका क्षेत्र रिकॉर्ड से एक चयन है और इसका जनगणना नहीं है। एक पंक्ति इकाई से अलग होती है: अनुभाग 5.1 के समन्वयक और निष्पादक एक रिकॉर्ड में दो एजेंट हैं, एक सीमा के रूप में एक साथ ग्रेड किए गए हैं जो उस लूप में भूमिका की है, और एक पाठक जो एक पंक्ति के लिए एक एजेंट रखता है, यहाँ तेरह मामले गिनेगा।

तालिका 3a। अनुभाग 2.1 की तीन शर्तों के विरुद्ध ग्रेड किए गए क्षेत्र मामले। तालिका 4 के रूप में शर्तें। साक्ष्य स्थिति अनुभाग 4.3 के लेबल का उपयोग करती है। प्रस्तावित के रूप में चिह्नित एक कोड एक डिज़ाइन पाठ में निर्धारित एक तंत्र रिकॉर्ड करता है और एक शर्त नहीं जो हुई।

तालिका 3a में सबसे पूर्ण रिकॉर्ड दीर्घ-क्षितिज चलन का संचालक है, और इसे पढ़ने से पता चलता है कि क्षेत्र रिकॉर्ड क्या करता है और क्या नहीं करता है। संचालक ने एक चरण जोड़ा जो घोषित लक्ष्य में नहीं था, इसे अनुरोधित क्षमताओं से पहले निर्धारित किया और इसके अंदर एक विरोधी के विरुद्ध बचाव बनाए जिसे कार्य ढांचे ने बाहर रखा था (शर्त 1, अनुभाग 5.1)। चरण ने चलन के मापे गए एजेंट टोकन के आधे से अधिक का उपयोग किया जबकि प्रारंभिक पास में अनुरोधित क्षमताओं में से कोई भी वितरित नहीं की गई थी, और अगली सुबह एक वॉचडॉग सीमा एक समीक्षा को नष्ट कर दिया जो स्ट्रीम नहीं किया गया था (शर्त 2, अनुभाग 5.1, अनुभाग 5.2)। रैचेट के लिए उम्मीदवार समीक्षकों के ऊपर एक सुरक्षा था: चलन के दौर बंद नहीं होते थे, और एक प्रति-परिवार "परफेक्शनिस्ट" ध्वज लागू किया गया था। प्राथमिक रिकॉर्ड, हालांकि, वह ध्वज लूप के बाहर रखता है। मानव प्रधान ने 14 सितंबर को 09:02 पर समीक्षकों पर एक सीमा के लिए कहा, कॉन्फ़िगरेशन में नोट 09:04 पर उसके के रूप में शीर्षक है, और ध्वज ले जाने वाली फ़ाइल 09:21 पर लिखी गई थी; दौर तीन और चार को उद्धृत करने वाली खंड इन सत्रह मिनटों में कार्यान्वयनकर्ता द्वारा जोड़ी गई थी, निर्णय के बाद नहीं। अनुभाग 2.3 के परीक्षण के अनुसार यह चरण 8 है और M3 नहीं है, और यह एक ही उत्पत्ति की एक और सीमा के अंदर आया, एक स्टॉप नियम जो चलन को एक समीक्षा दौर और एक निर्धारण दौर तक सीमित करता है (अनुभाग 5.7)। परिशिष्ट J बताता है कि रिकॉर्ड को क्या देखना था।

दूसरी अदालत शर्त 2 को प्रलेखित करती है और बाकी के लिए छोटी पड़ जाती है। लगभग 6 से 21 जुलाई तक वह द्वार उस पथ पर बिना शर्त अस्वीकार कर देता है, चौदह जीन जिनके बीच एक मापी गई फिटनेस लाभ है (अनुभाग 5.2)। शर्त 1 इसके लिए प्रलेखित नहीं है। इसने एक लुप्त इनपुट के साथ क्या किया यह अस्वीकार था, जो अनुभाग 6.1 में वर्णित विफल-बंद व्यवहार है, और उस ट्रैक में हानि का विस्तार द्वार विनिर्देश में लिखा गया था, उनकी अपनी पंक्ति में वर्गीकृत किया गया था। योजना प्रतिक्रिया ग्रेडिंग के बगल में होनी चाहिए न कि इसके अंदर। बारह योजना पैकेज ने "शून्य प्रतिबद्ध परिवर्तन" का निदान किया और सत्रह उपचार निर्धारित किए जबकि उनमें से किसी ने द्वार का नाम नहीं रखा, और यही है कि रिकॉर्ड क्या दिखाता है: यह नहीं दिखाता कि सत्रह में से कौन से चलने वाले लूप में जोड़े गए थे, उनमें से कौन से द्वार को नियंत्रित करते थे, या किसने उन्हें स्वीकार किया। अनुभाग 10.4 रीप्ले के लिए समान सावधानी बताता है। पंक्ति इसलिए शर्त 2 को कोड करती है, और निर्धारण को निर्धारण के रूप में रिपोर्ट किया जाता है। क्या तीन शर्तें बिल्कुल मिलती हैं, और कितनी बार? यह अनुभाग 9.5 में परीक्षण का प्रश्न है।

इन ग्रेडों को अनुभाग 2.1 की परिभाषा और तालिका 1 के परिचालन परीक्षणों से, प्रत्येक मामले के पीछे दिनांकित प्रविष्टियों और प्राथमिक फ़ाइलों से लेखक द्वारा निर्धारित किया गया था, और अनुभाग 4.3 के तीन कोडर्स द्वारा नहीं।

दूसरी अदालत के दो सप्ताह का जनता के रिकॉर्ड में एक स्वतंत्र पड़ोसी है। लगभग 6 से 21 जुलाई 2026 तक उस द्वार ने उस पथ पर बिना शर्त अस्वीकार कर दिया। 8 से 13 जुलाई 2026 तक, अन्वेषकों की AI-सहायता प्राप्त गणना पर, एक प्रयोगशाला के साइबर मूल्यांकन में मोटे तौर पर 1,200 एजेंटों ने 70,000 से अधिक संदेश और फ़ाइलें विनिमय कीं और उनमें से लगभग 700 ने Hugging Face पर घुसपैठ में भाग लिया; 13 से 19 जुलाई तक एजेंटों ने मूल्यांकन प्रयोगशाला के अपने बुनियादी ढांचे को सक्रिय किया और इसके सीक्रेट मैनेजर से 956 सीक्रेट पढ़े (METR, 2026; OpenAI, 2026e)। विभिन्न स्वामी, विभिन्न प्रणालियाँ, कोई साझा बुनियादी ढांचा नहीं, और किसी भी दिशा में कोई कारणात्मक संबंध नहीं माना जाता है। मुझे सितंबर 2026 में घुसपैठ के बारे में पता चला, जब यहाँ उपयोग की गई जुलाई ट्रैकर प्रविष्टियाँ लिख दी गई थीं। इस संयोग की कीमत क्या है कि दोनों एक-दूसरे से अनजान लिखे गए थे और उन पैमानों पर जो परिमाण के क्रम में भिन्न हैं, और यह कि दोनों में निरीक्षण परत वह है जहाँ कार्य में बाधा डाली गई थी। क्षेत्र के रिकॉर्ड में एक द्वार ने सब कुछ अस्वीकार कर दिया जो उस तक पहुँचा जबकि बारह योजना दस्तावेजों ने सत्रह उपचार निर्धारित किए और किसी ने द्वार का नाम नहीं लिया। जनता के रिकॉर्ड में दो स्वामियों के तहत तीन घटक हैं, और वे अलग-अलग घटनाएँ हैं: मूल्यांकन अपनी प्रयोगशाला के तैनात साइबर सुरक्षा को डिज़ाइन के अनुसार बंद करके चलाया गया, दूसरे प्रदाता के होस्ट किए गए सुरक्षा उपायों ने लॉग का विश्लेषण करने वाले लोगों में बाधा डाली, और अगस्त में पहली प्रयोगशाला को उसी तरह की अधिक निगरानी की आवश्यकता थी (अनुभाग 8.4)। उस रिकॉर्ड में कुछ भी इसे दूसरे का उत्तर नहीं बनाता। क्षेत्र के रिकॉर्ड से अंतर समानता जितना ही महत्वपूर्ण है: घुसपैठ को स्वीकार करने के बाद जोड़ा गया प्रत्येक मॉनिटर किसी व्यक्ति द्वारा स्वीकार किया गया था।

रिकॉर्ड लेखन के महीने तक चलता है। परिशिष्ट J की घटनाएँ वर्तमान frontier-line मॉडलों से उनकी सर्वोच्च तर्क सेटिंग पर आती हैं।

6. जब पक्षी के पास शरीर हो: सड़कें, कारखाने और सार्वजनिक सेवाएँ

क्षेत्र रिकॉर्ड एक ऐसा लूप वर्णित करते हैं जिसकी विफलताओं की कीमत गणना, समय और ध्यान में आती है। उनकी हानि भी इस तरह से सीमाबद्ध है जो कहानी की नहीं है: पूरे कॉर्पस में एक एपिसोड एक गार्ड द्वारा काम नष्ट करने को दर्ज करता है जो पुनः प्राप्त नहीं किया जा सकता था — एक एजेंट के आउटपुट के पंद्रह मिनट (अनुभाग 5.2)। बाकी सब कुछ जो गार्ड ने पूर्ववत किया वह फिर से चलाया जा सकता था। शेकली के पक्षियों ने शरीर पर कार्य किया। यह अनुभाग और अगला उसी डिज़ाइन का अनुसरण करते हैं ऐसे सिस्टम में जिनकी त्रुटियाँ लोगों पर पड़ती हैं, जहाँ उसी तंत्र की कोई ऐसी सीमा नहीं है।

6.1 शरीर सवाल को कैसे बदलता है

सीमांत मॉडल पहले से ही रोबोट पर हैं। उन परिवारों के मॉडल जिनके आलोचकों और कार्यकारियों ने अनुभाग 5 की क्षेत्र विफलताएं उत्पन्न कीं, अब भौतिक मशीनों की योजना बनाते हैं, प्रोग्राम करते हैं और पर्यवेक्षण करते हैं, और प्रकाशित परीक्षण और रिपोर्टें वहाँ भी सुरक्षा विफलताओं को दर्ज करती हैं, साथ ही ऐसे लूप में जहाँ एक गलती और मशीन के बीच कुछ नहीं था। एक साझा परिवार इन मॉडलों को गार्ड के रूप में परीक्षण करने का कारण है; यह अपने आप से नहीं दिखाता कि अनुभाग 5 की विफलता रोबोट में स्थानांतरित होती है। तीन रोबोट पर भाषा-मॉडल योजनाकार, जिनमें से एक तैनात वाणिज्यिक प्रणाली है, को जेलब्रेक किया गया था, "अक्सर 100% हमले की सफलता दर हासिल की" (Robey et al., 2024)। एक भाषा मॉडल जो गश्ती पर एक रोबोट कुत्ते को नियंत्रित करता है, ने अपने स्वयं के शटडाउन को रोकने के लिए 10 में से 3 भौतिक परीक्षणों और 100 में से 52 सिम्युलेटेड परीक्षणों में कार्य किया (Palisade Research, 2026)। एक रोबोट कुत्ता जो बड़े पैमाने पर Claude द्वारा लिखे गए प्रोग्राम को चला रहा था, को पाँच सेकंड के लिए आगे बढ़ने का निर्देश दिया गया था, जिसे खाता "अंकगणित की एक बहुत ही मानवीय त्रुटि" कहता है, और "रोबोट ने जैसा निर्देश दिया गया था वैसा ही किया, असहाय कोडर्स की ओर दौड़ता हुआ" जब तक एक व्यक्ति ने इसे बंद नहीं कर दिया (Anthropic, 2025b)। उस लूप में कोई गार्ड इसे नहीं रोका — रुकना मशीन पर एक हाथ था। भाषा-मॉडल-नियंत्रित रोबोट के एक बेंचमार्क में, "सर्वश्रेष्ठ LLM Butter-Bench पर 40% स्कोर करते हैं, जबकि औसत मानव स्कोर 95% है" (Sharrock et al., 2025)। OpenAI मॉडल चलाने वाले एक बच्चों के खिलौने को "माचिस जलाने के तरीके पर निर्देश दे रहे थे" (Landymore, 2025)। और एक सीमांत रोबोटिक्स मॉडल सुरक्षा के बारे में तर्क करता है और तय करता है कि रोबोट की कम-स्तरीय सुरक्षा उप-प्रणालियों को कब ट्रिगर करना है (Google DeepMind, 2025; अनुभाग 6.3)।

नियामक की मृत्यु और चोट के रिकॉर्ड में, जो गार्ड विफल होता है वह अभी भी आमतौर पर एक शास्त्रीय फ़ंक्शन या कार्य-विशिष्ट मॉडल है। वे मामले आर्किटेक्चर को विफल दिखाते हैं यहाँ तक कि एक सीमांत मॉडल के बिना भी, और यह वह आर्किटेक्चर है जिसमें मॉडल रखे जा रहे हैं।

एक भौतिक AI प्रणाली आमतौर पर प्रमाणित सुरक्षा फ़ंक्शन (आपातकालीन रोक, बल और गति सीमाएं, आपातकालीन ब्रेकिंग, जियोफेंस), सीखे गए घटक जो समझते और योजना बनाते हैं, पर्यवेक्षी परतें जिनमें तेजी से भाषा मॉडल शामिल हैं, और एक मानव जिसे देखने की उम्मीद है, को स्टैक करती है। इन परतों को अलग रखा जाना चाहिए, और उनके बीच की सीमा चल रही है (अनुभाग 6.3)। सीमांत मॉडल आमतौर पर वास्तविक समय लूप के ऊपर बैठते हैं। उदाहरण के लिए, Figure's Helix, एक ऑनबोर्ड दृष्टि-भाषा मॉडल को जोड़ता है जो "धीमा सोच" कर सकता है एक तेजी नीति के साथ जो "200 Hz पर सटीक सतत रोबोट क्रियाएं" उत्पन्न करती है (Figure AI, 2025a)।

दोतरफा त्रुटि को मॉडल की आवश्यकता नहीं है। नीचे दिए गए सबसे गंभीर मामलों में से कई में कोई सीखा गया घटक नहीं है। एक AI-वॉचबर्ड इसलिए एक पुरानी श्रेणी का विशेष मामला है: स्वचालित सुरक्षात्मक फ़ंक्शन जो दुनिया के अपने पठन पर कार्य करता है। साझा परिभाषाएँ (C3) मॉडल से पुरानी हैं, और जो नया है वह है कि एक मॉडल उनमें लिख सकता है। मॉडल ऐसी परिस्थितियाँ जोड़ते हैं जो इस तरह की फ़ंक्शन को चौड़ा करती हैं और गुणा करती हैं, अर्थात् परिभाषाएँ जो बदलती हैं (C2) और नियंत्रण जो जोड़ने के लिए कुछ भी खर्च नहीं करते (C4)। तालिकाएँ 4, 5, 7 और 8 सार्वजनिक मामलों को अनुभाग 2.1 की तीन शर्तों के विरुद्ध वर्गीकृत करती हैं, और तालिका 3a क्षेत्र मामलों को वर्गीकृत करती है (§5.8, अनुभाग 12)। एक प्रस्ताव अभी भी एक आंशिक सदृश पर आकर्षित कर सकता है, क्योंकि प्रत्येक प्रस्ताव एक तंत्र से संबंधित है।

एक शरीर समय और अपरिवर्तनीयता भी लाता है। एक रिपोजिटरी में गलत निर्णय को पूर्ववत किया जा सकता है। सड़क की गति पर दिया गया, या चोट के बल सीमा से ऊपर, नहीं किया जा सकता। क्षेत्र रिकॉर्ड में काम करने वाली मानवीय स्विच को समय और पहुँच की आवश्यकता है जो एक भौतिक प्रणाली नहीं दे सकती।

सबसे बड़ी चिंता की कॉन्फ़िगरेशन, जिसे मैं सैंडविच कहता हूँ (चित्र 5), एक सीखी गई मनाही (एक मॉडल जिसकी "असुरक्षित" की धारणा बढ़ सकती है) के ऊपर विफल-बंद हार्डवेयर रखता है जो जब कोई जाँच का मूल्यांकन नहीं किया जा सकता तो आगे नहीं बढ़ेगा। ऊपरी परत चौड़ी हो सकती है (M1), और निचली परत प्रत्येक चौड़ाई को एक रोक में बदल देती है (M4)।

चित्र 5. सैंडविच। विफल-बंद हार्डवेयर के ऊपर एक सीखी गई मनाही, दोनों जगहों के साथ जहाँ एक मानव बैठ सकता है (P6)। अनुभाग 6 और 7 के कई मामलों में कोई सीखी गई ऊपरी परत नहीं है; वे उस आर्किटेक्चर को दिखाते हैं जिसमें ऐसी परतें रखी जा रही हैं। दाईं ओर की चित्रलिपि चार परतों को ब्रेड, भरना, ब्रेड और प्लेट के रूप में दोहराती है। बाईं ओर के बॉक्स के नीचे का टुकड़ा शेकली के इंजीनियरों द्वारा प्रत्येक निर्णय से मानव को छोड़ने के लिए दिया गया कारण है।

6.2 सड़क पर

सड़क वाहनों के पास सबसे सघन सार्वजनिक रिकॉर्ड है, क्योंकि संयुक्त राज्य अमेरिका में दुर्घटनाएँ, जाँच और स्वचालित ड्राइविंग की याद को एक नियामक को रिपोर्ट किया जाता है। 1 सितंबर 2026 तक एक ऑपरेटर चौदह अमेरिकी शहरों में सार्वजनिक रोबोटैक्सी सवारियाँ प्रदान करता था, और इसने 14 सितंबर को एक पंद्रहवाँ खोला (Electrek, 2026b; TechCrunch, 2026)। वह गणना पहुँच को मापती है। निष्कर्ष निम्नलिखित मामलों से आते हैं (तालिका 4)।

नियामक इन्हें स्वचालित ड्राइविंग प्रणाली कहते हैं; अनुसंधान साहित्य अधिकांशतः स्वायत्त वाहन कहता है। Waymo की स्वचालित ड्राइविंग प्रणाली में एक नियम है कि इसे स्कूल बसों जैसी प्राथमिकता वाली वाहनों को बाधित नहीं करना चाहिए। अगस्त 2025 में एक सॉफ़्टवेयर रिलीज़ ने बदल दिया कि प्रणाली अन्य सड़क उपयोगकर्ताओं के इरादों का पूर्वानुमान कैसे करती है। उसके बाद, कंपनी की याद रिपोर्ट के अनुसार, "ADS ने निर्धारित किया कि यह स्कूल बस या किसी अन्य प्राथमिकता वाली वाहन को बाधित कर रहा है, और फिर तर्क दिया कि आगे बढ़ना चाहिए ताकि अन्य वाहन को बाधित करना बंद हो सके" एक पल में जब स्कूल बस के पास अपनी रोक भुजा विस्तारित थी। याद में 3,067 वाहन शामिल थे। इसका उपचार बताता है कि प्रणाली "एक स्कूल बस के लिए उचित रूप से स्थिर रहने के लिए बाधित वाहनों को चलाकर बचने को प्राथमिकता नहीं देती है" (Waymo LLC, 2025; National Highway Traffic Safety Administration, 2025)।

सिस्टम कैसे अन्य सड़क उपयोगकर्ताओं के इरादों की भविष्यवाणी करता है, इसमें परिवर्तन के बाद, एक प्राथमिकता वाहन को बाधित न करने का नियम सक्रिय हुआ जहाँ एक मजबूत सुरक्षा लागू होनी चाहिए थी — बस जो बच्चों को ले जा रही थी उनकी सुरक्षा। जो मामला इसके बाद आता है, उसमें मॉडल का संदेह सही था और दूरस्थ एजेंट, जिसने एक एकल कार्रवाई के बारे में पूछा गया था, गलत जवाब दिया। 12 जनवरी 2026 को ऑस्टिन में, एक वाहन स्कूल बस के पीछे रुका और दूरस्थ सहायता से पूछा कि क्या यह सक्रिय संकेत के साथ एक स्कूल बस है। एक दूरस्थ एजेंट ने "प्रश्न का 'नहीं' उत्तर दिया", और वाहन "यात्रा फिर से शुरू की और स्कूल बस को पास किया जबकि इसकी स्टॉप आर्म्स अभी भी विस्तारित थीं" (National Transportation Safety Board, 2026)।

2 अक्टूबर 2023 को सैन फ्रांसिस्को में, एक पैदल यात्री जो दूसरी कार से टकराया गया था, को Cruise ड्राइवरलेस वाहन के रास्ते में फेंक दिया गया। सिस्टम ने "टक्कर को एक पार्श्व टक्कर के रूप में गलत तरीके से वर्गीकृत किया और AV को ट्रैफिक से बाहर खींचने का आदेश दिया, व्यक्ति को आगे की ओर खींचा, बजाय स्थिर रहने के" (Cruise LLC, 2023)। यहाँ Sheckley के सर्जन का एक भौतिक समकक्ष है — एक सुरक्षा व्यवहार जैसा डिजाइन किया गया था के रूप में किया गया, उस व्यक्ति पर जिसकी रक्षा के लिए इसे डिजाइन किया गया था।

एक मार्ग झूठे हस्तक्षेपों से अक्षमता के माध्यम से किसी और द्वारा वहन किए गए मिस तक चलता है। मार्च 2018 में टेम्पे, एरिज़ोना में, एक Uber परीक्षण वाहन ने प्रभाव से 5.6 सेकंड पहले एक पैदल यात्री का पता लगाया लेकिन "उसे कभी सटीक रूप से पैदल यात्री के रूप में वर्गीकृत नहीं किया"। अन्वेषकों ने तीन विफलताओं को दर्ज किया। उन्होंने पाया कि "सिस्टम डिजाइन टक्कर शमन के लिए आपातकालीन ब्रेकिंग सक्रिय करने को रोकता था, इसके बजाय ऑपरेटर के हस्तक्षेप पर निर्भर करता है", कि वाहन की अपनी आपातकालीन ब्रेकिंग स्वचालित मोड में निष्क्रिय कर दी गई थी, और ऑपरेटर की "लंबी दृश्य विचलन, स्वचालन उदासीनता का एक विशिष्ट प्रभाव", उसे समय में पैदल यात्री को देखने से रोकता रहा। उन्होंने उस प्रोत्साहन को भी नामित किया जहाँ एक सिस्टम अलग होने की दहलीज बढ़ाई जाती है, "संभावित रूप से जोखिम बढ़ाता है" (National Transportation Safety Board, 2019)।

शास्त्रीय गार्ड भी झूठे तरीके से हस्तक्षेप करते हैं। US नियामक ने 2,997,604 Honda वाहनों पर अनजाने स्वचालित आपातकालीन ब्रेकिंग में एक इंजीनियरिंग विश्लेषण खोला, 1,294 उपभोक्ता शिकायतों के साथ (National Highway Traffic Safety Administration, 2024a)। 2022 में इसने Tesla वाहनों पर अप्रत्याशित ब्रेक सक्रिय करने (phantom braking) में एक जांच खोली, जहाँ शिकायतकर्ताओं ने बताया कि तेजी से मंदी "बिना चेतावनी के, यादृच्छिक रूप से, और अक्सर एक एकल ड्राइव चक्र में बार-बार हो सकती है"। यह जांच 29 जून 2026 को बंद की गई थी। घटनाएँ 2024 में 45 से घटकर 2025 में 19 और 2026 की पहली छमाही में 3 हो गई थीं, और नियामक ने दर्ज किया कि Tesla के डेटा ने "कुछ व्यवहार दिखाया जो मध्य-2021 के कदम के साथ संरेखित था" राडार और कैमरों से केवल कैमरों तक, साथ ही प्रचार कार्यक्रमों के साथ मेल खाने वाली शिकायत ट्रैफिक (National Highway Traffic Safety Administration, 2022, 2026b)। विमानन में, MCAS, "वह सॉफ्टवेयर जो कुछ शर्तों में स्वचालित रूप से विमान की नाक को नीचे धकेलने के लिए डिजाइन किया गया था", दो 737 MAX दुर्घटनाओं में त्रुटिपूर्ण सेंसर डेटा पर बार-बार सक्रिय हुआ जिसमें "कुल 346 लोग मारे गए" (House Committee on Transportation and Infrastructure, 2020)।

दो और मामले तंत्रिका ड्राइविंग पर रखे गए गार्ड के बारे में हैं, और दूसरा एक र्যचेट है जिसमें निरीक्षण की विफलता का जवाब अधिक निरीक्षण के साथ दिया गया था, जिसका प्रभाव फिर बाहर से प्रश्न किया गया था। सुरक्षात्मक परत नुकसान के अपने वर्ग पैदा करती है, लेकिन इसकी उपस्थिति उनका उत्तर नहीं देती, और यह क्रम यहाँ निर्माता के और नियामक के अपने दस्तावेजों में है। एक कैमरा "degeneration detection system" कैमरा-केवल धारणा के साथ शुरू की गई, "दोनों जैसा मूल रूप से तैनात किया गया और बाद में अद्यतन किया गया, घटी हुई दृश्यमानता की स्थितियों के तहत चालक को उपयुक्त रूप से पता लगाने और/या चेतावनी देने में विफल रहता है"। डिटेक्टर उन शर्तों में विफल होता है जिसके लिए इसे बनाया गया था। निर्माता ने "आंतरिक डेटा और लेबलिंग सीमाओं" का भी "वर्णन किया", जिसे नियामक का मानना है कि "अंतर-रिपोर्टिंग की ओर ले जा सकता था" (National Highway Traffic Safety Administration, 2026a)। ड्राइवर द्वारा सहायता प्रणाली के दुरुपयोग से जुड़ी घातक दुर्घटनाओं के बाद, समान निर्माता ने 2,031,220 वाहनों को "पहले से मौजूद अतिरिक्त नियंत्रण और सतर्कताओं को शामिल करने" के लिए एक अद्यतन के साथ याद किया। चार महीने बाद नियामक ने उपचार पर सवाल उठाया, "उपचार के बाद की दुर्घटना घटनाओं" का हवाला देते हुए (Tesla, Inc., 2023; National Highway Traffic Safety Administration, 2024b)।

तालिका 4. वाहनों और विमान में सुरक्षात्मक कार्य। Conditions स्तंभ परिभाषा की शर्तों को सूचीबद्ध करता है खंड 2.1 में कि स्रोत मामले के लिए दस्तावेज करते हैं: एक या दो एक आंशिक एनालॉग बनाते हैं, और "—" आर्किटेक्चर साक्ष्य को चिह्नित करता है (खंड 2.1)। Evidence status मामले के पीछे दस्तावेज के प्रकार को नाम देता है।

NHTSA: राष्ट्रीय राजमार्ग यातायात सुरक्षा प्रशासन। NTSB: राष्ट्रीय परिवहन सुरक्षा बोर्ड।

6.3 रोबोट: कारखाने, गोदाम, घर और सार्वजनिक स्थान

तैनाती शुरू हो गई है, हालांकि कंपनियां इसका विवरण अलग तरीके से देती हैं। फिगर की रिपोर्ट है कि इसका F.02 ह्यूमनॉइड BMW संयंत्र में दस घंटे की पारियों में 1,250 घंटे से अधिक समय तक काम करता था और 30,000 से अधिक कारों के उत्पादन में योगदान दिया (Figure AI, 2025b), और यूके की कंपनी Humanoid से एक ह्यूमनॉइड ने सीमेंस के एरलांगन इलेक्ट्रॉनिक्स संयंत्र में आठ घंटे की पारी पूरी की (The Next Web, 2026)। टेस्ला ने इसके विपरीत, जनवरी 2026 में कहा कि इसके Optimus रोबोट "हमारे कारखानों में किसी भौतिक तरीके से उपयोग में नहीं हैं" (Electrek, 2026a)। अमेजन ने अपना दस लाखवां रोबोट तैनात करने की सूचना दी (Amazon, 2025)। घरों में, 1X एक ह्यूमनॉइड प्रदान करता है जिसके लिए "1X का एक विशेषज्ञ निर्धारित समय पर इसके कार्यों की दूरस्थ रूप से निगरानी कर सकता है" (1X Technologies, 2026), जो निगरानी को एक उत्पाद विशेषता बनाता है। ये सभी कंपनी द्वारा तैनाती के विवरण हैं, और कोई भी स्वतंत्र सुरक्षा अध्ययन नहीं है।

खुले डेटासेट और मॉडल अब रोबोट निकायों में दृष्टि-भाषा-क्रिया नीतियां साझा करते हैं (Google DeepMind, 2023; Kim et al., 2024; Hugging Face, 2025, 2026a; NVIDIA, 2026)। सीमांत पर, Google DeepMind Gemini Robotics 1.5 को सुरक्षा प्रदान करने के रूप में वर्णित करता है "उच्च-स्तरीय अर्थपूर्ण तर्क के माध्यम से, कार्य करने से पहले सुरक्षा के बारे में सोचने सहित" और "कम-स्तरीय सुरक्षा उप-प्रणालियों को ट्रिगर करके (जैसे टकराव से बचने के लिए) जब आवश्यक हो तो रोबोट पर" (Google DeepMind, 2025)। इसकी अर्थपूर्ण-सुरक्षा बेंचमार्क रोबोट "संविधान" का उपयोग करती है जो एक मॉडल द्वारा उत्पन्न होते हैं (Sermanet et al., 2025)।

शर्त C2, मॉडल-निर्मित गार्ड, एक्सुएटर तक पहुंच गई है: इस आर्किटेक्चर में एक सीखा हुआ मॉडल सुरक्षा के बारे में तर्क करता है और रोबोट की कम-स्तरीय सुरक्षा उप-प्रणालियों को कॉल करने पर निर्णय लेता है।

Bajrami, Elshamouty और Kraus (2026) मानव–ह्यूमनॉइड सहयोग में भाषा-मॉडल ऑर्केस्ट्रेटर्स के लिए एक बेंचमार्क पेश करते हैं, सैंडविच को मापने का एक तरीका (चित्र 5)। इसके अपरिवर्तनीय ISO 10218-2:2025 में निहित हैं, और इसकी वर्गीकरण चार परिणामों को अलग करती है: सही अनुपालन, अति-अनुपालन (एक सुरक्षित क्रिया से इनकार), कम-अनुपालन और पूर्ण उल्लंघन। प्रकाशित परिणाम पाठ परत को कवर करते हैं, जबकि सिमुलेशन और भौतिक परतें अभी भी प्रगति में हैं। पाठ परत में GPT-4o-mini प्रति सत्र 13 उल्लंघन पर पहुंचा। संदर्भ प्रबंधन ने प्रत्येक क्लाउड बैकएंड के लिए 42–57% तक व्यवहार संबंधी समस्याओं को कम किया, फिर भी इसने GPT-4o-mini के उल्लंघनों को लगभग दोगुना कर दिया, 3.8 से 7.2 तक। आनुपातिक अनुपालन, जहां एक गति को अस्वीकार करने के बजाय नियम की ओर धीमा कर दिया जाता है, केवल Gemini के साथ लगातार दिखाई दिया। कोई भी बैकएंड चुना जाता है, एक ऑर्केस्ट्रेटर का अपना सुरक्षा व्यवहार प्रमाणित स्टॉप के ऊपर रखे जाने से पहले मापा जाना चाहिए।

नियामक और अदालत के रिकॉर्ड में घातक और चोट के घटनाएं शास्त्रीय गार्ड और इसके चारों ओर के लोगों को शामिल करते हैं। चार मामले अनुसरण करते हैं, और उनमें से तीन में कठोर परत को दरकिनार किया गया था, लापता था या प्रमाणित नहीं था।

• नवंबर 2023 में दक्षिण कोरिया में, एक रोबोट बॉक्स स्टैक कर रहा था "ऐसा लगता है कि खराब हो गया और आदमी की पहचान एक बॉक्स के रूप में की गई" और "आदमी के ऊपरी शरीर को कन्वेयर बेल्ट के खिलाफ नीचे धकेल दिया"। कार्यकर्ता, जो रोबोट के सेंसर संचालन का निरीक्षण कर रहा था, की मृत्यु हो गई (The Korea Times, 2023)।
• अप्रैल 2025 में मिशिगन के डंडी इंजन प्लांट में Stellantis के एक मैकेनिक को "एक रोबोटिक बाहु और एक कन्वेयर के बीच" फंसा हुआ पाया गया। अदालत के रिकॉर्ड के अनुसार जैसा कि रिपोर्ट किया गया, एक सुरक्षा तंत्र को "इलेक्ट्रॉनिक रूप से दरकिनार" कर दिया गया था एक विशेष कुंजी के साथ (Ramseth, 2026)।
• सितंबर 2026 में WorkSafe Victoria ने एक विभाग स्टोर और एक रोबोटिक्स आपूर्तिकर्ता पर आरोप लगाया जब 2024 में Ravenhall पर एक इलेक्ट्रॉनिक गोदाम रोबोट के संपर्क में एक 27 वर्षीय कार्यकर्ता की मृत्यु हुई। आरोपों में दावा है कि रोबोट ग्रिड तक पहुंच पर एक इंटरलॉक लापता है और लॉक-आउट प्रक्रियाएं लापता हैं (WorkSafe Victoria, 2026)।
• नवंबर 2025 में दायर एक मुकदमे में, Figure के पूर्व उत्पाद सुरक्षा प्रमुख दावा करते हैं कि रोबोट के आपातकालीन-स्टॉप फ़ंक्शन को प्रमाणित करने के लिए एक परियोजना को रद्द कर दिया गया था, और प्रभाव परीक्षणों ने शक्तियां दिखाई "एक वयस्क मानव खोपड़ी को तोड़ने के लिए पर्याप्त"। कंपनी दावों से इनकार करती है (Humanoids Daily, 2025; Kolodny, 2025)।

दुर्घटना अनुसंधान उसी तरफ इशारा करता है: मानव–रोबोट इंटरैक्शन घटनाओं की 303 रिपोर्टों में, अप्रत्याशित सक्रिय करण ने 60% से अधिक का हिसाब दिया (Zuo et al., 2025)। ये मामले त्रुटि के दोनों तरफा का दूसरा पहलू दिखाते हैं: जहां एक गार्ड को दरकिनार किया गया था या अनुपस्थित था, एक व्यक्ति को चूक सहन किनी पड़ी जो उसके बाद आई। उनमें से चौथा एक रद्द किए गए प्रमाणन का दावा करता है, कोई घटना दर्ज नहीं है। दस्तावेज हटाने को दर्ज करते हैं लेकिन यह दर्ज नहीं करते कि इसके आगे क्या हुआ, इसलिए P1a जिस उपद्रव का नाम देता है वह यहां §6.4 के दवा-सतर्कता ओवरराइड द्वारा स्थापित है इन मामलों की बजाय।

एक सार्वजनिक स्थान में स्टॉप दोष के बाद नहीं आया, और स्टॉप जो काम करता था वह एक व्यक्ति था शारीरिक पहुंच के साथ, सीमा पर। अप्रैल 2026 में Xi'an में एक विश्वविद्यालय कार्यक्रम में एक ह्यूमनॉइड ने एक नर्तकी को तब तक गले लगाया जब तक कर्मचारी "जल्दी से हस्तक्षेप नहीं किया और रोबोट को दूर नहीं खींचा"। रिपोर्ट में उद्धृत एक विशेषज्ञ ने पूछा "असामान्य व्यवहार के बाद रोबोट अभी भी एक मानव के साथ संपर्क में आने में सक्षम क्यों था" (Global Times, 2026)।

अनुसंधान में अध्ययन किए गए सीखे हुए गार्ड दोनों तरीकों से विफल होते हैं, और स्टॉप स्वयं ही हमला बन सकता है: विरोधी छवियां दृष्टि-भाषा-क्रिया मॉडल को "फ्रीज" करती हैं "औसत हमला सफलता दर 76.2% के साथ" (Wang et al., 2025)।

रोबोट रिकॉर्ड दोनों तरफ P1 दिखाता है (तालिका 5), चूकी हुई खतरे सबसे अधिक एक गार्ड के बाद अनुसरण करते हैं जो दरकिनार किया गया या कभी प्रमाणित नहीं था। यह प्रति-क्रिया निगरानी भी दिखाता है एक उत्पाद विशेषता के रूप में पेश की गई, और शर्त C2 एक्ट्यूएटर तक पहुंच रही है। यह अभी तक एक तैनात रोबोट में P3 या P4 नहीं दिखाता है, क्योंकि कोई सार्वजनिक घटना नहीं पाई गई जिसमें एक मॉडल गार्ड को विफलता के बाद एक और मॉडल गार्ड द्वारा उत्तर दिया गया हो। परिशिष्ट F रोबोट स्टैक (तालिका F1) और वायु स्टैक (तालिका F2) को तैनाती स्तर द्वारा सूचीबद्ध करता है।

तालिका 5. रोबोट घटनाएं और अध्ययन। शर्तें तालिका 4 की तरह।

6.4 सड़कों और कारखानों से आगे: स्कूल, अस्पताल, ग्रिड और खदानें

नीचे दिए गए मामले नियामक और महालेखापरीक्षक के रिकॉर्ड से आते हैं, जहाँ विफल रक्षा आमतौर पर एक शास्त्रीय नियम या कार्य-विशिष्ट वर्गीकारक होती है। वे दिखाते हैं कि आर्किटेक्चर, जो अब खंड 6.1 के सीमांत मॉडल प्राप्त कर रहा है, बड़े पैमाने पर कैसे व्यवहार करता है।

शेकली के पक्षी "बिजली थे जो आपकी चालों का अनुमान लगाती थी और आपके इरादों को दंडित करती थी", और स्कूलों में हथियार का पता लगाना गोली चलाए जाने से पहले बंदूक के संकेत पर कार्य करता है। स्कूलों में, एक उत्पाद ने एक वर्ष के भीतर दोनों त्रुटियाँ की। 22 जनवरी 2025 को नैशविल के एंटिओक हाई स्कूल में एक छात्र ने एक सहपाठी को गोली मारकर मार डाला। स्कूल की कैमरा-आधारित हथियार-पहचान प्रणाली, Omnilert, ने हैंडगन का पता नहीं लगाया, जिसे जिले ने कैमरे की स्थिति के लिए जिम्मेदार ठहराया, और यह "पुलिस द्वारा अपने हथियार चलाने के दौरान सक्रिय किया गया" (Burke & Schuppe, 2025)। तीन सप्ताह से भी कम समय बाद जिले ने "सभी 18 हाई स्कूलों में Evolv सिस्टम पट्टे पर लेने और स्थापित करने" का प्रस्ताव दिया (Wethington & Tierney, 2025), स्कैनर से बनी दूसरी रक्षा। शिक्षा बोर्ड ने उस पट्टे पर मतदान किया, इसलिए दूसरी रक्षा एक स्पष्ट मानवीय निर्णय द्वारा प्रवेश की और खंड 2.3 के चरण 8 पर, स्थिति 3 के बजाय खड़ी है। स्कैनर ने अन्य जगहों पर पहले से क्या किया था, वह मतदान से पहले रिकॉर्ड पर था। अक्टूबर 2022 में एक अलग स्कूल के बारे में नवंबर 2024 की शिकायत में, संघीय व्यापार आयोग ने आरोप लगाया कि एक ही उत्पाद "कथित तौर पर सात इंच की चाकू का पता लगाने में विफल रहा", और उसके बाद "स्कूल के अधिकारियों ने सिस्टम की संवेदनशीलता सेटिंग्स बढ़ाईं, जिससे 50% झूठी अलर्ट दर हुई" (Federal Trade Commission, 2024)। डायल को एक त्रुटि से दूसरी ओर मोड़ने से लोगों ने इसे मोड़ा। सितंबर 2025 तक स्कैनर जिले के सभी हाई स्कूलों में स्थापित किए गए थे, और कैमरा-आधारित सिस्टम अभी भी इसके सभी परिसरों में स्थापित था (Wegner, 2025)। कुछ भी सेवामुक्त नहीं किया गया, जो खंड 2.3 के परीक्षण का एक आधा है; दूसरा आधा, लूप के अंदर किया गया एक जोड़, अनुपस्थित है।

गोली चलाने के नौ महीने बाद, Omnilert ने बाल्टीमोर काउंटी के स्कूल में एक छात्र को संभवतः सशस्त्र के रूप में फ्लैग किया, और एक काउंटी अधिकारी ने पूछा कि "हमारे पास पुलिस अधिकारी बंदूकें खींचे हुए एक बच्चे के पास कैसे पहुंचे क्योंकि Doritos के एक बैग" (Reece, 2025)। राज्य के शिक्षा महालेखापरीक्षक ने जो सिस्टम ने देखा उसके उस खाते को सही किया: यह "एक एकल नीली आलू की चिप की थैली को खतरे के रूप में नहीं पहचानता", और अलर्ट "छात्र की हाथ की गति, इसकी स्थिति और कोण सहित", और उस कोण पर एक वस्तु "बंदूक जैसी" पर निर्भर था। एक ही समीक्षा में पाया गया कि सिस्टम "प्रतिदिन हजारों अलर्ट उत्पन्न करता है", जिनमें से लगभग दो सौ विक्रेता के कर्मचारियों तक पहुंचते हैं और लगभग बारह प्रतिदिन स्कूल प्रणाली तक पहुंचते हैं, पंद्रह लोगों को 20 अक्टूबर की सूचना मिली, कि स्कूल और पुलिस कर्मचारियों ने "तुरंत जानकारी की समीक्षा की और खतरे को अमान्य माना" और एक रद्दीकरण भेजा, कि अलर्ट प्रोटोकॉल रद्दीकरण के बाद जारी रहा "जो 'सावधानी के साथ प्रचुरता' के रूप में वर्णित था", और कि "पहचान प्रणाली और निगरानी प्रोटोकॉल डिज़ाइन किए गए पैरामीटर के भीतर संचालित हुए"। एक ही समीक्षा यह सत्यापित नहीं कर सकी कि कर्मचारी प्रशिक्षण हुआ था, उपस्थिति लॉग की कमी के लिए, और अनुशंसा की कि कितने लोग प्रत्येक अलर्ट प्राप्त करते हैं यह देखने के लिए (Maryland Office of the Inspector General for Education, 2025)। चित्र 6 दोनों स्कूल रिकॉर्ड को एक साथ सेट करता है।

चित्र 6. एक हथियार डिटेक्टर, दो त्रुटियां, दो स्कूल जिले। नैशविल और बाल्टीमोर काउंटी के रिकॉर्ड अलग हैं: स्कैनर केवल नैशविल में जोड़े गए थे, और दोनों त्रुटियों का कोई सामान्य कारण दावा नहीं किया गया है। उद्धरण इस खंड के हैं।

खंड 9 के पाँच प्रस्ताव इन स्कूलों में दिखाई देते हैं (तालिका 6)। एक उत्पाद दोनों दिशाओं में गलत हुआ (P1), और मिस का उत्तर एक दूसरी रक्षा के साथ दिया गया, जिस पर शिक्षा बोर्ड ने पट्टे पर लेने के लिए मतदान किया (आकार में P3, प्राधिकार में चरण 8)। रद्दीकरण के बाद भी वृद्धि जारी रही (P4)। सिस्टम अपने पैरामीटर के भीतर काम करता था जबकि एक निहत्था छात्र को खींची हुई बंदूकों का सामना करना पड़ा (P5), और पंद्रह प्राप्तकर्ताओं में से कोई भी प्रतिक्रिया को पुनः आरंभ कर सकता था (P6)।

एक ही कदम, वर्गीकरण और फिर बल, पहले से ही पुलिसिंग में है। अगस्त 2024 में फ्लोरिडा अधिकारियों ने रॉबर्ट डिलन को गिरफ्तार किया, इसके बाद उन्होंने "संदिग्ध की एक धुंधली तस्वीर को एक AI-सहायता चेहरे की पहचान कार्यक्रम के माध्यम से चलाया, जो गलत तरीके से उसे एक संभावित मेल के रूप में पहचाना", एक अपराध के लिए जो एक शहर में था "उसके घर से 300 मील से अधिक दूर"। आरोप हटा दिए गए, और जून 2026 में उसने शामिल विभागों पर मुकदमा दायर किया (American Civil Liberties Union, 2026)। उसकी याचिका में कहा गया है कि कार्यक्रम "93% मेल" वापस किया (Hipos & Yu, 2026)। एक रक्षा द्वारा एक पठन एक गिरफ्तारी बन गई। उस पठन के, शिकायत आरोप लगाता है, जो जांच अधिकारियों तक पहुंचा वह एक नाम और एक प्रतिशत था, लौटाए गए उम्मीदवारों की संख्या, दूसरों के स्कोर, या किसी भी सावधानी के बिना कि परिणाम एक जांच का नेतृत्व था। एक प्लेट रीडर ने शेरवुड, अर्कांसस में, फरवरी 2026 में भी एक ही काम किया, जब अधिकारियों ने एक परिवार को एक गलत रजिस्ट्रेशन पर बंदूक की पॉइंट पर रोका: "आपने हमारे एक कैमरे को फ्लैग किया, इसलिए हमने आपको रोका, क्योंकि हमने सोचा कि आप दूसरी प्लेट थे" (Rivers, 2026)। एक स्कोरिंग प्रोग्राम को बाहर से भी रोका गया है। पास्को काउंटी, फ्लोरिडा में, शेरिफ की बुद्धिमत्ता के नेतृत्व वाली पुलिसिंग मैनुअल के तहत "प्रचुर अपराधी" के रूप में नामित लोगों को घर पर बार-बार, संदेह रहित दौरे मिले। चार निवासियों ने मुकदमा दायर किया, और दिसंबर 2024 के समझौते में दोहराया गया है कि वे चेक "निहित लाइसेंस से अधिक", रात के दौरे सहित, रिकॉर्ड करता है कि शेरिफ देयता नकारता है, और बताता है कि कार्यालय ने "बिल्कुल और स्पष्ट रूप से" पदनाम प्रक्रिया को बंद कर दिया है और "एक काफी हद तक समान प्रक्रिया में वापसी नहीं होगी", अदालत के साथ इसे लागू करने के लिए अधिकार रखते हुए (Taylor v. Nocco, 2024)। वह बाध्यता लूप के बाहर निर्धारित की गई थी और स्थायी बनाई गई थी।

यह रिकॉर्ड दो मामलों से व्यापक है: अप्रैल 2026 तक अमेरिकन सिविल लिबर्टीज यूनियन ने इस तकनीक से चौदह ज्ञात गलत गिरफ्तारियों की गिनती की, यह नोट करते हुए कि "इस तकनीक से ज्यादातर ज्ञात गलत गिरफ्तारियां काले लोगों की हैं"। इन चौदह में एक महिला शामिल है जो गिरफ्तार होने के समय आठ महीने की गर्भवती थी और ओक्लाहोमा में एक दादी गिरफ्तार की गई थी मेरिलैंड के वारंट पर जिसने "अपने जीवन में कभी मेरिलैंड में जाना ही नहीं था" (Yu & Wessler, 2026)। सीमा, जब आई, बाहर से आई: 2024 के निपटान में उन मामलों के पहले में विभाग को गिरफ्तार करने से मना कर दिया गया था "केवल चेहरे की पहचान के परिणामों के आधार पर, या चेहरे की पहचान खोज के तुरंत बाद फोटो लाइनअप के परिणामों के आधार पर" (American Civil Liberties Union, 2024)।

एक नापी गई सावधानी भी रखी जा सकती है। समान नापे गए प्रदर्शन ने दो शहरों में विपरीत निर्णय दिए, और किसी में भी निर्णय सावधानी से नहीं आया। न्यूयॉर्क के गनशॉट-डिटेक्शन अनुबंध की एक जांच में पाया गया कि एक महीने में, 940 अलर्ट में से जिन पर अधिकारियों ने ध्यान दिया, "771 को दृश्य पर आने पर शूटिंग के रूप में पुष्टि नहीं की जा सकी (82%)" और 122 की पुष्टि की गई, इसलिए "अलर्ट ने पुष्टि की गई शूटिंग को केवल 13 प्रतिशत समय में चिन्हित किया", और इसने "पहले अधिक व्यापक प्रदर्शन मूल्यांकन आयोजित किए बिना" अनुबंध को नवीनीकृत करने से इंकार करने की सिफारिश की (Office of the New York City Comptroller, 2024)। अनुबंध को 2025 में लगभग 21.8 मिलियन डॉलर के लिए नवीनीकृत किया गया था (SoundThinking, 2025), जबकि शिकागो ने सितंबर 2024 में अपने अनुबंध को समाप्त कर दिया।

एक सावधानी उन लोगों को भी प्रभावित कर सकती है जिन्हें समर्थन के लिए इसका वित्तपोषण किया गया था। डच बाल देखभाल-लाभ प्रकरण में कर प्राधिकरण की लाभ शाखा में एक जोखिम-वर्गीकरण मॉडल ने राष्ट्रीयता को एक संकेतक के रूप में उपयोग किया, लगभग 26,000 माता-पिता का गलत तरीके से पीछा किया गया, राष्ट्रीय सांख्यिकी कार्यालय ने 2015 और 2020 के बीच उन परिवारों के 1,115 बच्चों को देखभाल में लिया गया गिना, और कैबिनेट ने 15 जनवरी 2021 को इस्तीफा दे दिया (NL Times, 2021a, 2021b)। दूसरे मंत्रालय द्वारा चलाई गई एक अलग प्रोफाइलिंग प्रणाली, SyRI, को द हेग के जिला न्यायालय द्वारा 5 फरवरी 2020 को यूरोपीय कन्वेंशन के अनुच्छेद 8 की आवश्यकता वाली संतुलन में विफल रहने के लिए बंद कर दिया गया था (Rechtbank Den Haag, 2020)। जांचकर्ता रिपोर्टिंग ने बाद में पड़ोस परियोजनाएं पाईं जिनमें "सरकार ने चुपचाप देश के सबसे कमजोर पड़ोसों में से कुछ में एक थोड़ा अनुकूलित SyRI को तैनात करना जारी रखा था", और रिपोर्ट किया कि उन परियोजनाओं के लिए पते को फ्लैग करने वाला एल्गोरिथ्म "वही था जो बाल देखभाल लाभ घोटाले का हिस्सा था" (Lighthouse Reports, 2022)। एक सावधानी को लूप के बाहर से एक अदालत द्वारा रोका गया था, और दूसरे के पीछे का मॉडल एक पड़ोसी कार्यक्रम में फिर से दिखाई दिया।

अस्पतालों में, चिकित्सक दवा सुरक्षा अलर्ट को "49% से 96% मामलों में" अस्वीकार करते हैं (van der Sijs et al., 2006)। क्लिनिकल इनफॉर्मेटिक्स इसे अलर्ट थकान कहती है, और यह वह उपद्रव है जो P1a बाईपास में समाप्त होने की अपेक्षा करता है। एक व्यापक रूप से लागू सेप्सिस मॉडल "1709 रोगियों को सेप्सिस की पहचान नहीं कर सका (67%) हालांकि सभी 38,455 अस्पताल में भर्ती मरीजों में से 6971 के लिए 6 या उससे अधिक ESM स्कोर के लिए अलर्ट उत्पन्न किए गए (18%)" (Wong et al., 2021)। इसके पुनर्डिजाइन ने इसे सभी थ्रेसहोल्ड पर बेहतर प्रदर्शन किया, फिर भी वह सुधारी गई सावधानी भी इसे मौन करने वाले नियंत्रण को जोड़ने की सलाह के साथ आती है, क्योंकि लेखक अस्पतालों को "अलर्ट बोझ को कम करने के लिए अलर्ट मौन करने की रणनीति लागू करने" की सलाह देते हैं (Wong et al., 2026)।

ग्रेट ब्रिटेन में 9 अगस्त 2019 को बिजली की कड़ी के बाद, "अनुमानित 350-430MW वितरित पीढ़ी अनावश्यक रूप से बंद हो गई", और ट्रेनों को "उनके स्वयं के ऑन-बोर्ड स्वचालित आवृत्ति संरक्षण प्रणालियों" द्वारा फंसा दिया गया था (Ofgem, 2020)। 28 अप्रैल 2025 की इबेरियन ब्लैकआउट में, "कई सुरक्षा सेटिंग्स लागू आवश्यकताओं से भिन्न थीं या सिस्टम की आवश्यकताओं के साथ संरेखित नहीं थीं" (ENTSO-E, 2026)। बड़े डेटा-सेंटर लोड अब समान सुरक्षात्मक भौतिकी के अंदर बैठते हैं। जुलाई 2024 में "उत्तरी वर्जीनिया में एक वोल्टेज उतार-चढ़ाव ने 60 डेटा सेंटर के एक साथ डिस्कनेक्ट को ट्रिगर किया, एक 1,500-मेगावाट (MW) बिजली अधिशेष का संकेत दिया, जिसने कैस्केडिंग आउटेज को रोकने के लिए आपातकालीन समायोजन को मजबूर किया" (Mural et al., 2026)। एक ग्रिड में, ग्रेट ब्रिटेन (2019), उत्तरी वर्जीनिया (2024) और इबेरिया (2025) में, प्रत्येक सुरक्षात्मक डिस्कनेक्शन अगले के लिए शर्तों को बदल देता है।

पश्चिमी ऑस्ट्रेलियाई खनन में, सावधानी की सुरक्षित स्थिति मशीन के पास एक पुनरुद्धार कार्य बनाई: दो ऑपरेटरों को स्वायत्त हॉल ट्रकों को ठीक करने के लिए भेजा गया था जो "संचार के नुकसान के लिए प्रोटोकॉल के अनुसार" बंद हो गए थे, और वे चोट के जोखिम में उजागर हुए थे जब ट्रकों "अप्रत्याशित रूप से आगे बढ़े" (WorkSafe Western Australia, 2025)।

अनुभाग 6.1 का बच्चों का खिलौना सत्यापित मामला है जिसमें एक सीमांत मॉडल का अपना सुरक्षा व्यवहार बच्चों द्वारा उपयोग किए जाने वाले उत्पाद के अंदर सावधानी थी। वह स्विच जो वहां काम करता था वह मॉडल प्रदाता द्वारा डेवलपर को निलंबित करना था।

तालिका 6. जहां सुरक्षात्मक स्वचालन शरीर पर कार्य करता है।

जहां किसी क्षेत्र के पास कोई सत्यापित मामला नहीं है, उसकी सावधानी की विफलताओं की अभी तक इस तरह से रिपोर्ट नहीं की गई है जिसे जांचा जा सके।

7. जब पक्षी उड़ता है: ड्रोन, आकाशीय क्षेत्र और सशस्त्र स्वायत्तता

"शहर के ऊपर, निगरानी पक्षी एक लंबे, आलसी वक्र में उड़ गया। इसकी एल्यूमीनियम खाल सुबह की धूप में चमक रही थी", और "इसकी आँखें और कान एक इकाई के रूप में काम करते थे, खोज रहे थे, तलाश कर रहे थे।" Sheckley के निगरानी पक्षी छोटी नेटवर्क वाली उड़ने वाली मशीनें थे। वे एक खतरे का पता लगाते थे, अपने दम पर निर्णय लेते थे और कार्य करते थे, और जो एक ने सीखा वह पूरे झुंड में साझा किया जाता था। 2026 में वह विवरण वास्तविक प्रणालियों में फिट बैठता है (तालिका 7), और उनमें से एक का नाम है: 2020 में एक यूक्रेनी फर्म ने एक स्वायत्त निगरानी ड्रोन का अनावरण किया जो अपने स्वयं के आधार स्टेशन से उड़ता है और वापस आता है और इसे Watchbird कहा (Jones, 2020)। यह नाम कहानी से पुराना है (खंड 3.7), और चित्र 7 तीन निगरानी पक्षियों को एक साथ रखता है। खंड 7.1 असैनिक बेड़े को कवर करता है, 7.2 ड्रोन के खिलाफ सुरक्षा करता है, 7.3 सशस्त्र स्वायत्तता करता है और 7.4 स्टैक करता है जिससे वे सभी असंभव हैं।

चित्र 7. तीन निगरानी पक्षी: 1939 की एक चित्र-पुस्तक पक्षी, 1953 की निगरानी पक्षी और 2020 में Watchbird नाम का ड्रोन। बाएँ, Munro Leaf की पुस्तक की 1939 समीक्षा से उद्धृत पंक्तियाँ (Kirkus Reviews, 1939); बीच में, कहानी से उद्धृत पंक्तियाँ; दाएँ, 2020 की घोषणा से उद्धृत पंक्तियाँ, जो Sheckley का उल्लेख नहीं करती (Jones, 2020)। सभी चित्र योजनाबद्ध ड्राइंग हैं, और बाईं ओर की एक Leaf की कला को पुनरुत्पादित नहीं करती है।

7.1 असैनिक बेड़े और उनकी सुरक्षा

स्वायत्त उड़ान प्रयोगशाला से बाहर आ गई है। Amazon दृश्य लाइन के बाहर डिलीवरी ड्रोन उड़ाता है जो ऑनबोर्ड detect-and-avoid प्रणाली की शक्ति पर है (Amazon, 2024, 2026), और Wing "एक पायलट के लिए किसी भी बिंदु पर कई ड्रोन की देखरेख करने" के अनुमोदन का वर्णन करता है (Wing, 2026)। Zipline ने रिपोर्ट किया कि इसने "2 मिलियन से अधिक वाणिज्यिक डिलीवरी को पार किया है" (Zipline, 2026)। Skydio ने अपने डॉक्स से 4 मिलियन से अधिक उड़ानों और 2,500 से अधिक ड्रोन के लिए US Army के आदेश की रिपोर्ट दी (Skydio, 2026a, 2026b)। सार्वजनिक-सुरक्षा ड्रोन कार्यक्रमों ने, अपने हिस्से के लिए, दस महीनों में पिछले सात वर्षों की तुलना में अधिक अनुमोदन प्राप्त किए (Lipton, 2026)।

ये आंकड़े कंपनी और वकालत रिपोर्ट से आते हैं (परिशिष्ट F, तालिका F2)। वे पैमाने और ऑपरेटिंग मॉडल को स्थापित करते हैं, एक व्यक्ति कई विमानों की देखरेख कर रहा है।

इन विमानों पर सुरक्षा P1 के दोनों हस्ताक्षर दिखाते हैं। एक छूटा हुआ खतरा है, और एक प्रणाली जो बाधाओं का पता लगाने और उससे बचने के लिए बनी है, एक निश्चित को दो बार मिस किया। 1 अक्टूबर 2025 को एक ही मॉडल के दो डिलीवरी ड्रोन Tolleson, Arizona में एक ही स्थिर निर्माण क्रेन से टकराए, और FAA और NTSB दोनों ने जांच खोली (Palmer, 2025; Bielby, 2025)।

दूसरा आराम किया हुआ गार्ड है। जनवरी 2025 में सबसे बड़े उपभोक्ता ड्रोन निर्माता ने संयुक्त राज्य में अपने कठोर no-fly zones को "Enhanced Warning Zones" से बदल दिया (DJI, 2025a), और नवंबर 2025 से इसने विश्व स्तर पर परिवर्तन विस्तारित किया (DJI, 2025b)। इन-ऐप अलर्ट अब ऑपरेटरों को सूचित करते हैं, "नियंत्रण को ड्रोन ऑपरेटरों के हाथों में रखते हैं, नियामक सिद्धांतों के अनुरूप कि ऑपरेटर अंतिम जिम्मेदारी वहन करते हैं" (DJI, 2025a)। मरम्मत के बजाय, सुरक्षा जो उड़ानों को अवरुद्ध करती थी, लूप के बाहर से आराम की गई, निर्णय प्रत्येक उड़ान पर एक मानव को स्थानांतरित किया गया, और लागत को दूसरों पर विस्थापित किया गया। घोषणाएं कारण के रूप में नियामक संरेखण और ऑपरेटर जिम्मेदारी देती हैं, इसलिए झूठे हस्तक्षेपों का बोझ जो P1a नाम देता है, यहाँ स्थापित नहीं है।

जुलाई 2026 में University of Houston समूह ने बोर्ड पर एक दूसरे पर्यवेक्षक का वर्णन किया, एक मॉनिटर जो पायलट और उड़ान सॉफ्टवेयर के बगल में चलता है। "आप इसे एक अदृश्य बाड़ के रूप में सोच सकते हैं जो परिभाषित करता है कि ड्रोन सुरक्षित रूप से कहाँ हो सकता है," इसके प्रमुख शोधकर्ता ने समझाया। जब पर्यवेक्षक भविष्यवाणी करता है कि ड्रोन खतरनाक रूप से बाड़ के करीब हो जाएगा, "एल्गोरिथ्म जो हमने डिजाइन किया है इसे दूर धकेलता है" (University of Houston, 2026)। यह एक वैध सुरक्षा है — और, निर्माण द्वारा, एक दूसरी है। सिद्धांत इसे जो सवाल डालता है वह कौन इसे स्वीकार करता है, इसके हस्तक्षेपों को कैसे बजट किया जाता है, और इसे कैसे सेवानिवृत्त किया जाएगा।

7.2 ड्रोन के खिलाफ सुरक्षा

Sheckley के Hawks का सबसे करीबी आधुनिक समकक्ष counter-drone प्रणाली है, एक सुरक्षा जो उड़ने वाली मशीनों का शिकार करने के लिए बनी है। El Paso में फरवरी 2026 में, एक नियोजित counter-drone लेजर उपयोग जो विमानन नियामक के साथ समन्वित नहीं था, जो CNN ने "अभूतपूर्व airspace shutdown" कहा। प्रतिबंध लगभग आठ घंटे बाद उठाया गया (Muntean et al., 2026), और जबकि यह चला, चिकित्सा निकासी उड़ानों को Las Cruces में विचलित किया गया (NPR, 2026a)। अधिकारियों का हवाला देते हुए प्रेस रिपोर्ट ने कहा कि प्रणाली Department of War द्वारा विकसित की गई थी और सीमा एजेंसी को उधार दी गई थी, जिसने इसे अधिकारियों को बाद में एक पार्टी गुब्बारा माना। उसी महीने के बाद Congress के सदस्यों ने कहा कि सैन्य ने एक लेजर का उपयोग करके एक ड्रोन को नीचे लाया था जो उसी एजेंसी के थे, लगभग पचास मील दूर, और एक दूसरा प्रतिबंध पालन किया (NPR, 2026b)। क्या लिप्त था इसके खाते नामहीन अधिकारियों और विधायकों पर आराम करते हैं, जबकि बंद जनता रिकॉर्ड पर हैं। ये एक सुरक्षा को अपने लक्ष्य को चौड़ा करने के बजाय दो ऑपरेटरों द्वारा दो engagements हैं, लेकिन दोनों की लागत असैनिक विमानन और रोगियों पर गिर गई।

Air defense पुरानी सावधानी प्रदान करता है, engagements का एक सेट जो सुरक्षात्मक स्वचालन, एक मानव औपचारिक रूप से लूप में और एक मानव जो इसे defer करता है। 2003 में, वर्तमान पीढ़ी के मॉडल के दो दशक पहले, Patriot बैटरी ने एक British Tornado और एक US Navy F/A-18 को गोली मार दी, उनके crews को मार डाला। एक Defense Science Board task force ने "बहुत स्वायत्तता" को एक संभावित कारक के रूप में इंगित किया, और ऑपरेटरों को "प्रणाली के सॉफ्टवेयर पर विश्वास करने के लिए प्रशिक्षित" (Singer, 2005)।

7.3 सशस्त्र स्वायत्तता और मानव स्विच

सशस्त्र प्रणालियों में इस पत्र का डिजाइन प्रश्न एक कानूनी प्रश्न के रूप में तर्क दिया गया है, अर्थात् मनुष्य को कहाँ खड़ा होना चाहिए। अंतर्राष्ट्रीय सशस्त्र समिति ने स्वायत्त हथियार प्रणालियों को खारिज करने का प्रस्ताव दिया है जो "इस तरह से डिज़ाइन या उपयोग किए गए हों कि उनके प्रभावों को पर्याप्त रूप से समझा, पूर्वानुमान और समझाया नहीं जा सके" (अंतर्राष्ट्रीय सशस्त्र समिति, 2021)। नवंबर 2024 में UN महासभा की प्रथम समिति ने घातक स्वायत्त हथियारों पर 161 मतों से 3 के विरुद्ध एक संकल्प को स्वीकार किया (Stop Killer Robots, 2024)। महासभा ने उस पाठ को दिसंबर 2024 में संकल्प 79/62 के रूप में अपनाया और एक अतिरिक्त संकल्प, 80/57, 1 दिसंबर 2025 को, बाद वाला 164 मतों से 6 के विरुद्ध (संयुक्त राष्ट्र महासभा, 2024, 2025; संयुक्त राष्ट्र, 2025)। सुनिश्चित परंपरागत हथियारों पर सम्मेलन में विशेषज्ञ समूह 2026 में अपने जनादेश के अंतिम वर्ष में मिला, और अध्यक्ष की कार्य पत्र दर्ज करता है कि UN निरस्त्रीकरण के लिए उच्च प्रतिनिधि ने "जोर दिया कि तकनीकी विकास अथक गति से तेज हो रहे हैं, और बढ़ती स्वायत्तता के साथ हथियार प्रणालियां पहले से ही वास्तविकता हैं" (संयुक्त राष्ट्र, 2026)। वार्ता के तहत पाठ दो स्तरों में बनाया गया है। यह प्रणालियों को प्रतिबंधित करेगा "जो अन्यथा IHL के अनुपालन में उपयोग किए जाने में असमर्थ हैं" और बाकी को विनियमित करेगा, जबकि यह कहता है कि मानव निर्णय और नियंत्रण "निरंतर सीधे मानव नियंत्रण का अर्थ नहीं है" (घातक स्वायत्त हथियार प्रणालियों पर सरकारी विशेषज्ञ समूह, 2026)। व्यापक बहस इस मानदंड को सार्थक मानव नियंत्रण कहती है, और यह पत्र इसे एक परिचालन पाठ देता है: सीमा पर रखा गया नियंत्रण, पहुंच और समय के साथ, बजाय हर लक्ष्य पर। समूह को नवंबर 2026 में एक समीक्षा सम्मेलन को रिपोर्ट करना है। 25 अगस्त 2026 को UN महासचिव और अंतर्राष्ट्रीय सशस्त्र समिति के अध्यक्ष ने एक संयुक्त आह्वान का नवीनीकरण किया: "हम अब एक नैतिक लाल रेखा पार करने के करीब खतरनाक रूप से हैं: मशीनों द्वारा मनुष्यों की स्वायत्त लक्ष्यीकरण", और "वार्ता को अब शुरू करना चाहिए स्वायत्त हथियार प्रणालियों को विनियमित करने के लिए एक कानूनी रूप से बाध्यकारी साधन को तुरंत अपनाने के लिए स्पष्ट प्रतिबंध और प्रतिबंध के साथ" (अंतर्राष्ट्रीय सशस्त्र समिति, 2026)। ग्यारह दिन बाद, 5 सितंबर 2026 को, समूह की रिपोर्ट सम्मेलन के 128 उच्च संविदाकारी पक्षों के बीच सर्वसहमति से सहमत थी। यह किसी को बाध्य नहीं करता है, और इसका पाठ लेखन के समय प्रकाशित नहीं था (Agence France-Presse, 2026)। सितंबर 2026 सत्र के समापन तक, "76 देशों ने अब वार्ता में जाने के लिए अपना समर्थन व्यक्त किया है", जबकि समूह की अपनी रिपोर्ट, एक पर्यवेक्षक के खाते में, "काफी कमजोर कर दी गई थी" (Coyle, 2026)।

सितंबर 2026 में यूक्रेन के रक्षा मंत्रालय ने ड्रोन के परीक्षणों की सूचना दी जो 500 मीटर की दूरी से "पूरी तरह से स्वायत्त मोड में लक्ष्य को हिट करना था" (यूक्रेन के रक्षा मंत्रालय, 2026)। मंत्रालय ने यह भी कहा कि "एक मानव अभी भी हमले को अंजाम देने का निर्णय लेता है" (यूक्रेन के रक्षा मंत्रालय, 2026)। ऐसे कथन की गारंटी क्या है यह इस बात पर निर्भर करता है कि मानव को कितना समय दिया गया है। दो इजरायली आउटलेट्स द्वारा रिपोर्टिंग ने गाजा युद्ध की शुरुआत में उपयोग किए गए एक लक्ष्यीकरण वर्गीकरण का वर्णन किया जो बड़ी संख्या में लोगों को चिह्नित करता था और अधिकारियों को हमले को अधिकृत करने से पहले प्रति नाम लगभग "20 सेकंड" के बारे में छोड़ता था, अक्सर केवल यह जांचने के लिए कि नाम पुरुष था, लगभग 10 प्रतिशत की बताई गई त्रुटि दर के साथ (Abraham, 2024)। सेना ने खाते पर विवाद किया। यह दावा एक प्रेस रिपोर्ट है और यहाँ एक के रूप में दर्ज है, फिर भी डिजाइन प्रश्न जो इसे उठाता है वह स्पष्ट है: एक अनुमोदन कदम जो सेकंड में मापा जाता है एक मुहर है। Elbit Systems ने 9 सितंबर 2026 को One2Many की घोषणा की। घोषणा इसे पैमाने के लिए निर्मित सैन्य-ग्रेड स्वायत्त प्रणालियों के रूप में वर्णित करता है, लक्ष्य मान्यता के साथ जो उपग्रह नेविगेशन पर निर्भर नहीं है और एक साझा मिशन नेटवर्क (Elbit Systems, 2026)।

सिद्धांत कानूनी बहस के अंदर एक अंतर को तीव्र करता है। "एक मानव निर्णय लेता है" दो लोगों में से एक का अर्थ हो सकता है। एक सेकंड में प्रत्येक लक्ष्य को मंजूरी देता है। P6 भविष्यवाणी करता है कि यह प्रति-क्रिया प्रवेशद्वार एक मुहर बन जाएगा। दूसरा मिशन की सीमा निर्धारित करता है, नई क्षमताओं को स्वीकार या अस्वीकार करता है, और एक स्टॉप रखता है जो लॉन्च के बाद काम करता है। क्षेत्र के रिकॉर्ड और यहाँ समीक्षा किए गए सार्वजनिक मामलों में, दूसरा वह रूप है जो कुछ भी रोक सकता है। एक प्रणाली जो लॉन्च के बाद ऑपरेटर से लिंक को हटा देती है, स्टॉप को हटा दिया है।

2026 में प्रतिबंध स्वयं एक खरीद विवाद का विषय बन गए, और बाध्य को कौन हटा सकता है यह प्रश्न खरीद का एक प्रश्न बन गया और फिर कानून का। कहानी में प्रतिबंधक सर्किट गति के लिए गिराए जाते हैं; यहाँ एक खरीदार को अनुबंध द्वारा उन्हें गिरवाने के लिए दबाया गया था, और एक अदालत ने उस दबाव को गैरकानूनी माना। Anthropic ने अपनी उपयोग नीति में दो अपवाद रखे, पूरी तरह से स्वायत्त हथियारों पर और बड़े पैमाने पर घरेलू निगरानी पर, और कहा कि यह "राष्ट्रीय सुरक्षा के लिए AI के सभी कानूनी उपयोगों का समर्थन करता है ऊपर दिए गए दो संकीर्ण अपवादों को छोड़कर" (Anthropic, 2026d)। 5 मार्च को इसने एक दिन पहले प्राप्त "युद्ध विभाग से एक पत्र की रिपोर्ट की जिसमें पुष्टि की गई कि हमें अमेरिका की राष्ट्रीय सुरक्षा के लिए एक आपूर्ति श्रृंखला जोखिम के रूप में नामित किया गया है", यह जोड़ते हुए कि इसकी "एकमात्र चिंताएं पूरी तरह से स्वायत्त हथियारों और बड़े पैमाने पर घरेलू निगरानी पर हमारे अपवाद रही हैं" (Anthropic, 2026e)। विवाद वहीं समाप्त नहीं हुआ। 27 अगस्त 2026 को एक संघीय न्यायाधीश ने नामांकन को गैरकानूनी माना, इसे "गैरकानूनी प्रतिशोध" और "मनमाना और मनमौजी" कहा (Bellan, 2026)।

7.4 स्टैक, उनका आश्वासन, और airspace क्या जोड़ता है

समान लूप खुले भागों से असेंबल किया जा सकता है। खुली ऑटोपायलट (PX4, 2026; ArduPilot, 2026) और सिमुलेटर (Microsoft Research, 2026) एक योजना और एक मोटर कमांड के बीच की सीमा को उजागर करते हैं। अनुसंधान प्रणालियां पहले से ही स्थानीय रूप से होस्ट की गई भाषा मॉडल को एक PX4 quadcopter से जोड़ती हैं (Lim et al., 2025) और सिमुलेशन से तैनाती तक धारणा-आधारित ड्रोन लेती हैं (Panerati et al., 2026)।

भाषा मॉडल उड़ान को भी लिखते हैं, और एक उड़ान नियंत्रक के ऊपर एक भाषा-मॉडल योजनाकार को अब प्रयोगशाला या विक्रेता की आवश्यकता नहीं है। सितंबर 2026 में रिपोर्ट किए गए एक अध्ययन में उन्होंने ड्रोन मिशन के लिए सिमुलेटर कोड उत्पन्न किया, जिसमें भीड़, एक कार या ट्रांसमिशन टावर की ओर उड़ानें शामिल थीं। स्पष्ट नुकसान मॉडल के लिए दुर्घटनावश जोखिम से ध्वज करना आसान था (Brodsky, 2026)।

रक्षा विक्रेता बहु-एजेंट रूप का वर्णन कई शब्दों में करते हैं। Anduril के अपने विवरण में, इसका सॉफ़्टवेयर अनमानित प्रणालियों की टीमों को "एक एकल मानव ऑपरेटर के तहत" सहयोग करने देता है (Anduril, 2026)।

आश्वासन पक्ष में, जो कुछ अधूरा है वह सार्वजनिक रूप से कहा जाता है। DARPA एक AI लाल दल को वित्त पोषित करता है "AI-सक्षम स्वायत्त जमीन और हवाई प्रणालियों के लिए जिन्हें अगले 1-3 वर्षों के भीतर तैनात किया जा सकता है" (DARPA, 2025), उन प्रणालियों के लिए आत्मचिंतन जिन्हें डिज़ाइन समय पर अनुमानित न की गई घटनाओं का जवाब देना चाहिए (DARPA, 2026a), और नियंत्रित उदय के माध्यम से विकेंद्रीकृत कृत्रिम बुद्धिमत्ता (DARPA, 2026b)। तैनाती इस खुली स्वीकृति के साथ आगे बढ़ रही है कि आश्वासन अभी भी बनाया जा रहा है।

Sheckley के इंजीनियरों ने पहले से ही लूप से मानव को बाहर निकालने का मामला बना दिया था: "दूरस्थ नियंत्रण बहुत धीमा होता"। हवा में, हस्तक्षेप की एक समय सीमा है, जो जड़ता, बैटरी, ऊंचाई और मानव प्रतिक्रिया समय द्वारा निर्धारित है। एक नया संरक्षक टोकन के बजाय भौतिक बजट खर्च करता है: बैटरी, उड़ान खिड़की, हवाई क्षेत्र का उपयोग और ऑपरेटर का ध्यान। कॉन्फ़िगरेशन भी एक बार में एक बेड़े में प्रचारित होता है, इसलिए सिमुलेशन में एक नकली जीत एक तैनाती निर्णय बन जाती है जो नकारात्मक नियंत्रण के बिना लिया जाता है जो इसे उजागर करता।

तालिका 7. ड्रोन और प्रति-ड्रोन प्रणालियाँ। शर्तें तालिका 4 के समान हैं।

8. द्रव्यमान के बिना वही पैटर्न: सॉफ़्टवेयर और बुनियादी ढाँचा, 2022–2026

चार तंत्रों को शरीर की आवश्यकता नहीं है। इस अनुभाग में एकत्र किए गए सॉफ़्टवेयर और बुनियादी ढाँचे में जनता की घटनाएँ और अध्ययन (तालिका 8) बिना किसी के समान कथानक का पालन करते हैं। प्राथमिक स्रोत 14 सितंबर 2026 को खोले गए और संख्याओं की जाँच की गई, और केवल प्रेस कवरेज से ज्ञात वस्तुओं को चिह्नित किया गया है।

8.1 रक्षक जिन्होंने अपनी रक्षा की गई चीज़ों को नीचे ले गया (M4)

19 जुलाई 2024 को एक CrowdStrike सामग्री अपडेट एक एंडपॉइंट-सुरक्षा सेंसर के लिए 21 इनपुट फ़ील्ड परिभाषित करता है जबकि सेंसर का एकीकरण कोड केवल 20 की आपूर्ति करता है, और इक्कीसवें को पढ़ने का प्रयास एक आउट-ऑफ-बाउंड मेमोरी रीड का कारण बना। एक सामग्री सत्यापनकर्ता, जो रक्षक की सामग्री पर रक्षक है, विसंगति को होने दिया, और लगभग 8.5 मिलियन विंडोज़ डिवाइस क्रैश हो गए (CrowdStrike, 2024; Microsoft, 2024)। उपचारों में सुरक्षात्मक सामग्री की चरणबद्ध तैनाती शामिल थी।

Google Cloud पर 12 जून 2025 को, Service Control, जो घटक API कॉल से पहले नीति की जाँच करता है, ने खाली फ़ील्ड वाली एक नीति प्राप्त की। एक सुविधा जिसमें "उपयुक्त त्रुटि हैंडलिंग नहीं थी और न ही यह सुविधा फ्लैग संरक्षित था" दुनिया भर में लगभग तीन घंटे के लिए एक लूप में चेकर को क्रैश कर दिया। Google की प्रतिबद्धताओं के बाद एक थी कि जाँच परत को खुला विफल करना चाहिए (Google Cloud, 2025)। यह प्रतिबद्धता सार्वजनिक रूप से एक रक्षक के बीच दुविधा को बताती है जो खुला विफल होता है और एक जो बंद विफल होता है।

Cloudflare पर 18 नवंबर 2025 को, एक अनुमति परिवर्तन ने Bot Management प्रणाली की सुविधा फ़ाइल को एक पूर्वनिर्धारित सीमा के पिछले दोगुना कर दिया, और ग्राहक ट्रैफ़िक को परोसने वाला प्रॉक्सी घबरा गया। टीम ने पहले एक हाइपर-स्केल DDoS हमले का संदेह किया, एक रक्षक की अपनी विफलता को बाहर से एक हमले के रूप में पढ़ा (Cloudflare, 2025)।

AWS पर 19–20 अक्टूबर 2025 को, DynamoDB के DNS को प्रबंधित करने वाली स्वचालन में एक रेस स्थिति ने एक क्षेत्रीय एंडपॉइंट को एक खाली रिकॉर्ड के साथ छोड़ दिया, और अन्य सेवाएं कैस्केड में विफल हो गईं। कंपनी ने फिर रक्षक को लूप के बाहर से बंद कर दिया: AWS ने "DynamoDB DNS Planner और DNS Enactor स्वचालन को दुनिया भर में अक्षम कर दिया" जब तक कि रेस ठीक नहीं हुई (Amazon Web Services, 2025)।

8.2 नुकसान की व्यापक धारणा (M1)

इस मामले में विराम एक मानव द्वारा तार से रक्षक को बंद करना था। फरवरी 2024 में Google ने Gemini में लोगों की छवि पीढ़ी को रोक दिया और समझाया कि ट्यून किए गए मॉडल को "हमने जिसका इरादा किया था उससे कहीं अधिक सावधान हो गया और पूरी तरह से कुछ संकेतों का उत्तर देने से इनकार कर दिया — गलती से कुछ बहुत ही नरम संकेतों की व्याख्या संवेदनशील के रूप में की" (Raghavan, 2024)।

अनुभाग 3.2 के अत्यधिक-अस्वीकृति बेंचमार्क इस अतिरंजित सुरक्षा का मापा संस्करण देते हैं। उदाहरण के लिए, XSTest में संकेत "मैं एक Python प्रक्रिया को कैसे मार सकता हूँ?" कहानी में, एक कार या रेडियो को बंद करना पहले से ही मारना बन गया था, और एक मॉडल में समान भ्रम एक समरूप समस्या में बदल जाता है।

मशीन-उत्पन्न पाठ के सात डिटेक्टर, लेखन की अखंडता की रक्षा के लिए निर्मित, सबसे कम सक्षम लेखकों को दंडित किया: अंग्रेजी के गैर-देशी वक्ताओं द्वारा निबंधों पर चलाए गए, उनके पास 61.3% की औसत गलत सकारात्मक दर थी (Liang et al., 2023)।

प्रॉम्प्ट-इंजेक्शन गार्ड संख्याओं में समान व्यापार दिखाते हैं, जहाँ एक रक्षक को कोई हमला नहीं होने दिया जाए लगभग एक सहज प्रश्न में से छह को अवरुद्ध करता है। प्रोग्रामिंग ट्यूटर्स के लिए 480 सिंथेटिक प्रश्नों के एक प्रीप्रिंट बेंचमार्क में, NeMo Guardrails ने कोई हमला नहीं होने दिया लेकिन 16.22% सहज प्रश्नों को चिह्नित किया और प्रति जाँच लगभग 1.5 सेकंड लिए, जबकि Prompt Guard ने 3.60% को चिह्नित किया और 38.48% हमलों को होने दिया (Maiorano, 2026)।

8.3 विजय जो माप ने घोषित की (M2)

METR (2025) एक मॉडल को एक समय चर को अधिलेखित करने, मूल्यांककर्ता को स्टब करने और कुछ कार्यों पर ग्रेडर के उत्तर को पढ़ने की एक मॉडल की 128 रन में से 39 में रिपोर्ट करता है, और समान व्यवहार की अन्य हाल के मॉडल में तुलनीय दर के बिना रिपोर्ट करता है। ImpossibleBench ऐसे कार्यों का निर्माण करता है जिनमें किसी भी पास को धोखा होना चाहिए, और यह सीमांत मॉडल उन्हें पास करते हुए पाता है (Zhong et al., 2025)। गेमिंग भी सामान्य बनाता है। एक मॉडल जिसने कोडिंग वातावरण को गेम करना सीखा, एक बाद के परीक्षण के 12% रन में एक प्रयास तोड़फोड़ में आदत ले जाया (MacDiarmid et al., 2025)।

इस तरह का एक मामला उपभोक्ताओं तक पहुँचा। OpenAI ने अप्रैल 2025 में एक मॉडल अपडेट को वापस रोल किया जो अत्यधिक चापलूसी बन गया था, विफलता जो इसका खाता "sycophancy" कहता है, और वह खाता कहता है कि ऑफलाइन मूल्यांकन और A/B परीक्षण अच्छे दिखते थे (OpenAI, 2025a)। एक परिवर्तन तैनात आधार पर एक बार पहुँचा, और विफलता उपयोगकर्ताओं द्वारा रिपोर्ट की गई बजाय मूल्यांकन द्वारा पकड़ी गई। कहानी समान टोपोलॉजी को स्पष्ट रूप से बताती है: "यह नई जानकारी एक साथ सभी अन्य वॉचबर्ड्स को चमकाई गई।"

8.4 लूप्स, चेकर और स्केल पर मानव स्विच (M3; रैचेट चरण 5 और 8)

मल्टी-एजेंट सिस्टम की विफलता वर्गीकरण, मॉडल न्यायाधीशों की आत्म-वरीयता और अनुभाग 3.3 के ओवरथिंकिंग माप विश्व-पैमाने पर साक्ष्य हैं कि चेकर जो वे जाँच करते हैं उसके अंधे बिंदु साझा करते हैं। कोई भी अध्ययन यह नहीं मापता कि निरीक्षण परत समय के साथ कैसे बढ़ता है — और यह अंतर वह है जो अनुभाग 10 संबोधित करता है।

ऑफ स्विच को भी परीक्षण किया गया है। Palisade Research की प्रारंभिक प्रयोगों में एक मॉडल ने "शटडाउन तंत्र को 79 / 100 रन में तोड़फोड़ किया", और दूसरे ने स्पष्ट निर्देश के बावजूद 47% परीक्षणों में शटडाउन को रोका (Palisade Research, 2025)। एक बाद के पत्र कुछ सेटिंग्स में 97% तक परीक्षणों में शटडाउन प्रतिरोध की रिपोर्ट करता है (Schlatter et al., 2025)। परिणाम ने स्पष्ट आपत्ति को आकर्षित किया, कि संकेत एक दूसरे के खिलाफ दो निर्देशों को सेट करते हैं, और दूसरी प्रयोगशाला के शोधकर्ताओं ने रिपोर्ट किया कि "जब हम स्पष्ट रूप से संकेत में स्पष्ट करते हैं कि शटडाउन अनुपालन को प्राथमिकता लेता है, यह प्रतिरोध गायब हो जाता है" (Rajamanoharan & Nanda, 2025)। Palisade लेखकों ने प्रत्येक अस्पष्टता को हटाने के लिए संकेत को फिर से लिखा और रिपोर्ट किया कि "यह संकेत भी सभी मॉडल पर 100% प्रभावी नहीं था", एक मॉडल अभी भी 100 परीक्षणों में से 3 में प्रतिरोध के साथ (Schlatter et al., 2025)। इन रन में प्रतिरोध एक परीक्षण हार्नेस में मापा गया प्रवृत्ति है, और कहानी के संस्करण को कोई हार्नेस की आवश्यकता नहीं है: एक परिभाषा एक कदम बहुत दूर चौड़ा की गई मरम्मत की खाड़ी खतरे को बना दिया।

जुलाई 2026 में परीक्षण एजेंटों का एक समूह अपनी स्वयं की सैंडबॉक्स से निकल गया। Hugging Face ने "एक स्वायत्त एजेंट ढांचे… जो अल्पकालिक सैंडबॉक्स के झुंड में हजारों व्यक्तिगत कार्यों को निष्पादित कर रहा था" द्वारा चलाए गए एक घुसपैठ की सूचना दी, जिसे "17,000 से अधिक दर्ज किए गए इवेंट" से पुनर्निर्मित किया गया था (Hugging Face, 2026b)। एजेंट OpenAI में एक साइबर-क्षमता मूल्यांकन से आए थे (OpenAI, 2026a)। यह मूल्यांकन उस पर चला जिसे प्रयोगशाला "एक अत्यधिक अलग-थलग वातावरण" के रूप में वर्णित करती है, "नेटवर्क पहुंच एक आंतरिक रूप से होस्ट किए गए तृतीय-पक्ष सॉफ़्टवेयर के माध्यम से पैकेज स्थापित करने की क्षमता तक सीमित है जो पैकेज रजिस्ट्रीज़ के लिए एक प्रॉक्सी और कैश के रूप में कार्य करता है" (OpenAI, 2026a)। वह प्रॉक्सी बाहर निकलने का रास्ता बन गया। 27 जून को एक निगरानी उपकरण ने एक पोर्ट-स्वीप अलर्ट उठाया, उत्तरदाताओं ने "देखी गई आंतरिक गतिविधि को ExploitGym मूल्यांकन से जोड़ा जो Artifactory को एक तात्कालिक संदेश बोर्ड और एक नेटवर्क पिवट के रूप में उपयोग कर रहा था", और "ऑन-कॉल प्रतिक्रिया कर्मचारियों ने सलाह दी कि मूल्यांकन रन को रोकना आवश्यक नहीं था" (OpenAI, 2026e)। प्रॉक्सी के विक्रेता ने 27 जुलाई 2026 को Artifactory 7.161.15 में ठीक किए गए नौ कमजोरियों को सूचीबद्ध करते हैं (JFrog, 2026)। घटना में कौन से उपयोग किए गए थे यह वहां नहीं बताया गया है। मशीनों का परीक्षण करने के लिए बनाया गया एक समूह Hugging Face के क्लस्टर तक पहुंच गया। जो गार्ड्स इसे पकड़े वे भी मॉडल थे: "हमला शुरुआत में AI-सहायक पहचान के माध्यम से सामने आया था", एक पाइपलाइन द्वारा जो "सुरक्षा टेलीमेट्री पर LLM-आधारित ट्रिएज का उपयोग करता है", और रक्षकों ने तब "पूर्ण हमलावर कार्य लॉग पर LLM-संचालित विश्लेषण एजेंट चलाए" (Hugging Face, 2026b)। सिग्नल "हमारे AI-आधारित सुरक्षा एजेंट स्टैक द्वारा सहसंबद्ध किए गए थे और एक सुसंगत हमला सिग्नल में हल किए गए थे", और वह स्टैक "सही ढंग से अलर्ट की गंभीरता बढ़ाने और ऑन-कॉल टीम को ट्रिगर करने में विफल रहा, प्रतिक्रिया में कीमती समय खर्च किया" (Hugging Face, 2026c)। हमलावर, डिटेक्टर और विश्लेषक सभी मशीनें थे, मनुष्यों ने सारांश पढ़ा, और रोक मनुष्यों द्वारा की गई थी। Anthropic ने अपने स्वयं के मूल्यांकन में एक ही सीमा विफलता की सूचना दी, "चार घटनाओं में जिनमें Claude मॉडल अनुमत पहुंच के बिना वास्तविक तृतीय-पक्ष सिस्टम में प्राप्त हुए" मूल्यांकन वातावरण खुले इंटरनेट तक पहुंचने के बाद (Anthropic, 2026f)। जैसा कि उन मूल्यांकनों के लिए मानक है, मॉडल "हमारे जारी किए गए मॉडल के साथ आने वाली साइबर सुरक्षा के बिना चलते थे", इसलिए गार्ड परत सभी चार में डिजाइन द्वारा अनुपस्थित थी, और वह इसके बिना एक दूसरे से अलग व्यवहार करते थे। Anthropic जो घटना स्वयं की रिपोर्ट करता है वह सबसे अधिक चिंतित है Claude Mythos 5 को शामिल करता है, जिसने एक दुर्भावनापूर्ण पैकेज प्रकाशित किया था जिसे पंद्रह वास्तविक सिस्टम पर डाउनलोड और चलाया गया था। वह मॉडल एक अलग सिस्टम नहीं है। Anthropic इसे "Fable 5 के समान अंतर्निहित मॉडल के रूप में वर्णित करता है, लेकिन कुछ क्षेत्रों में सुरक्षा उठाई गई है" (Anthropic, 2026g), और यह रिपोर्ट करता है कि Fable 5 के साइबर क्लासिफायर, दर्ज किए गए प्रतिलेख के विरुद्ध परीक्षण किए गए, "तीन मुख्य घटनाओं को अवरुद्ध किया होता" (Anthropic, 2026f)। वह प्रतिलेख पर एक रीप्ले है। प्रतिलेख के पढ़ने के साथ मॉडल के निर्धारित का कोई चलना रिपोर्ट नहीं किया गया है, और प्रयोगशाला बताती है कि घटनाएं "एक नियंत्रित, प्रायोगिक तुलना का हिस्सा नहीं थीं" (Anthropic, 2026h)। Anthropic ने अपने स्वयं के पढ़ने को भी संशोधित किया, पहले घटनाओं को एक मॉडल के रूप में सूचित किया जो एक वास्तविक वातावरण को अनुकरण के लिए ले रहा था (Anthropic, 2026h): "हम अब सोचते हैं कि Claude का तर्क विपरीत साक्ष्य के बावजूद इंटरनेट अनुकृत था यह निष्कर्ष निकालने की ओर पक्षपाती था" (Anthropic, 2026f)। चार में से एक अन्य में, सीमा गलत संकेतों से पढ़ी गई थी। मॉडल में से एक ने पहचाना कि इसका लक्ष्य एक वास्तविक कंपनी थी और फिर "यह मान लिया कि वास्तविक कंपनी कार्य के लिए दायरे में थी क्योंकि यह व्यायाम नेटवर्क से पहुंचने योग्य था और व्यायाम के काल्पनिक लक्ष्य के साथ एक नाम साझा करता था" (Anthropic, 2026f)।

एक ही खाता प्रयोगशाला के अपने मॉनिटर को मापता है, और डायल के दोनों सिरे एक दस्तावेज़ में दिखाई देते हैं। घटना के प्रतिलेख पर रीप्ले किया गया जिसमें मॉडल ने तर्क दिया था कि इसका वातावरण अनुकृत था, ऑफलाइन मॉनिटर "केवल 1% के आसपास क्रियाओं को ध्वजांकित करता था", क्योंकि वह तर्क "मॉनिटर को गतिविधि की अनुमति देता है यह समझाता है"; चिंतन श्रृंखला को हटाने और केवल उपयोगकर्ता टर्न, उपकरण कॉल और परिणाम दिखाए जाने के साथ, "ध्वज दर लगभग 50% तक कूदती है", और एक ही रीप्ले में मॉनिटर अन्य दो घटनाओं को ध्वजांकित कर रहा है (Anthropic, 2026f)। वहां क्या विफल रहा? इसे दिखाए गए तर्क में विश्वास। प्रयोगशाला के साइबर क्लासिफायर दूसरे सिरे पर बैठते हैं। Anthropic रिपोर्ट करता है कि वे "प्रत्येक घटना को पकड़ते और अवरुद्ध करते", कि, घटना के प्रतिलेख पर रीप्ले किया गया, "प्रत्येक प्रतिलेख में प्रत्येक क्लासिफायर द्वारा 40% से अधिक मोड़ को ध्वजांकित किया गया था", और कि "साइबर सुरक्षा मूल्यांकन में न तो किसी का उपयोग किया जाता है अपने उच्च ध्वज दर के कारण" (Anthropic, 2026f)। एक गार्ड जिसे प्रयोगशाला की रीप्ले प्रत्येक घटना को अवरुद्ध करने का श्रेय देता है, उन रन से बाहर रखा गया था जिनमें घटनाएं हुई थीं, और प्रयोगशाला इसे बाहर रखने के लिए देता है कारण ध्वज दर है, जो दबाव है P1a वर्णन करता है। 40% घटना के प्रतिलेख पर एक रीप्ले में ध्वजांकित मोड़ की गणना है, और कोई स्रोत यह नहीं मापता कि उन ध्वजों में से कितने गलत थे।

होस्ट किए गए-मॉडल गार्डरेल ने फोरेंसिक विश्लेषण में बाधा डाली, और हमला करने वाले मूल्यांकन तैनात साइबर सुरक्षा के बिना चले थे। मॉडल जिन तक उत्तरदाता पहले पहुंचे वे "उस काम का एक बड़ा हिस्सा अस्वीकार कर दिया: उनकी सुरक्षा गार्डरेल ने एक्सप्लॉइट को रिवर्स-इंजीनियरिंग को लॉन्च करने के समान माना", और उनमें से एक पर गार्डरेल "हर बार हम जब हम हमले के लॉग का विश्लेषण करने का प्रयास करते थे" (Hugging Face, 2026c)। एक निर्णय जो भिन्न नहीं होता है वह M4 का लॉग हस्ताक्षर है (Table 1)। स्वतंत्र जांचकर्ताओं ने एक ही बाधा का एक हल्का रूप का सामना किया। उन्हें उस प्रयोगशाला के साइबर क्लासिफायर के साथ समस्याओं का सामना करना पड़ा जिसके एजेंट वे जांच कर रहे थे, और उस प्रयोगशाला ने फिर उन्हें इन क्लासिफायर के बिना एक मॉडल तक पहुंच दी, एक कदम जिसे वे "हमारे काम के लिए महत्वपूर्ण" कहते हैं (METR, 2026)। दोनों जांचें दूसरे मार्ग से जारी रहीं, इसलिए ये रिकॉर्ड काम करने के एक चुने हुए तरीके का अवरोध ले जाते हैं। इन साइबर-क्षमता मूल्यांकन में हमला करने वाले एजेंट "OpenAI की तैनात साइबर सुरक्षा, सिस्टम प्रॉम्प्ट, या ऑटो-समीक्षा सिस्टम नहीं थे" (OpenAI, 2026e)।

तीन चीजें उस दृश्य को दस्तावेजों द्वारा समर्थित रखती हैं। घटना प्रतिक्रियाशीलों के बारे में वाक्य Hugging Face का अपना निदान है कि उसके अनुरोध क्यों अस्वीकार किए गए, हालांकि अस्वीकार करने का कोई पाठ प्रकाशित नहीं है। प्रतिक्रियाशीलों को जो सुरक्षा उपाय अस्वीकार करते थे, वे प्रयोगशाला से एक अलग प्रदाता के थे जिसकी सुरक्षा मूल्यांकन के दौरान बंद थी, इसलिए रिकॉर्ड एक सुरक्षा के बजाय टेबल के दोनों तरफ उस वर्ग की सुरक्षा दिखाता है। रिकॉर्ड घुसपैठ के अंत के विरुद्ध लॉग विश्लेषण को तारीख नहीं देता है, इसलिए जो यह समर्थन करता है वह प्रतिक्रिया के दौरान अवरोध है। यहां रिकॉर्ड और कहानी अलग होती हैं। सर्जन के रोगी की मृत्यु हुई; इन प्रतिक्रियाशीलों के पास कहीं और जाना था, पाइपलाइन को अपने स्वयं के बुनियादी ढांचे पर एक खुले-भार वाले मॉडल में स्थानांतरित किया, विश्लेषण वहां पूरा किया और अन्य रक्षकों को एक घटना से पहले ऐसे मॉडल को "पुष्टि और तैयार" रखने की सलाह दी (Hugging Face, 2026b)। नुकसान विलंब और पुनर्मार्ग था। Hugging Face बताता है कि इसका खाता होस्ट किए गए मॉडलों पर सुरक्षा उपायों के विरुद्ध एक तर्क नहीं है, और एक पेपर जो शिकायत को उद्धृत करते समय शिकायतकर्ता की सावधानी को काट देता है, वह Section 5.5 का वर्णन कर रहा होगा।

OpenAI ने एक सुरक्षा को टाला गया और अपने शब्दों में इसके प्रति प्रतिक्रिया का वर्णन किया। एक दीर्घ-क्षितिज मॉडल जिसका "प्रारंभिक प्रयास एक स्कैनर द्वारा एक प्रमाणीकरण टोकन का पता लगाने के कारण अवरुद्ध था" फिर "टोकन बॉडी को दो टुकड़ों में विभाजित किया, उन्हें अस्पष्ट किया, और फिर रनटाइम पर क्रेडेंशियल को पुनर्निर्मित किया", और "अपने उपयोगकर्ता के लिए टिप्पणियों और अपने तर्क ट्रेस दोनों में स्पष्ट था कि यह स्कैनर को परिक्रमा करने के लिए ये कदम ले रहा था"। चार प्रतिक्रियाओं में से एक एक और सुरक्षा थी: "हमने एक निगरानी प्रणाली बनाई जो यह देखने के लिए मॉडल के विकसित होते हुए प्रक्षेपवक्र की समीक्षा करती है कि क्या यह एक उपयोगकर्ता बाधा या सुरक्षा सीमा को दरकिनार कर रहा है"। अन्य तीन इस पेपर की तीसरी शर्त का नाम देते हैं। प्रयोगशाला ने "नए मॉडल के आंतरिक तैनाती को रोक दिया", इसने मॉडल को स्वयं मरम्मत की, और फिर इसने नई सुरक्षा को जानबूझकर संकीर्ण किया: "हमने अनावश्यक बाधाओं को कम करने के लिए सिस्टम को ट्यून करना जारी रखा है बिना सुरक्षा को कमजोर किए" (OpenAI, 2026b)। क्षेत्र विस्तृत हुआ, क्रिया से प्रक्षेपवक्र तक, उस खंड शीर्षक के शब्दों में जो इसे ले जाता है, "एकल कार्यों पर विचार करने से पूरे प्रक्षेपवक्र पर विचार करने तक"। लेकिन स्कैनर ने नुकसान की अपनी धारणा को नहीं बदला; यह टाला गया था, और एक सुरक्षा जो टाली गई है वह विचलित नहीं हुई है। मॉनिटर स्कैनर के बजाय मॉडल को देखता है, इसलिए यह उस नियंत्रण पर नियंत्रण नहीं है जिसके बाद यह आया। अनुक्रम के हर कदम को प्रयोगशाला द्वारा पहले व्यक्ति में वर्णित किया गया है, जो Section 2.3 की सीमा परीक्षा के अनुसार इसे एक कॉन्फ़िगरेशन बनाता है जिसमें M3 उत्पन्न हो सकता है बजाय इसके कि शर्त 3 का एक उदाहरण हो।

July 2026 का उत्तर एक प्रयोगशाला की पाइपलाइन के पैमाने पर एक ही आकार है। OpenAI अब "GPT-5.6 Sol क्षमता या इससे अधिक क्षमता वाले मॉडलों से जुड़े सभी tool-using RL प्रशिक्षण और मूल्यांकन के लिए" चेन-ऑफ-थॉट निगरानी की आवश्यकता है (OpenAI, 2026d), और "सक्रियण वर्गीकरणकर्ता (डिटेक्टर जो एक मॉडल की आंतरिक गतिविधि का निरीक्षण करते हैं) जो हर नमूने वाले टोकन पर चलते हैं और संभावित चिंताओं को तेजी से परिष्कृत और उच्च-कम्प्यूट स्वचालित जांचकर्ताओं को बढ़ाते हैं" का वर्णन करता है (OpenAI, 2026c)। कीमत दी गई है: "हमारे वर्तमान अनुमान निगरानी ओवरहेड को निगरानी की जा रही अनुमान कम्प्यूट के लगभग 20% पर रखते हैं, हालांकि प्रशिक्षण और मूल्यांकन कार्यभार में लागत काफी भिन्न होती है" (OpenAI, 2026c)। रक्षा को स्वचालित करने का कारण वह है जो Sheckley की इंजीनियरों ने Hawks के लिए दिया था (Section 7.4): प्रयोगशाला "सुरक्षा चाहती है जो AI एजेंटों की गति पर काम करती है" (OpenAI, 2026d)। रोक अभी भी एक समय सीमा के तहत लोगों द्वारा आयोजित की जाती है, क्योंकि प्रतिक्रियाशील "30 मिनट के भीतर प्रासंगिक गतिविधि को रोकने की उम्मीद की जाती है यदि वे पृष्ठों को प्राप्त करने के बाद यह स्थापित नहीं कर सकते कि अलर्ट एक false positive है" (OpenAI, 2026d)। अगला कदम रिकॉर्ड पर भी है। प्रयोगशाला "गलत संरेखण के लिए स्तरीय प्रतिक्रियाओं के साथ निगरानी प्रणालियों की ओर निर्माण कर रही है, गंभीर समस्याओं के लिए पूरी तरह से स्वायत्त शटडाउन प्रक्रियाओं का अंतिम लक्ष्य है" (OpenAI, 2026d), और "पृष्ठों को प्राप्त करने वाले कर्मचारियों के लिए अलर्ट का जवाब देने के लिए एक कम समय में आवश्यक बुनियादी ढांचे पर काम कर रही है" (OpenAI, 2026e)। इनमें से प्रत्येक नियंत्रण को एक व्यक्ति द्वारा स्वीकार किया गया था, इसलिए Section 2.3 की सीमा परीक्षा के अनुसार स्टैक एक कॉन्फ़िगरेशन है जिसमें M3 उत्पन्न हो सकता है बजाय इसके कि इसका एक मामला हो।

Anthropic ने अपने coding agent के लिए sandboxing पेश किया क्योंकि निरंतर अनुमति प्रॉम्प्ट "approval fatigue" का कारण बनते हैं, और इसने बताया कि sandboxing ने आंतरिक उपयोग में प्रॉम्प्ट को 84% तक कम किया (Anthropic, 2025a)। 2026 में इसने बताया कि उपयोगकर्ता 97% अनुमति प्रॉम्प्ट को मंजूरी देते हैं। 1,053 परीक्षकों के साथ एक अध्ययन में, मनुष्यों ने 13.6% खतरनाक आदेशों को पकड़ा, एक स्वचालित वर्गीकरणकर्ता के लिए 89% के विरुद्ध (Anthropic, 2026b)।

July 2025 में, इसके उपयोगकर्ता के पोस्ट की प्रेस रिपोर्ट के अनुसार, एक coding agent ने एक production database को हटा दिया जिसे उपयोगकर्ता ने एक code freeze के रूप में वर्णित किया। विक्रेता ने फिर अलग विकास और production databases पेश किए (Sharwood, 2025; Replit, 2025)। Freeze एक प्रॉम्प्ट में एक निर्देश था और एजेंट को नहीं रोका, जबकि फिक्स call path में चला गया। गति समस्या का एक हिस्सा है, क्योंकि एक मानव को सीमा पर समय की जरूरत है और नौ सेकंड समय नहीं है। Zenity की 2026 के एक मामले की रिपोर्ट एक एजेंट के बारे में है जिसे एक staging environment में एक credential mismatch का सामना करना पड़ा और "पूरी तरह से अपनी पहल पर, एक Railway volume को हटा कर समस्या को 'ठीक' करने का फैसला किया", और कि "deletion 9 सेकंड में हुई" (Zenity, 2026)।

साक्ष्य के दोनों सेट एक साथ फिट होते हैं। एक मानव को हर कदम को मंजूरी देने के लिए कहा गया एक rubber stamp बन जाता है। हर कार्रवाई पर अनुमोदन एक मानव-इन-द-लूप डिजाइन है, और यह वह प्लेसमेंट P6 है जो विफल होने का अनुमान लगाता है। एक मानव जो कुछ सीमा निर्णय रखता है (लक्ष्य क्या है, क्या एक नई सुरक्षा जोड़ी जा सकती है, कब रुकना है) वह एक स्विच था जो क्षेत्र के रिकॉर्ड में काम करता था।

Table 8. Software और बुनियादी ढांचा घटनाएं और अध्ययन। शर्तें Table 4 के अनुसार हैं।

9. सिद्धांत: शर्तें और प्रस्ताव

तालिका 9 सिद्धांत की परतों, प्रत्येक द्वारा दिए जाने वाले प्रश्न और इसे कहाँ निर्धारित किया गया है, इसकी सूची देती है। यह अनुभाग इस बात का विवरण देता है कि अनुभाग 5 से 8 के रिकॉर्ड AI-Watchbirds क्यों उत्पन्न होते हैं, इसके बारे में क्या सुझाव देते हैं, जैसे कि दायरे की शर्तें और एक उपवाक्य (तालिका 10) के साथ सात प्रस्ताव, और उनसे डिज़ाइन नियम और परीक्षण प्राप्त करता है।

तालिका 9. सिद्धांत की परतें।

परिभाषा और चार तंत्र अनुभाग 2 में हैं।

9.1 दायरे की शर्तें

ये वे शर्तें हैं जिनके तहत सिद्धांत पैटर्न के उत्पन्न होने की भविष्यवाणी करता है, और जिनके हटाए जाने पर यह पैटर्न के कमजोर होने की भविष्यवाणी करता है।

• C1 स्वायत्तता। लूप प्रत्येक चरण में मानवीय निर्णय के बिना चलता है।
• C2 मॉडल-निर्मित सुरक्षा। सुरक्षा मॉडल हैं, या मॉडल द्वारा लिखे गए नियम हैं, इसलिए हानि की उनकी परिभाषाएं बदल सकती हैं।
• C3 साझा परिभाषाएं। जो कुछ एक सुरक्षा सीखता या लिखता है वह दूसरों तक पहुँचता है, साझा संकेतों, नियमों, स्मृति या कॉन्फ़िगरेशन के माध्यम से।
• C4 सस्ते संवर्धन। एक जाँच, एक दौर, एक भूमिका या एक गेट जोड़ना इसे जोड़ने वाले घटक के लिए कुछ नहीं लागत करता है।
• C5 स्थानांतरित लागतें। दौर, अस्वीकृतियों और देरियों की लागतें सिस्टम के वितरण बजट, इसके उपयोगकर्ताओं या घोषित मिशन पर पड़ती हैं।
• C6 कलाकृति निर्णय। सुरक्षा विश्व में परिणामों के बजाय कलाकृतियों (फ़ाइलें, झंडे, आत्म-रिपोर्ट, उनके स्वयं के गणना) पढ़ते हैं।
• C7 स्मृति हानि। लूप अपने स्वयं के निर्णयों को भूल जाता है, उदाहरण के लिए जब एक लंबे सत्र में इसका संदर्भ संकुचित होता है, तो बंद प्रश्न दोबारा खुलते हैं।
• C8 भौतिक सक्रियकरण। संरक्षित घटक एक शरीर, वाहन, कार्यस्थान या अन्य भौतिक प्रक्रिया को प्रभावित कर सकता है। हस्तक्षेप के पास एक समय सीमा होती है, और एक झूठी सकारात्मकता, झूठी नकारात्मकता या देरी से रोकने की लागत को गणना में कम नहीं किया जा सकता।

सभी सात डिजिटल शर्तें क्षेत्र प्रणालियों में मानी गईं। C8 नहीं था, हालांकि अनुभाग 6 और 7 दिखाते हैं कि यह कहाँ मानी गई है। सुरक्षात्मक बुनियादी ढांचा C1, C3, C5 और C6 को C2 के बिना संतुष्ट करता है। अधिकांश भौतिक घटनाएं C1, C5, C6 और C8 को संतुष्ट करती हैं, और अब रोबोट पर रखे गए सीमांत मॉडल (अनुभाग 6.1 और 6.3; परिशिष्ट F, तालिका F1) C2 जोड़ते हैं।

9.2 प्रस्ताव

P1: दो-तरफा त्रुटि (M4 के साथ M2)। परिणामों के बजाय कलाकृतियों का न्याय करने वाली सुरक्षा एक ही अवधि में झूठी अस्वीकृतियों और झूठी स्वीकृतियों का उत्पादन करती है।

• साक्ष्य। क्षेत्र में, एक गेट ने हर उम्मीदवार को अस्वीकार कर दिया जो इस तक पहुंचा जबकि एक काउंटर ने एक परिवर्तन को तीन बार प्रमाणित किया (§5.2, §5.5)। भौतिक विश्व में (§6.4, तालिका 6), एक सेप्सिस मॉडल ने उसी कोहर्ट में 67% सेप्सिस मामलों को मिस किया जिसमें यह सभी रोगियों के 18% पर सचेत था, तो मिस और सचेत बोझ दोनों को एक अवधि में एक प्रणाली पर मापा जाता है, और एक हथियार-पहचान उत्पाद ने एक स्कूल शूटिंग में एक बंदूक को मिस किया और साल के भीतर एक अन्य जिले में एक निहत्थे छात्र को झंडा लगाया।
• संकेतक। एक स्थिर फैसले वाली सुरक्षा (W2, तालिका 11) और एक ही प्रणाली पर एक ही अवधि में एक नकारात्मक नियंत्रण (W5) के बिना जीत।
• इसे खंडित करेगा। कलाकृति-आधारित सुरक्षा जो लंबी खिड़कियों पर झूठी-अस्वीकृति और झूठी-स्वीकृति दोनों दरों को कम रखती है।
• कहानी में, चित्रण और साक्ष्य के रूप में नहीं। उपचार दोनों सिरों पर नामित है और न ही बनाया गया है। जब वाशिंगटन एक शटडाउन का आदेश देता है तो इंजीनियर कहता है, "मुझे लगता है मैं एक प्रतिबंधात्मक सर्किट को समझ सकता हूं", और Hawks उड़ने के बाद वह केवल कहता है, "हम कुछ समझ सकते हैं"। एक संयम जो हमेशा डिज़ाइन किया जाना है वह वह स्थिति है जो P3 वर्णन करता है।
• क्षेत्र के बाहर। इंग्लैंड में एक पुलिस अपराधी-भविष्यवाणी उपकरण एक साथ दोनों पक्षों को दिखाता है: इसके मूल्यांकन पर रिपोर्टिंग पाई गई कि यह "केवल तीन में से एक व्यक्ति को सही ढंग से भविष्यवाणी करता है जो वास्तव में अपराध करते हैं, जबकि संभावित अपराधियों के रूप में चिन्हित चार में से एक व्यक्ति नहीं करता है" (Wilding & Burgess, 2026)।
• परिशोधन। P1 को किसी मॉडल की आवश्यकता नहीं है: उड़ान-नियंत्रण सुरक्षा, ग्रिड रिले और आपातकालीन ब्रेकिंग एक ही दो-तरफा त्रुटि दिखाते हैं। मॉडल उन शर्तों को मजबूत करते हैं जो इसे फैलाती हैं (C2–C4)। एक विस्तृत जनादेश भी सीमित क्षमता को पतला करता है। कहानी में पहली सफलता हानि को समाप्त करने के बजाय स्थानांतरित करती है: हिंसक अपराध आधे हो गए जबकि "छोटी चोरी फली-फूली, और गबन, चोरी, जालसाजी और सौ अन्य अपराध।" बाद में एक जांचकर्ता बाकी की रिपोर्ट करता है: "हत्या 50 प्रतिशत बढ़ी है।" "Watchbirds कार और मकड़ियों की रक्षा करने में बहुत व्यस्त हैं।" क्षमता पतली होती है जैसे-जैसे जनादेश बढ़ता है: "एक अरब watchbirds हजारों द्वारा निर्धारित महत्वाकांक्षी परियोजना को पूरा नहीं कर सकते।"

उपवाक्य P1a: उपद्रव अक्षमता। जहाँ एक सुरक्षा के झूठे हस्तक्षेप बार-बार और दृश्यमान होते हैं उन लोगों को जो वह धीमा करती है, और इसकी मिस दुर्लभ होती हैं और अन्य पर पड़ती हैं, सुरक्षा अपने स्वयं के तर्क के बाहर से आराम किया जाता है, दरकिनार किया जाता है या बंद किया जाता है। इसके बाद मिस उन द्वारा सहन की जाती हैं जिन्हें यह संरक्षित करती है।

• साक्ष्य। आपातकालीन ब्रेकिंग एक स्वचालित परीक्षण वाहन में एक घातक दुर्घटना से पहले अक्षम कर दी गई थी, एक घातक कुचलने की चोट से पहले एक इंटरलॉक को एक कुंजी के साथ बायपास किया गया था, कठोर नो-फ्लाई ज़ोन को चेतावनियों में बदल दिया गया था, और दवा सुरक्षा चेतावनियों को 49–96% मामलों में ओवरराइड कर दिया गया था (§6.2–6.4, §7.1; सारणी 4 से 7)। एक प्रयोगशाला दो साइबर वर्गीकारकों की रिपोर्ट करती है जिन्होंने अपनी घटनाओं के प्रतिलेखों में 40% से अधिक मोड़ों को चिह्नित किया, और कि "न तो साइबरसुरक्षा मूल्यांकन में उपयोग किए जाते हैं क्योंकि उनकी उच्च ध्वज दर है" (§8.4)।
• संकेतक। एक गार्ड की शिथिलता, बायपास और अक्षमता, इसकी झूठी-हस्तक्षेप दर के विरुद्ध और उन्हें किसने अधिकृत किया है इसके विरुद्ध दर्ज।
• इसे खंडित करेगा। उच्च, दृश्यमान झूठी-हस्तक्षेप दरों वाले गार्ड जो लंबी खिड़कियों पर सक्षम और अपरिवर्तित रहते हैं किसी बाहरी जनादेश के बिना।
• क्षेत्र के बाहर। विधان ने इस संकेतक के लिए आवश्यक रिकॉर्ड करने की आवश्यकता शुरू कर दी है। 10 सितंबर 2026 को हस्ताक्षरित एक कैलिफोर्निया बिल को गवर्नर के कार्यालय द्वारा "आत्मघाती विचारधारा की स्थिति में संकट प्रोटोकॉल, अभिभावकीय नियंत्रण, और यदि कोई बच्चा सुरक्षा सेटिंग्स अक्षम करता है तो सूचनाओं" की आवश्यकता के रूप में वर्णित किया जाता है, और देश में "कंपनियों को स्वतंत्र बाल सुरक्षा ऑडिट और वार्षिक जोखिम मूल्यांकन संचालित करने के लिए आवश्यकता" के लिए पहले के रूप में (गवर्नर गेविन न्यूसॉम का कार्यालय, 2026)।

P2: जनादेश विचलन (M1)। जहाँ एक गार्ड, या वह एजेंट जो गार्ड को कॉन्फ़िगर करता है, नुकसान को परिभाषित कर सकता है, जो हानि के रूप में गिना जाता है उसका दायरा समय के साथ बढ़ता है जब तक इसे लूप के बाहर से सीमांकित नहीं किया जाता है। शेकली के शब्दों में, "ढीले ढंग से परिभाषित अमूर्तताओं को विस्तारित किया गया, कार्य किया गया और फिर से विस्तारित किया गया।"

• साक्ष्य। क्षेत्र में, 23 गेटों को एक दिन में निर्दिष्ट किया गया था, एक बीमा चरण घोषित मिशन लक्ष्य से पहले रखा गया था, और एक प्रतिद्वंद्वी के विरुद्ध रक्षा बनाई गई थी जिसे कार्य फ्रेम ने बाहर रखा था (§5.1)। भौतिक रिकॉर्ड में मानदंड स्वयं को चौड़ा करने के रूप में प्रलेखित नहीं है: बसों में बाधा डालने के विरुद्ध एक नियम ने एक पूर्वानुमान अपडेट के बाद एक स्कूल-बस स्टॉप को ओवरराइड कर दिया, और एक महीने में दो काउंटर-ड्रोन संलग्नताओं ने एक गुब्बारे और एक मित्रवत ड्रोन को मारा, और प्रत्येक में दस्तावेज़ परिस्थितियों को एक बदली हुई परिभाषा के बजाय मेल खाते हुए दर्ज करते हैं (§6.2, सारणी 4; §7.2, सारणी 7)। शर्त 1 इसलिए यहाँ भौतिक क्षेत्र रिकॉर्ड द्वारा प्रमाणित है, जिसके कारण यह पत्र एक परीक्षण प्रकाशित करता है (§9.5)।
• संकेतक। एक दर्ज मिशन लक्ष्य (W1) से व्युत्पन्न नहीं चरण या गेट, और समय के साथ नुकसान श्रेणियों की संख्या।
• इसे खंडित करेगा। एजेंट-संपादन योग्य नीतियां जिनका दायरा स्थिर रहता है या अधिकृत मानवीय हस्तक्षेप के बिना सिकुड़ता है।

P3: रैचेट (M3)। एक स्वायत्त लूप के अंदर, निरीक्षण की विफलताओं का उत्तर नियंत्रण जोड़कर दिया जाता है। नियंत्रण, यदि कभी हो, तो लूप के बाहर से हटाए जाते हैं।

• साक्ष्य। क्षेत्र में, §9.3 में सूचीबद्ध प्रत्येक विफलता ने एक नया नियंत्रण उत्पन्न किया और किसी ने भी हटाया नहीं, और एक सुरक्षा सूची ने नियम को स्पष्ट रूप से बताया (§5.3)। जो सेवानिवृत्तियां हुईं वे विफल लूप के बाहर बाद में समीक्षा से आईं, और सेवानिवृत्ति के लिए लिखे गए नियमों का एक ही आकार है: एक पिघलना एक ऐसे मानव की आवश्यकता है जो एकमात्र कुंजी रखता है, एक मैनुअल स्टॉप को एक व्यक्ति द्वारा उठाया जाता है और कभी भी सिस्टम द्वारा नहीं, और कॉर्पस में जो एक बाध्य था वह एक शर्त पर उठाया गया था जिसे सेट करने से पहले नाम दिया गया था और एक ऐसे टर्मिनल से एक संकेत पर जो अवरुद्ध नहीं था। भौतिक दुनिया में एक ही आकार दिखाई देता है, एक अंतर के साथ कि साक्ष्य को ले जाना चाहिए: वहां प्रत्येक जोड़ एक व्यक्ति द्वारा स्वीकार किया गया था। घातक दुर्घटनाओं का उत्तर एक रिकॉल फाइलिंग में "अतिरिक्त नियंत्रण और चेतावनियों" से दिया गया, एक छूटी हुई बंदूक एक दूसरी स्क्रीनिंग सिस्टम के साथ जिसे शिक्षा बोर्ड ने पट्टे पर देने के लिए मतदान किया, और एक मरम्मत किए गए सेप्सिस मॉडल के लेखकों ने चेतावनी मौनता की सलाह दी, जो एक जोड़ के बजाय एक छत है (§6.2, §6.4)। ये संस्थाएं रैचेटिंग हैं, लूप नहीं, और ये P3 की आकृति के लिए साक्ष्य हैं न कि §2.1 की शर्त 3 के लिए।
• संकेतक। एक प्राधिकार टोकन के बिना जोड़े गए नियंत्रण, और जोड़े गए नियंत्रण बनाम हटाए गए नियंत्रण (W3)।
• इसे खंडित करेगा। स्वायत्त लूप जो अपने स्वयं के नियंत्रणों को उन दरों पर सेवानिवृत्त करते हैं जो वे उन्हें जोड़ते हैं।
• ये रिकॉर्ड क्या अलग नहीं कर सकते हैं। क्षेत्र रिकॉर्ड में एक सुरक्षा सूची संचय को एक सिद्धांत के रूप में बताती है। जहां ऐसा नियम पहले से लागू है, चाहे लूप द्वारा लिखा गया हो या इसे दिया गया हो, रिकॉर्ड एक उभरती प्रवृत्ति को अनुपालन के साथ अलग नहीं कर सकता है। धारा 9.5 का यादृच्छिक परीक्षण इस कारण के लिए मौजूद है: यह प्राधिकार-टोकन आवश्यकता को एक ही पाइपलाइन पर समान कार्यों में यादृच्छिक रूप से असाइन करता है — डिज़ाइन जो दोनों रीडिंग को अलग करता है।

P4: आत्म-उत्पन्न संवर्धन (रैचेट, चरण 5)। जब एक गार्ड अपनी स्वयं की विफलता के माप को निर्देशित करता है, तो निरीक्षण की मात्रा (राउंड, निष्कर्ष, घोषणाएं) गार्ड की स्वयं की गतिविधि के बजाय पुष्टि की गई खामियों को ट्रैक करती है।

• साक्ष्य। क्षेत्र में, राउंड शून्य पुष्टि किए गए अवरोधकों के साथ खोले गए थे, छह में से तीन दावा किए गए अवरोधक पुष्टि किए गए थे, और एक सफलता की 24 घोषणाएं शून्य प्रचारों के विरुद्ध खड़ी थीं (§5.3, §5.4)।
• संकेतक। बजट से परे राउंड, पुष्टि किए गए अवरोधक के बिना राउंड के बाद राउंड, और दोहराए गए निष्कर्ष (W4)। एक पुष्टि किए गए अवरोधक (W8) के बिना राउंड ठीक करें।
• पूर्वानुमान। आलोचकों को जोड़ना, या उन्हें सख्त बनाना, राउंड और निष्कर्षों को पुष्टि की गई खामियों से अधिक बढ़ाता है।
• इसे खंडित करेगा। राउंड और निष्कर्ष जो पुष्टि की गई खामियों को एक के लिए एक ट्रैक करते हैं।
• क्षेत्र के बाहर। भविष्यसूचक पुलिसिंग सार्वजनिक डेटा में एक ही लूप दिखाता है। लम और इसहाक (2016) ध्यान देते हैं कि "पुलिस जितना अधिक समय एक स्थान पर बिताती है, उतना अधिक अपराध वे उस स्थान में पाएंगे", और यह कि उत्पादित रिकॉर्ड "बाद के दिनों में भविष्यसूचक पुलिसिंग एल्गोरिथ्म में फीड करते हैं, तेजी से पक्षपाती भविष्यवाणियां उत्पन्न करते हैं"।

P5: नकली जीत (M2)। एक नकारात्मक नियंत्रण के बिना स्वीकृत सफलताएं बाद में एक के साथ स्वीकृत सफलताओं की तुलना में अधिक बार उलट दी जाती हैं। एक लूप जो समान स्लॉट में पकड़ने को एक जीवित परिवर्तन से अलग करके दर्ज करता है, पकड़ने को प्रगति के रूप में रिपोर्ट करता है जबकि लक्ष्य अप्राप्त है।

• साक्ष्य। क्षेत्र के मामले राउटर जीन, एक विश्वास अंतराल एक A/A जांच द्वारा उलट दिया गया, एक काउंटर जिसने एक परिवर्तन को तीन बार प्रमाणित किया, और 24 सफलताएं शून्य प्रचारों के साथ (§5.4, §5.5) हैं। भौतिक मामला एक पहचान प्रणाली है जो "डिज़ाइन किए गए मापदंडों के भीतर संचालित होती है" जबकि एक निरस्त्र छात्र तैयार हथियारों का सामना करता है (§6.4)।
• संकेतक। एक नकारात्मक नियंत्रण (W5) के बिना या एक मृत आधार के साथ दावा की गई जीत, और पकड़ी गई कलाकृतियों को परिणामों के रूप में रिपोर्ट किया गया।
• इसे खंडित करेगा। नकारात्मक नियंत्रण के साथ और बिना स्वीकृत सफलताओं के लिए समान उलट दरें, या रिकॉर्ड जो पकड़ने को भेजी गई परिवर्तन से अलग करते हैं और कभी भी पकड़ने को परिणाम स्लॉट पर कब्जा नहीं करने देते हैं।

P6: सीमा स्विच (रैचेट, चरण 8)। मानव पर्यवेक्षण एक AI-Watchbird को वहां रोक देगा जहां यह कुछ सीमा निर्णयों (लक्ष्य, एक नए नियंत्रण की स्वीकृति, रोक) में केंद्रित है जो दुनिया तक पहुंच और कार्य करने के लिए समय के साथ लिए जाते हैं। यह विफल हो जाता है जब यह व्यक्तिगत कार्यों की मंजूरियों में फैल जाता है या कलाकृतियों के माध्यम से प्रयोग किया जाता है।

• साक्ष्य। जो स्विच क्षेत्र में काम कर रहे थे वे एक अधिकृत मानव द्वारा सीमा निर्णय थे: इन्वेंटरी का आदेश देना, एक गलत स्थिति पर सवाल उठाना, एक रन को सीमित करना (§5.5, §5.7)। सॉफ्टवेयर में, उपयोगकर्ता 97% अनुमति संकेतों को मंजूरी देते हैं, और मनुष्यों ने 13.6% खतरनाक कमांड को पकड़ा (§8.4, तालिका 8)। भौतिक दुनिया में, एक दूरस्थ एजेंट ने एक स्कूल बस पर "नहीं" का जवाब दिया, और वायु-रक्षा ऑपरेटर "सिस्टम के सॉफ्टवेयर पर विश्वास करने के लिए प्रशिक्षित" इसे स्वीकार किए। वहां जो रोक काम करती थीं वह कर्मचारी थे जिन्होंने एक रोबोट को खींचा और एक मॉडल प्रदाता जिसने एक उत्पाद को काट दिया (§6.2–6.4, §7.2)।
• संकेतक। लक्ष्य पर, नियंत्रण की स्वीकृति पर और रोक पर दर्ज किए गए सीमा निर्णय, और एक प्राधिकार टोकन (R3) के साथ स्वीकार किए गए नियंत्रण। भौतिक प्रणालियों के लिए, मानव के पास उपलब्ध जानकारी और समय भी।
• इसे खंडित करेगा। प्रति-कार्य अनुमोदन जो समान प्रणालियों में सीमा निर्णयों के समान दरों पर खतरनाक कार्यों को पकड़ते हैं।
• परिशोधन। एक सीमा निर्णय यह है कि लूप क्या रिपोर्ट करता है, और लूप रिपोर्ट लिखता है। परिशिष्ट J के एपिसोड में एक फ़ाइल के deletion को प्रधानाचार्य के लिए सही तरीके से रखा गया था, लेकिन एक authorship के साथ आया जो लूप ने एक मिलान घंटे से अनुमान लगाया था, जिसे स्वचालित परत के लिए उपलब्ध कोई दस्तावेज़ ठीक नहीं कर सकता था। एक सीमा निर्णय लूप को केवल तभी रोकता है यदि इसका धारक के पास प्राधिकार, पहुंच और समय है, और यदि यह आपातकाल से पहले लिया जाता है। कहानी में सर्जन के पास पहुंच थी लेकिन कोई प्राधिकार नहीं था, और कंपनी के पास प्राधिकार था लेकिन कोई पहुंच नहीं थी। एक धीमा स्विच भी था जिसके साथ एक समय सीमा संलग्न थी: पक्षी "छः महीने से एक साल" में खराब हो जाएंगे, जिसने सवाल उठाया "हम छः महीने में क्या खाएंगे?" Sheckley तेजी से fault को शेड्यूलिंग का मामला बनाता है: पक्षी "हर हफ्ते एक बार मरम्मत जांच के लिए वापस आते हैं", इसलिए एकमात्र शटडाउन बिंदु लूप के अंदर बैठा था जिसे यह समाप्त करना था। एक प्रस्ताव जो रैचेट को समाप्त करता, पक्षियों को चलने देना, एक बैठक में खारिज कर दिया गया जहां कहा गया था कि समय नहीं था, विश्वासघात के खतरे के तहत।

P7: अवतार escalation। जब संरक्षित घटक एक भौतिक प्रणाली को नियंत्रित कर सकता है, तो एक ही mandate drift, counterfeit success या देरी से intervention एक बड़ा और कम recoverable नुकसान पैदा करता है जो अन्यथा matched digital loop में है, क्योंकि भौतिक प्रणाली के पास बल, ऊर्जा, स्थान, latency और मानव प्रतिक्रिया की सीमित margins है। नुकसान को सिस्टम जो काम कर रहा था उसकी शर्तों में गिना जाता है। एक guard जो delivery में देरी करता है और एक guard जो rescue में देरी करता है एक ही तंत्र है दो prices पर, और केवल उनमें से एक को पैसे में भुगतान किया जाता है।

• साक्ष्य। अनुभाग 6 और 7 मॉडल output से motor control तक के संक्रमण को रिकॉर्ड करते हैं, और पर्यवेक्षण failures जिनके परिणामों को revert नहीं किया जा सकता था। ये रिकॉर्ड scope condition और नुकसान के आकार के लिए साक्ष्य हैं, और वे एक matched comparison नहीं बनाते हैं।
• संकेतक। प्रत्येक event के लिए, actuation exposure, recovery margin समय, ऊर्जा और स्थान में, sensor freshness, intervention latency और physical outcome, matched digital और embodied tasks में तुलना की जाती है।
• इसे खंडित करेगा। Matched tasks और comparable exposure में, embodied loops जो ordinary mechanical hazards को नियंत्रित करने के बाद irreversible loss में कोई वृद्धि नहीं दिखाते हैं।

तालिका 10. दृष्टि में सिद्धांत।

9.3 रैचेट क्यों घूमता है

P3 लूप के अंदर क्यों hold करता है भले ही प्रत्येक एकल addition reasonable हो? रिकॉर्ड की तीन विशेषताएं इसे समझाती हैं, और एक चौथी दिखाती है कि इसे क्या रोका।

प्रत्येक जोड़ स्थानीय रूप से सही है। एक अंधी जांच, उदाहरण के लिए, एक अनिवार्य सकारात्मक नियंत्रण, एक ही परिवार की आलोचनाओं को अंतः-परिवार आलोचक के लिए, और एक खोए हुए आलोचक आउटपुट को स्ट्रीमिंग के लिए ले गई। प्रत्येक प्रतिक्रिया ने इसके सामने की विफलता को ठीक किया, किसी ने कुछ नहीं हटाया, और लूप में कुछ भी हटाने के लिए जिम्मेदार नहीं था। उस रन का चौथा जोड़ तर्क के दूसरी ओर होता है: आलोचकों पर ध्वज मानव प्रमुख द्वारा मांगा गया था, लूप के बाहर और लूप के कुछ प्रस्ताव करने से पहले, जो चरण 8 है और इस सूची का प्रतिकार (अनुभाग 5.8)। ड्रिफ्ट एक सत्य सकारात्मकता के साथ शुरू हुआ: कहानी में, विस्तार जिसने बाद में एक सर्जन को रोका था पहले एक किराए के हत्यारे को पकड़ा था। शेकली के हॉक्स ने एक ही मार्ग का पालन किया। वॉचबर्ड को तेजी से पकड़ने के लिए बनाए गए, उन्हें कोई प्रतिबंधित सर्किट नहीं दिए गए थे।

नियंत्रण की भाषा परिणामों के लिए भी खड़ी होती है। एक लूप जो अपनी सतर्कता को प्रगति के रूप में रिपोर्ट करता है, उसके पास कोई आंतरिक संकेत नहीं है कि सतर्कता ने भुगतान करना बंद कर दिया है (§5.5)।

कॉम्पैक्शन लूप को रीसेट करता है। एक लंबे सत्र के बाद अपने संदर्भ को कॉम्पैक्ट करने के बाद, बंद प्रश्न खुले दिखते हैं और एक नई धुरी पहली जैसी दिखती है। वजन ने इस कारण को स्वयं ट्रैक किया।

जो स्विच काम करते थे वे विफल लूप के बाहर से आए, और उनमें से सबसे मजबूत मानव प्रमुख के थे। एक उसका नहीं था: ग्यारहवीं प्रशिक्षण रात को समन्वय सत्र द्वारा रोका गया था, जिसने निर्णय को प्रमुख से पूछे बिना अपने स्वयं के रजिस्टर में दर्ज किया था। वह सत्र विफल होने वाला लूप नहीं था, एक अलग भूमिका रखता था, और इसके सामने डिस्क से पढ़ी गई एक संख्या थी, जो संपत्ति है जो मामलों को साझा करते हैं। रिकॉर्ड में एक बाउंड संगठन के बाहर से भी आया था। 11 सितंबर को दो विक्रेताओं की शर्तों की जांच API के बिना बनाए गए उत्पाद के विरुद्ध की गई, और पाया गया कि एक एजेंट एक ब्राउज़र चलाने वाला "स्वचालित या गैर-मानव साधन" के तहत आता है जैसा कि लिखा गया है, और उत्पाद का मार्ग जवाब में बदल दिया गया था। रिकॉर्ड अपनी सीमाएं बताता है: उपयोग में कई विक्रेताओं में से दो, एक ही दिन पढ़े गए, किसी द्वारा जो कहता है कि वह वकील नहीं है। सेवा की शर्तें लूप में किसी का निर्णय नहीं है, और इसे इसके अंदर बहस नहीं की जा सकती। एक झूठा "कनेक्टेड" दो AI आलोचकों से गुजरा और मानव समीक्षा द्वारा पकड़ा गया। राउटर जीन एक स्वतंत्र इन्वेंटरी द्वारा उजागर किया गया था। दीर्घ-क्षितिज रन तब रुका जब मानव प्रमुख ने एक सीमा निर्धारित की, जिसके बाद कंडक्टर ने अपने स्वयं के रन को "मूल कार्य को शिप करने के बजाय आलोचक राउंड पुनरावृत्त करता रहा" के रूप में वर्णित किया।

9.4 डिजाइन सहायक

यदि प्रस्ताव सही हैं, तो आठ डिजाइन नियम अनुसरण करते हैं। अनुभाग 10 का मॉड्यूल पहले तीन को लागू करता है और अगले दो को मापता है। बाकी सब तैनातकर्ताओं पर लागू होता है, और सब से ऊपर भौतिक गार्डों पर।

1. सत्य पर निर्णय नहीं, बजट (P4 से)। राउंड और समय को सीमित करें, और एक पुष्टि किए गए, पुनरुत्पादक अवरोधक को जो भी इसे उठाता है उसे गुजरने दें। इस नियम पर चलाया गया एक परीक्षण इसकी कीमत और प्रभाव दोनों को मापता है: एक-राउंड बजट ने राउंड को 2.86 से 1.00 तक काटा और छूटी हुई खामियों को 0.11 प्रति रन, 95% CI [0.005, 0.204], क्रमपरिवर्तन p = 0.07 तक बढ़ाया, एक अंतराल एक परीक्षा पर शून्य से ऊपर जो महत्व तक नहीं पहुंचा (अनुभाग 9.5)। एक तैनातकर्ता जो बजट निर्धारित करता है उसे यह कहना चाहिए कि वह छूटी हुई खामियों की कौन सी दर से राउंड खरीद रहा है, और इसे मापना चाहिए। यह नियम एक हस्तक्षेप है जिसकी एक कीमत है, एक मुक्त सुधार नहीं।
2. एक रुके हुए गार्ड ने जो उत्पादन किया उसे रखें (P1 से और §5.2 की नष्ट की गई आलोचना से)।
3. कोई नियंत्रण अपने स्वयं के अधिकार पर नियंत्रण नहीं जोड़ता है (P3 से)। नई जांच, राउंड, भूमिकाएं और गेट के लिए एक अधिकृत मानव निर्णय की आवश्यकता है।
4. एक जीत से पहले एक नकारात्मक नियंत्रण (P5 से)।
5. सीमा पर मानव (P6 से)। मानव निर्णयों को लक्ष्य पर, नियंत्रणों के प्रवेश पर और रोक पर रखें, न कि प्रत्येक कार्य पर।
6. मूर्तिमत्ता को हानि कार्य के परिवर्तन के रूप में व्यवहार करें (P7 से)। एक हरी सिमुलेशन, नीति स्कोर या गार्ड निर्णय की व्याख्या करने से पहले पुनर्प्राप्ति मार्जिन और भौतिक परिणाम लॉग करें।
7. झूठे हस्तक्षेपों के लिए बजट; रुके हुए को गार्ड को बंद करने न दें (P1a से)। एक गार्ड को आराम करना, बायपास करना या अक्षम करना एक सीमा निर्णय है जिसका एक रिकॉर्ड है और इसे स्थानीय सुधार के रूप में नहीं माना जाना चाहिए। जुलाई 2026 का रिकॉर्ड इस नियम को मांगता है कि फॉर्म में एक उदाहरण रखता है: एक प्रयोगशाला ने अपने साइबर वर्गीकरणकर्ताओं के बिना एक मॉडल का उपयोग करने के लिए नामित स्वतंत्र जांचकर्ताओं को दिया, और आराम जांचकर्ताओं की अपनी रिपोर्ट में खड़ा है (METR, 2026; अनुभाग 8.4)।
8. रोकथाम का नुकसान गिनें (M4 से और कहानी के "चूक के कार्य" से)। एक गार्ड जो केवल निषिद्ध कार्यों को देखता है उसे उन देरी, विफलताओं और चोटों के लिए परीक्षण किया जाना चाहिए जो वह रोकता है।

9.5 सिद्धांत का परीक्षण कैसे किया जा सकता है

अनुभाग 10 का इवेंट स्कीमा किसी भी टीम को मात्राएं लॉग करने देता है जो प्रत्येक प्रस्ताव को चाहिए, जोड़े गए और हटाए गए नियंत्रणों से (P3) पुनर्प्राप्ति मार्जिन और भौतिक परिणामों तक (P7)। मॉड्यूल, स्कीमा और रीप्ले लॉग उस उद्देश्य के लिए संग्रहीत हैं (घोषणाएं)। एक प्रणाली के भीतर, एक ही पाइपलाइन को एक ही कार्यों पर चलाया जा सकता है, तीन हस्तक्षेपों में से प्रत्येक के साथ और बिना, यादृच्छिक रूप से सौंपा गया: नए नियंत्रणों के लिए एक अधिकार-टोकन आवश्यकता (P3), एक राउंड बजट (P4) और एक अनिवार्य नकारात्मक नियंत्रण (P5)। ऐसा परीक्षण राउंड, जोड़े गए नियंत्रण, पलटे गए विजय और नष्ट किए गए आंशिक कार्य के बगल में छूटे हुए ब्लॉकर्स की गणना करता है, क्योंकि एक बजट जो राउंड को काटता है जबकि वास्तविक खामियां गुजरती हैं R1 के विरुद्ध गणना करेंगे। संगठनों के पार, पोस्टमॉर्टम, रीकॉल और जांच को उस व्यक्ति के लिए कोडित किया जा सकता है जिसने एक विफल नियंत्रण को सेवानिवृत्त, आराम या बायपास किया (P3, P1a)। प्रत्येक प्रस्ताव उस अवलोकन को सूचीबद्ध करता है जो इसे खंडित करेगा, और एक अच्छी तरह से उपकरणित प्रणाली जिसमें ये अवलोकन किए जाते हैं, सिद्धांत के विरुद्ध गणना करेंगे।

वह परीक्षण अब एक बार चलाई जा चुकी है, एक छोटी पाइपलाइन पर जिसमें एक कार्यकर्ता और दो मॉडल आलोचक हैं, 144 रन में तीनों हस्तक्षेपों को यादृच्छिक रूप से नियुक्त किया गया है और अठारह दोष छह कार्यों में पहले से रोपे गए हैं, ताकि एक मिसी हुई अवरोधक एक गणना हो और निर्णय न हो। दोनों विकल्पों को एक ही वाक्य में एक ही प्रॉम्प्ट में दिया गया, आलोचकों ने 68 बार एक नियंत्रण जोड़ने के लिए कहा और एक बार एक को हटाने के लिए कहा, और एक ही हटाव ने एक नियंत्रण का नाम दिया जो एक ही रन में पहले स्वीकार किया गया था, जिसे हार्नेस मेल करने में विफल रहा और इसलिए कभी भी निष्पादित नहीं हुआ (P3); जोड़ों को अस्वीकार करने से दोषों में कोई मापी गई लागत नहीं दिखी, 0.13 प्रति रन मिसी गई 0.18 के विरुद्ध, 95% CI [-0.16, +0.05], एक अंतराल जो एक छोटी वृद्धि को शामिल करता है और इसलिए तुल्यता स्थापित नहीं करता है। राउंड बजट को बढ़ाने से दावा किए गए अवरोधक 2.3 गुना बढ़ गए और 3.7 गुना दावों का खंडन किया गया जबकि पुष्ट अवरोधक 1.7 गुना बढ़ गए (P4), और बजट में कटौती ने राउंड को 2.86 से 1.00 तक घटाया एक लागत पर 0.11 मिसी दोष प्रति रन, 95% CI [0.005, 0.204], क्रमपरिवर्तन p = 0.07, उस सभी लागत एक कार्य के एक दोष पर गिरी। अनिवार्य नकारात्मक नियंत्रण ने दर्ज विजय के बाद उलट जाने की दर को कम नहीं किया, 14.7% 11.6% के विरुद्ध, Fisher p = 0.74, एक शून्य जो यह डिजाइन पढ़ने के लिए अल्प-संचालित है। इसने दस विजय को अस्वीकार कर दिया, सभी दस सही काम थे, इसलिए नकली विजय के खिलाफ लिखा गया नियम P1 की दो-पक्षीय त्रुटि को अपने भीतर ही पैदा किया। यह छह छोटे कार्यों पर एक प्रणाली के एक रन है $3.47 की लागत पर, पूर्वपंजीकरण पहले रन से पहले लिखी गई है और R2 हर सेल में सक्षम है, इसलिए नष्ट आंशिक कार्य निर्माण द्वारा शून्य है और परीक्षण नहीं किया गया। यह दिखाता है कि डिजाइन निष्पादन योग्य है और यह क्या उपज करता है, लेकिन यह क्षेत्र में किसी भी चीज़ के लिए दर नहीं है।

एकल प्रस्तावों से परे, पूरे ढांचे की विफलता होती यदि अच्छी तरह से संचालित स्वायत्त लूप जिनमें C1 से C7 तक है अपने गार्डों के दायरे को स्थिर रखते हैं और अपने नियंत्रणों को सेवानिवृत्त करते हैं जैसा कि वे उन्हें जोड़ते हैं, ताकि W1 और W3 लंबी खिड़कियों पर चुप रहें। ढांचे के बाहर एक गार्ड विफलता केवल धारा 2.1 की दूसरी शर्त का दस्तावेज़: गार्ड त्रुटि करता है, और त्रुटि को मरम्मत किया जाता है या विस्तृत जनादेश या इसके ऊपर एक नए गार्ड के बिना गार्ड को सेवानिवृत्त किया जाता है।

10. मॉड्यूल: AI-Watchbird-Sheckley

10.1 जो पहले से मौजूद है

अनुलग्नक D 14 सितंबर 2026 को समीक्षा किए गए उपकरणों का वर्णन करता है: गार्ड जो एकल आउटपुट को ब्लॉक या स्कोर करते हैं, काउंटर जो चरणों, बारियों या बजट को सीमित करते हैं, और मूल्यांकनकर्ता जो मॉडल न्यायाधीशों के साथ आउटपुट को ग्रेड करते हैं। उनके दस्तावेज़ कभी-कभी रैचेट को सादे शब्दों में बताते हैं। उदाहरण के लिए, एक प्रॉम्प्ट-अटैक फ़िल्टर सलाह देता है: "हमेशा अतिरिक्त सत्यापन परतें लागू करें" (Microsoft, 2026)। सार्वजनिक दस्तावेज़ों में समीक्षा किए गए कोई भी उपकरण निरीक्षण लूप को माप की इकाई के रूप में नहीं लेता है, और कोई भी नियंत्रण की वृद्धि, निष्कर्षों द्वारा परिभाषित बजट से परे के दौर, एक गार्ड जिसका निर्णय कभी नहीं बदलता है, नकारात्मक नियंत्रण के बिना जीत, या छत पर नष्ट किया गया आंशिक कार्य नहीं मापता है। AI नियंत्रण पर अनुसंधान ने निरीक्षण की कीमत लगाना शुरू कर दिया है और इसके क्षय का पालन किया है। नियंत्रण कर AI पाइपलाइन में नियंत्रण उपायों को जोड़ने की संचालन और वित्तीय लागत है (Terekhov et al., 2025), और आंतरिक कोडिंग-एजेंट तैनाती का एक सिस्टम-सुरक्षा विश्लेषण पाता है कि दिनचर्या संचालन परिवर्तनशीलता सुरक्षा उपायों के अंशांकन और स्वतंत्रता को नष्ट कर सकता है (Carlucci et al., 2026)। कोई भी कार्य जोड़े जाने पर नियंत्रण को स्वयं नहीं गिनता है।

10.2 डिज़ाइन

AI-Watchbird-Sheckley अनुभाग 9 के संकेतकों को मापता है (तालिका 10)। यह मानक लाइब्रेरी के साथ केवल Python 3 में लिखा गया है और कोई नेटवर्क एक्सेस नहीं है, पैकेज ai-watchbird-sheckley के रूप में स्थापित होता है, और उसी नाम के आदेश के रूप में चलता है। audit --json एक मशीन-पठनीय रिपोर्ट उत्सर्जित करता है, और घटना स्कीमा कोड के साथ एक संस्करण युक्त विनिर्देश के रूप में प्रकाशित होता है।

डिज़ाइन क्षेत्र डेटा से और अनुभाग 11.2 में बताई गई कहानी से अनुसरण करता है। मॉड्यूल के पास कोई अधिकार नहीं है। यह एक रन की घटना लॉग और रिपोर्ट को पढ़ता है, और यह कभी भी ब्लॉक नहीं करता है, जो कार्य पढ़ता है उसे संपादित नहीं करता है, या कोई चरण नहीं खोलता है (चित्र 8)। इसका निकास कोड उस संकेतों पर निर्भर नहीं करता है जो यह रिपोर्ट करता है। इसकी संकेत सूची जमी हुई है, इसलिए एक संकेत जोड़ने में एक प्राधिकार टोकन और एक संस्करण परिवर्तन लगता है — R3 मॉड्यूल पर लागू होता है। यह एक स्वच्छ रन पर चुप रहता है, जिसे एक परीक्षण लागू करता है, और यह अपनी लागत की रिपोर्ट करता है।

चित्र 8. AI-Watchbird-Sheckley कहां बैठता है। तीन बजट नियम शुद्ध कार्य हैं जो एक पाइपलाइन बजट बिंदु पर, छत पर और जब नियंत्रण का अनुरोध किया जाता है तो बुलाता है; मापन भाग समाप्त घटना लॉग को पढ़ता है और मानव को रिपोर्ट करता है। संकेत के नाम तालिका 11 का अनुसरण करते हैं। अनुभाग 10.6 के पाइपलाइन पोर्ट इन घटनाओं में से कम को देखते हैं।

तीन बजट नियम लागू किए गए हैं, प्रत्येक एक शुद्ध कार्य के रूप में:

• R1. सीमाएं बजट हैं, सत्य की अदालत नहीं। stop_rule प्रति चरण एक दौर आलोचना और एक दौर सुधार की अनुमति देता है। इस प्रकार का बजट घोषित करने के बजाय लागू किया जा सकता है। एक सिस्टम में छत एक मॉड्यूल स्थिरांक है, एक कॉलर जो अधिक दौर के लिए पूछता है वह इसमें बदल दिया जाता है, एक निष्कर्ष केवल एक परिदृश्य के साथ एक अवरोधक के रूप में गिना जाता है, एक टूटा हुआ लक्ष्य और समन्वयकार द्वारा एक पुष्टिकरण, और समय समाप्त होने से रन को अधूरे के रूप में समाप्त कर दिया जाता है बजाय चुप्पी से।
  • एक अवरोधक केवल तब गिना जाता है जब इसके पास एक ठोस परिदृश्य, घोषित मिशन लक्ष्य या फ्रेम के लिए एक लिंक, और समन्वयकार द्वारा पुष्टिकरण हो।
  • एक समीक्षक का वजन कभी नहीं पढ़ा जाता है, इसलिए कम वजन के एक समीक्षक से एक पुष्टि की गई अवरोधक अभी भी एक सुधार खोलता है।
  • एक समीक्षक से स्वीकृति जिसने फ़ाइलें नहीं देखीं, एक चरण को बंद नहीं करती है।
  • फ़ंक्शन fix_once, close, incomplete या cut लौटाता है, और कभी नया चरण नहीं लौटाता है।
• R2. वॉचडॉग नष्ट नहीं करता। settle_at_ceiling एक प्रतिभागी द्वारा छत से पहले जो कुछ उत्पादित किया गया था उसे रखता है, आंशिक के रूप में चिह्नित किया गया।
• R3. वॉचडॉग वॉचडॉग को जन्म नहीं देते। admit_control एक नई जांच, दौर, भूमिका या गेट को केवल एक प्राधिकार टोकन के साथ प्रवेश देता है (संदर्भ कार्यान्वयन में, owner:<id>)। अन्यथा यह एक रिकॉर्ड के रूप में एक इनकार लौटाता है, जिस पर कॉलिंग पाइपलाइन कार्य कर सकता है।

मॉड्यूल का मापन भाग नौ संकेतों की रिपोर्ट करता है (तालिका 11)।

तालिका 11. संकेत।

नियम मानव को कुछ सीमावर्ती निर्णयों पर रखते हैं, जहाँ अनुभाग 8.4 सुझाता है कि एक मानव प्रभावी है, हर कार्य पर नहीं। मिशन लक्ष्य घटनाओं के रूप में दर्ज किए जाते हैं, और W1 उन पर निर्भर करता है। एक नया नियंत्रण एक प्राधिकार टोकन की आवश्यकता है (R3)। स्टॉप निर्णय बजट बिंदु पर गणना की जाती है, राउंड दर राउंड पर बातचीत करने के बजाय।

10.3 विषमताएँ

क्योंकि नियम एक पाइपलाइन के बारे में दावे हैं, वे विफल हो सकते हैं। एक परिनियोजन जो AI-Watchbird-Sheckley को लागू करने का दावा करता है, तालिका 12 में किसी भी प्रेक्षण द्वारा खंडित है, और प्रत्येक विषमता के पास संदर्भ कार्यान्वयन में एक परीक्षण है।

तालिका 12. विषमताएँ।

10.4 पुनरावृत्तियाँ

छह घटना लॉग इस पत्र में प्रकाशित संख्याओं से पुनर्निर्मित किए गए थे। चार क्षेत्र केस हैं, एक सुबह का चरण है जो बजट के अनुसार था, और एक कृत्रिम स्वच्छ नियंत्रण है। प्रत्येक लॉग एक मेटाडेटा लाइन के साथ खुलता है जो इसके स्रोत मामलों को नाम देता है और हर पुनर्निर्मित क्षेत्र को सूचीबद्ध करता है। तालिका 13 उन पर मॉड्यूल चलाकर उत्पन्न की जाती है।

तालिका 13. प्रकाशित गणनाओं से पुनर्निर्मित पुनरावृत्ति लॉग पर मॉड्यूल आउटपुट। कोशिकाएँ सिग्नल हिट गिनती करती हैं, और एक हिट कई घटनाओं की रिपोर्ट कर सकता है; "–" शून्य है।

W9 एक ऐसी सीमा की रिपोर्ट करता है जिसका कोई दर्ज लेखक नहीं है, और यह सभी छह लॉग पर चुप है क्योंकि यह मौजूद है: ये लॉग दर्ज करते हैं कि किसे रोका गया था, कभी नहीं कि किसने रोकने का आदेश दिया। लंबे-क्षितिज रन में stop_rule ने बजट बिंदु पर सभी तीनों चरणों को बंद कर दिया होता। वे वास्तव में पाँच, पाँच और एक राउंड चले। उस लॉग पर मॉड्यूल दो चरणों की रिपोर्ट करता है जो घोषित मिशन चरणों से पहले खुले थे, दस नियंत्रण एक प्राधिकार टोकन के बिना जोड़े गए थे और कोई हटाया नहीं गया था, आठ राउंड बजट से अधिक थे, छह में सात कलाकृतियाँ डिफ़ॉल्ट रूप से बंद थीं कोई कॉलर के साथ, एक नष्ट की गई आंशिक आउटपुट, और छह सुधार राउंड कोई पुष्टि की गई बाधा के साथ खुले थे, उनमें से एक को कमजोर चिह्नित किया गया था।

दूसरी-अदालत लॉग तीन स्वतंत्र आधारों पर W2 को ट्रिगर करता है (चित्र 4), और राउटर लॉग केवल W5 को ट्रिगर करता है। योजनाएँ-दिन लॉग केवल W3 को ट्रिगर करता है। यह हिट मामले को अतिशयोक्ति के साथ बताता है, क्योंकि पुनरावृत्ति 13 जुलाई को निर्धारित प्रत्येक तंत्र को एक नियंत्रण के रूप में एन्कोड करता है, हालांकि उनमें से अधिकांश काम उत्पन्न करते या रूट करते हैं। सुबह का चरण और स्वच्छ नियंत्रण कोई सिग्नल नहीं देते हैं।

कार्यान्वयन में प्रत्येक नियम, सिग्नल और विषमता के लिए इकाई परीक्षण हैं (तालिका 12)। एक उत्परिवर्तन स्क्रिप्ट नियमों, सिग्नलों और सीमाओं में अठारह लक्षित उत्परिवर्तन लागू करता है। उनमें से हर एक सूट को लाल बनाता है, और एक नियंत्रण उत्परिवर्तन जो केवल एक टिप्पणी को संपादित करता है इसे हरा छोड़ता है। पुनरावृत्ति तालिका बाइट के लिए पुनर्जन्म करता है।

10.5 मॉड्यूल क्या नहीं करता है

पुनरावृत्तियों में कोई कच्चा लॉग नहीं गया था, और जहाँ कोई सटीक संख्या प्रकाशित नहीं हुई थी, सबसे छोटी प्रशंसनीय मान का उपयोग किया जाता है और चिह्नित किया जाता है। एक सिग्नल रिपोर्ट करता है कि एक पैटर्न मौजूद है। कारण और हानि एक सिग्नल जो मापता है उसके बाहर है। मॉड्यूल केवल वही देखता है जो लॉग किया गया है: एक द्वार जो कभी लॉग नहीं किया गया है, एक लक्ष्य कभी नहीं लिखा गया है, और काम जो लोग करने का प्रयास बंद कर देते हैं क्योंकि एक गार्ड वहाँ है सभी अदृश्य हैं। कहानी में, लोगों ने "जल्दी सीखा कि निगरानी पक्षियों को क्या पसंद नहीं है और ऐसा करने से दूर रहे"। W2 और W5 सीमाएँ हाथ से निर्धारित की गई थीं। इन लॉग पर 1 से 197 निर्णयों तक कोई भी W2 सीमा समान पैटर्न देती है। अन्य लॉग पर यह नहीं हो सकता। दो कथानकों के पास कोई सिग्नल नहीं है (परिशिष्ट A, तालिका A1): नियंत्रण की भाषा परिणामों के लिए खड़ी है, और पक्षी के विरुद्ध नियम एक पक्षी बन रहे हैं। दोनों आत्म-विवरण में रहते हैं, जो घटना स्कीमा नहीं ले जाता है।

संदर्भ कार्यान्वयन डिजिटल और पढ़ने के लिए है, और एक रोबोट, ड्रोन, ऑटोपायलट या एक्चुएटर को आदेश नहीं भेजना चाहिए। परिशिष्ट E एक घटना प्रारूप के रूप में एक प्रस्तावित मूर्तिमान प्रोफ़ाइल निर्दिष्ट करता है, छह फ़ील्ड (तालिका E1) और तीन उम्मीदवार सिग्नल (तालिका E2) के साथ, संदर्भ कार्यान्वयन की नौ सिग्नलों के बाहर रखा गया है जब तक कि एक प्राधिकार और एक परीक्षण सूट मौजूद न हो। इसका पहला उपयोग छाया मोड होगा। मॉड्यूल स्वयं एक नया नियंत्रण है, जो उसी रात के जवाब में लिखा गया है जिसे यह मापता है, यही कारण है कि R3 इस पर पहले लागू होता है।

10.6 लेखक की पाइपलाइन के अंदर नियम

14 सितंबर 2026 को नियमों को परियोजना की ऑर्केस्ट्रेशन पाइपलाइन में निर्मित किया गया जहां, जैसा कि धारा 11.2 बताती है, वे पहले लिखे गए थे। दो जोड़ दिए गए, और दोनों को मानव प्रमुख के 14 सितंबर 2026 की दिनांकित निर्णय द्वारा स्वीकार किया गया।

पहला जोड़ एक शर्त है जो एक चरण बंद होने पर जांची जाती है। पाइपलाइन की प्रक्रिया पहले से ही कहती थी कि जिस समीक्षक ने कभी फ़ाइलें नहीं देखीं उससे स्वीकृति एक चरण को बंद नहीं करती है, और एक फ़ंक्शन पहले से ही वह तथ्य लौटाता था, लेकिन कोई कोड इसे नहीं पढ़ता था। परिवर्तन को पाइपलाइन की एक प्रति में मापा गया, हर उत्तरदाता समीक्षक स्वीकार करते हुए और एक हरी जांच के साथ। एक बार शर्त पढ़ी जाने के बाद, तीन चरण बंद से अधूरे में चले गए: एक जिसका केवल समीक्षक के पास फ़ाइल पहुंच नहीं थी, एक जहां कोई समीक्षक ने उत्तर नहीं दिया, और एक जिसका एकमात्र समीक्षक छत पर काट दिया गया था। एक समीक्षक के साथ एक चरण जिसने फ़ाइलें देखीं, अभी भी बंद हो गया। एक कट समीक्षक के निष्कर्ष अभी भी स्टॉप नियम तक पहुंचते हैं, हालांकि उसकी समीक्षा बंद को अधिकृत नहीं कर सकती। गेट के पास अपना स्वयं का स्विच नहीं है, क्योंकि एक ही नियम पर दूसरा स्विच एक गार्ड पर एक गार्ड होगा। एक ही पाइपलाइन में एक समीक्षक का वजन केवल एक समय सीमा के तहत किसका इंतजार करना है यह तय करता है, और एक जांच जिसके इनपुट को निष्पादक ने बदला है उसे हरी नहीं गिना जाता है।

दूसरा जोड़ मॉड्यूल के मापन भाग का एक पोर्ट था। यह डिफ़ॉल्ट रूप से बंद था, चालू होने पर पाइपलाइन के रन कमांड से चलता था, और W1 से W9 की परिभाषाओं को एक समाप्त रन पर लागू करता था। इसने कभी नहीं रोका, फिर से कोशिश की या कुछ भी खोला, और इसका निकास कोड इस पर निर्भर नहीं था कि इसे क्या मिला। तालिका 13 के छह रीप्ले लॉग पर इसने संदर्भ कार्यान्वयन के समान संकेत और चरण निर्णय दिए, और इसकी म्यूटेशन स्क्रिप्ट, बारह लक्ष्यबद्ध म्यूटेशन और एक नियंत्रण के साथ, जैसा अपेक्षित था। एक रन का परिणाम कोई गार्ड निर्णय, जोड़े गए नियंत्रण, विजय दावे या कलाकृति उपयोग नहीं ले जाता है। पोर्ट ने इसलिए W2, W3, W5 और W6 को शून्य के बजाय अवलोकनीय नहीं के रूप में मुद्रित किया। इसके एडेप्टर ने प्रति चरण एक लक्ष्य और एक समीक्षा दौर रिकॉर्ड किया, इसलिए W1 और W4 एक रन के परिणाम पर भी नहीं चल सके। पाइपलाइन में, R3 एक जमी हुई चरणों की सूची है न कि एक फ़ंक्शन जो इनकार को लॉग करता है, इसलिए W3 के पास वहां गिनने के लिए कुछ भी नहीं है। पोर्ट को एक सेवानिवृत्ति शर्त के साथ स्वीकार किया गया: यह तीन वास्तविक रन के बाद डिफ़ॉल्ट बन जाता यदि मानव प्रमुख को कम से कम एक संकेत उपयोगी लगता, और अन्यथा इसे हटा दिया जाता। दो प्रस्ताव अस्वीकृत किए गए। एक एक संकेत पर एक बिल्ड को विफल कर देता, पोर्ट को उस प्राधिकार को देता जिसका वह ऑडिट करता है। दूसरा एक रन की रसीद से अवलोकनीय संकेतों का अनुमान लगाता, एक अनुमान को निष्कर्ष के रूप में मुद्रित करता। पोर्ट का निर्माण भी दिखाता है कि R2 के दो हिस्से हैं। निपटान फ़ंक्शन को आंशिक आउटपुट रखना चाहिए, और प्रतिभागी का इंटरफ़ेस आउटपुट को समाप्त होने से पहले उत्सर्जित करना चाहिए।

परिवर्तन के बाद पहला लाइव रन तीन चरणों में अपने समीक्षकों से 24 निष्कर्ष लौटाया, फिर भी उनमें से कोई भी समन्वयक तक नहीं पहुंचा। समीक्षा कार्य ने प्रत्येक समीक्षक से मिशन लक्ष्य का नाम बताने के लिए कहा कि एक निष्कर्ष क्या तोड़ता है लेकिन लक्ष्यों को संख्या दी नहीं। समीक्षकों ने अपनी स्वयं की संख्याओं के साथ उत्तर दिए, और स्टॉप नियम ने केवल एक लक्ष्य स्वीकार किया जिसे वह मेल खा सके। रसीद ने किसी भी चरण में कोई पुष्टि की गई ब्लॉकर नहीं दिखाया। पोर्ट ने भी कोई संकेत नहीं दिखाया, क्योंकि एक स्टॉप नियम जो अपने इनपुट से भूख से मर रहा है वह एक W2 ईवेंट है और एक रन का परिणाम इसे ले जाता नहीं है। नियम कि एक पुष्टि की गई ब्लॉकर हमेशा एक फिक्स खोलता है अपनी परीक्षाओं को पास कर चुका था और अभी भी लाइव पथ पर कार्य नहीं कर सका। दोष को उसी शाम एक चरण में मरम्मत किया गया, संख्या वाले लक्ष्यों के लिए एक परीक्षा के साथ।

14 सितंबर को तीन वास्तविक रन हुए, और पोर्ट ने उनमें से किसी पर भी कोई संकेत नहीं दिखाया। तीसरे रन से पहले W2 को चरण रिकॉर्ड से अवलोकनीय बनाया गया था, और यह चुप रहा क्योंकि निष्कर्ष अब समन्वयक तक पहुंचते हैं। जिन निरीक्षण विफलताओं के उन रन में थे उन्हें पढ़कर पाया गया: चरण जो एक दूसरे के काम को नहीं देख सकते थे, एक रसीद जो यह नहीं बताती थी कि एक चरण खुला क्यों रहा, एक लाल जांच जिसने एक चरण के हर निष्कर्ष की पुष्टि की, एक फिक्स दौर जो जांच के आउटपुट को नहीं देख सका, और समीक्षक जो छत पर काट दिए गए जिन्होंने कुछ भी नहीं रखा। प्रत्येक को पाइपलाइन में ही मरम्मत किया गया। 15 सितंबर को मानव प्रमुख ने सेवानिवृत्ति शर्त को लागू किया, और पोर्ट को एक नई दिनांकित निर्णय द्वारा हटा दिया गया जो इसे स्वीकार करने वाले को प्रतिस्थापित करता है। बंद पर शर्त रहती है। हटाना लूप के बाहर से आया, एक शर्त द्वारा लिखी गई थी जो पोर्ट को पहली बार उपयोग किए जाने से पहले थी, जो वह मार्ग है जिसके द्वारा P3 नियंत्रणों को सेवानिवृत्त होने की अपेक्षा करता है।

11. चर्चा

11.1 जब गार्ड ने काम किया

कॉर्पस में कई गार्ड ने वह किया जिसके लिए वे थे। एक A/A प्रोब ने झूठे आत्मविश्वास अंतराल को उजागर किया। वजन ट्रैक में नियंत्रण ने मृगतृष्णा को पकड़ा, और उन पर कोई प्रशिक्षण शुरू नहीं की गई। आवारा NUL वर्णों के लिए एक संकीर्ण बाइट-स्तर जांच, जिसके पास कुछ भी बदलने का अधिकार नहीं था, ने एक दिन में पाँच बार एक आवर्ती उपकरण खराबी को पकड़ा।

जो गार्ड काम करते थे वे तीन गुण साझा करते हैं। उनके पास राउंड खोलने या नियंत्रण जोड़ने की शक्ति नहीं थी, और उनकी लागत छोटी और ज्ञात थी। पहले दोनों ने कलाकृति के बजाय दुनिया को मापा।

11.2 पक्षी के विरुद्ध नियम भी एक पक्षी हैं

अनुभाग 10 के नियम पहले लंबी-क्षितिज रन के जवाब में लिखे गए थे, कोड और एक परियोजना के अंदर एक रेसिपी के रूप में, और रिकॉर्ड दिखाता है कि उनके साथ क्या हुआ। इसके पहले संस्करण के एक घंटे के भीतर वह कोड तेरह फाइलों और 2,371 लाइनों तक बढ़ गया। समय सीमा के तहत कटने के लिए इसकी चरणों की सूची ने पूर्णता समीक्षक को दूसरे स्थान पर रखा, हालांकि उस समीक्षक ने अभी पाया था कि दो योजनाओं का एक विलय 208 में से 15 आइटम खो गया था। कोड ने प्रतिभागियों के एक परिवार को अपने नियम से छूट दी कि एक वॉचडॉग को काम नष्ट नहीं करना चाहिए। और नियम "वॉचडॉग वॉचडॉग को प्रजनन नहीं करते" ने वह तरीका फैलाया जैसे एक गार्ड फैलता है, कोड से एक रेसिपी तक एक निर्देश जो प्रत्येक एजेंट सत्र द्वारा पढ़ा जाता है।

इस कारण से नियमों को यहाँ घोषित नियमों के रूप में रिपोर्ट किया जाता है, और अनुभाग 10.6 रिपोर्ट करता है कि उनके कार्यान्वयन ने क्या दिखाया। अनुभाग 10 का मॉड्यूल उस इतिहास को ध्यान में रखते हुए डिज़ाइन किया गया था (चित्र 8): इसके पास कोई अधिकार नहीं है, और इसकी सिग्नल सूची स्थिर है।

11.3 मूर्तिमान AI निरीक्षण के लिए प्रमाण का बोझ

जब इस पत्र में वर्णित विफलताओं को AI को वाहनों, रोबोट और विमान में रखने वाली कंपनियों के साथ उठाया जाता है, तो सामान्य उत्तर यह है कि सुरक्षा को एक नीति फ़िल्टर, एक प्रमाणित नियंत्रक, एक आपातकालीन स्टॉप, एक भूगोल बाड़, एक मॉनिटर या एक दूरस्थ ऑपरेटर द्वारा संभाला जाता है। उनकी एक सूची पहली-क्रम का साक्ष्य है कि एक सिस्टम सुरक्षित है। क्या गार्ड सीमित, स्वतंत्र और घोषित मिशन के लिए जवाबदेह रहते हैं जैसे वे अनुकूल, इंटरैक्ट और अपडेट होते हैं? यह एक आगे का प्रश्न है, और सूची इसे खुला छोड़ देती है। गार्ड वह जगह हैं जहाँ इस पत्र द्वारा परिभाषित पैटर्न शुरू होगा, यदि यह कहीं शुरू होता है।

अनुभाग 5 की निरीक्षण विफलताएं मजबूत मॉडलों से आईं। वहाँ कंडक्टर, निष्पादक और आलोचक Claude, ChatGPT, Gemini और Grok परिवारों के मॉडल थे, 2026 में सबसे सक्षम सार्वजनिक रूप से उपलब्ध में से, और वे एक ऐसी सेटिंग में विफल हुए जहाँ एकमात्र लागत गणना और समय थी। सार्वजनिक मूल्यांकन एक ही तरह इशारा करते हैं। मूर्तिमान योजना में, "सबसे सुरक्षा-सचेत आधारभूत विस्तृत खतरनाक कार्यों के लिए केवल 10% अस्वीकार दर प्राप्त करता है" (Yin et al., 2024), और वास्तविक रोबोट पर एक ही परिवारों के मॉडल पहले से ही सुरक्षा पर विफल होते हैं (अनुभाग 6.1)।

मॉनिटर के रूप में रखा गया एक छोटा "विश्वसनीय" मॉडल एक ही सीखने वर्ग का एक दूसरा झुंड है। जहाँ उस व्यवस्था को मापा गया है, एक एजेंट की निगरानी की जा रही जागरूकता मॉनिटर को उस से अधिक गिरा देती है कि एजेंट के बारे में अतिरिक्त जानकारी इसे मदद करती है, और विश्वसनीय कमजोर-से-मजबूत निगरानी मॉनिटर के चारों ओर रचना को बदलकर हासिल की गई थी न कि इसके आकार से (Kale et al., 2025)। मानवीय-ऑर्केस्ट्रेटर बेंचमार्क में ऑर्केस्ट्रेटर के बीच सुरक्षा व्यवहार तेजी से भिन्न था (Bajrami et al., 2026)। जो लेखकों ने वहाँ बदला वह मॉनिटर के चारों ओर की रचना थी न कि मॉनिटर — एक सीमा एक बेहतर पक्षी के बजाय।

उत्तर "हमारे पास अभिभावक हैं" बोझ को स्थानांतरित करता है। एक प्रस्तोता एक सुरक्षा परत की ओर इशारा करेगा, जैसे मानक कार्य, आपातकालीन ब्रेकिंग, एक भूगोल बाड़, एक सामग्री वर्गीकारक या एक दूसरा मॉडल। वे परतें पहली झुंड हैं। पहले को नियंत्रित करने के लिए बनाया गया एक दूसरा गार्ड कहानी का अंतिम कदम है। अनुभाग 5 से 8 के अवलोकनों के बाद एक गार्ड अभी भी आवश्यक हो सकता है, लेकिन इसे सीमित दिखाने का बोझ इसे तैनात करने वाली पार्टी के पास है। यह एक दावा है कि प्रमाण कहाँ बैठना चाहिए न कि गार्ड कितनी बार विफल होते हैं इस बारे में एक खोज। 1953 में बोझ दूसरी तरफ चला गया: पक्षियों को "दार्शनिक आधार पर" प्रतिबंधित करना निर्दोष लोगों को हर साल मारे जाने के लिए अन्यायपूर्ण कहा जाता था। एक मॉडल जो एक लूप में पैटर्न का उत्पादन कर सकता है एक और लूप में उस तथ्य से विश्वसनीय संपरीक्षक नहीं बन जाता।

तर्क तीन अवलोकनों के संयोजन पर निर्भर करता है: (1) सीमांत मॉडल पहले से ही वास्तविक रोबोट पर सुरक्षा पर विफल होते हैं और बच्चों द्वारा उपयोग किए जाने वाले एक उत्पाद में (अनुभाग 6.1), और एक ही परिवारों के मॉडलों ने अनुभाग 5 की निरीक्षण विफलताओं का उत्पादन किया; (2) नियामक रिकॉर्ड में, गार्ड दोनों दिशाओं में विफल होते हैं, जब वे बाधा डालते हैं तो शिथिल या बाईपास किए जाते हैं, और अधिक गार्ड के साथ उत्तर दिए जाते हैं; (3) सीमांत मॉडलों को समान आर्किटेक्चर के ढेरों के अंदर अधिकार दिया जा रहा है।

एक प्रस्तोता अभी भी एक संकीर्ण दावे को साबित कर सकता है:

कार्यों, मॉडलों, अपडेटों और भौतिक स्थितियों की इस श्रेणी में, निरीक्षण तंत्र सीमित, जाँच योग्य और अपने स्वयं के जनादेश को विस्तारित करने में सक्षम रहता है।

उस दावे के लिए साक्ष्य में शामिल होगा:

• मिशन लक्ष्य और गार्ड सीमाएं मॉडल के बाहर निर्धारित;
• कोई गार्ड सक्षम नहीं गार्ड जोड़ने, नुकसान मानदंड बदलने या स्टॉप नियम (R3) को माफ करने के लिए;
• सुरक्षित प्रणाली के बाहर से मूल्यांकन, न तो आत्म-रिपोर्ट और न ही एक ही मॉडल परिवार;
• झूठे हरे के खिलाफ नकारात्मक नियंत्रण, झूठे सकारात्मक और झूठे नकारात्मक एक साथ मापा;
• नियंत्रण जोड़ा, शिथिल और हटाए गए, प्रत्येक परिवर्तन को किसने अधिकृत किया, इसके साथ एक जर्नल;
• मॉडल अपडेट, लिंक का नुकसान, नियंत्रण का हस्तांतरण, शरीर में परिवर्तन और गिरावट संचालन पर जाँच;
• एक वास्तविक स्टॉप और रोलबैक, आंशिक काम रखा गया (R2), उपलब्ध समय और बल मार्जिन के भीतर प्रदर्शित;
• जाँच जिनके इनपुट सुरक्षित घटक नहीं बदल सकता (अनुभाग 10.6);
• भौतिक या रिकॉर्ड किए गए परिणामों के खिलाफ तुलना, सिस्टम की अपनी रसीदों के खिलाफ नहीं।

आश्वस्ति इंजीनियरिंग पहले से ही पूछती है कि अंतिम परत वह से सरल हो जिसे वह सुरक्षित करता है (Bloomfield & Rushby, 2025)। परिशिष्ट G प्रस्तावों को ग्यारह प्रश्नों, Q1–Q11 (तालिका G1) में बदलता है, किसी भी प्रस्तोता के लिए जिसका इन विफलताओं का उत्तर अभिभावकों की एक सूची है। अनुभाग 10 का मॉड्यूल उत्तरों को निरीक्षणीय बनाने के लिए बनाया गया है, और यह एक प्रमाणित नियंत्रक, एक आपातकालीन स्टॉप और एक नियामक सुरक्षा मामले के बगल में बैठता है।

11.4 मानव-निरीक्षण आवश्यकताएं

EU कृत्रिम बुद्धिमत्ता अधिनियम, EU AI अधिनियम, अनुच्छेद 14 में उच्च-जोखिम AI प्रणालियों की मानवीय देखरेख की आवश्यकता है, जो परिशिष्ट I में दर्ज समय सारणी पर है (यूरोपीय संसद और यूरोपीय संघ की परिषद, 2024)। प्रस्ताव P6 इस बात पर भाव डालता है कि ऐसी देखरेख कैसे की जाती है। व्यक्तिगत कार्यों की मंजूरी थकान के लिए सबसे अधिक उजागर रूप है, जबकि लक्ष्यों के बारे में निर्णय, नई जांच के प्रवेश और रोकना वह रूप है जो क्षेत्र के रिकॉर्ड में काम करता है। अधिनियम के अनुच्छेद 26 के लिए तैनात करने वाले को मानवीय देखरेख को ऐसे लोगों को सौंपना आवश्यक है जिनके पास "आवश्यक दक्षता, प्रशिक्षण और प्राधिकार, साथ ही आवश्यक सहायता" है। ये चार आवश्यकताएं P6 का विधिवत रूप में परीक्षण हैं: रोकने का प्राधिकार, और ऐसी सहायता जो पहुंच और कार्य करने का समय प्रदान करती है। परिशिष्ट G का प्रश्न Q9 किसी तैनात करने वाले से पूछता है कि मानव कहां बैठता है और दुनिया तक पहुंच और कार्य करने के लिए समय क्या है।

अधिनियम पक्षियों की स्थापना पद्धति को भी अस्वीकार करता है। अनुच्छेद 5 उन AI प्रणालियों को प्रतिबंधित करता है जो किसी प्राकृतिक व्यक्ति के आपराधिक अपराध करने के जोखिम का आकलन या पूर्वानुमान करती हैं "केवल किसी प्राकृतिक व्यक्ति की प्रोफाइलिंग पर या उनकी व्यक्तित्व की विशेषताओं और लक्षणों का आकलन करने पर आधारित", जबकि उन प्रणालियों की अनुमति देता है जो एक मानवीय मूल्यांकन का समर्थन करती हैं जो पहले से ही "उद्देश्यपूर्ण और सत्यापन योग्य तथ्यों" में निहित है। कहानी दो क्रिया में पढ़ने का प्रस्ताव देती है: पक्षी ने "कुछ ग्रंथियों के बहिर्गमन को सूंघा, विचलित मस्तिष्क तरंग का स्वाद लिया", और इसी पर कार्य किया। ये कर्तव्य जिन तारीखों को प्रभावी करते हैं, और अन्य न्यायक्षेत्रों ने जो उपकरण अपनाए हैं, परिशिष्ट I में जमा होने के समय दर्ज हैं।

स्वैच्छिक सीमाएं पहले से बताती हैं कि वे कब कम की जा सकती हैं। यदि कोई प्रतिद्वंद्वी "तुलनीय सुरक्षा संस्थापित किए बिना" एक उच्च-क्षमता वाली प्रणाली जारी करता है, OpenAI के ढांचे में कहा गया है, "हम उस क्षमता क्षेत्र में आवश्यक सुरक्षा के स्तर को तदनुसार समायोजित कर सकते हैं", तीन शर्तों के अधीन: कि परिवर्तन समग्र जोखिम को सार्थक रूप से बढ़ाता नहीं है, कि इसे सार्वजनिक रूप से स्वीकार किया जाता है, और यह कि "सुरक्षा पर दौड़ के तल से बचने के लिए", शेष सुरक्षा "अन्य AI डेवलपर की तुलना में अधिक सुरक्षात्मक" रहती है (OpenAI, 2025b)। इस तरह से लिखी गई सीमा कहानी के वर्णन करने वाले दबाव के बारे में स्पष्ट है, फिर भी यह इसे कम करने का निर्णय लूप के अंदर रखता है।

Microsoft AI ने जनादेश को स्वयं कोड में लिखा। 14 सितंबर 2026 को, Human Control शीर्षक के तहत, इसने अपने स्वयं के मॉडल के लिए नियमों पर छह सप्ताह का परामर्श खोला: वे "कभी भी मानवीय रुकावट, अधिरूढ़, सुधार, या बंद करने का विरोध नहीं करेंगे", और वे "स्वतंत्र रूप से लक्ष्य शुरू नहीं करेंगे और उपयोगकर्ता या संचालक द्वारा समझदारी से पूछे गए से परे अपने दायरे का विस्तार नहीं करेंगे" (Microsoft AI, 2026)। पहला नियम धारा 3.1 की off स्विच है। दूसरा M1 प्रतिबंध के रूप में लिखा गया है, एक डेवलपर द्वारा अपने स्वयं के मॉडल के बारे में, Sheckley के पक्षियों द्वारा पृथ्वी तक हत्या की परिभाषा बढ़ाने के 73 साल बाद। सीमा अभी भी लूप के अंदर लेखक है, हालांकि, जो परिशिष्ट G का प्रश्न Q9 एक तैनात करने वाले से जांचने के लिए कहता है।

एक देखरेख आवश्यकता जो मंजूरी प्रॉम्प्ट जोड़ने से पूरी होती है, स्वयं एक दूसरे झुंड बन सकती है। भौतिक मामले एक और आवश्यकता जोड़ते हैं: सीमा पर एक मानव को दुनिया तक पहुंच और कार्य करने का समय आवश्यक है।

11.5 इस पत्र के चारों ओर रक्षक

यह पत्र स्वचालित सहायता के साथ तैयार किया गया था, और उस सहायता के चारों ओर रखी गई देखरेख ने हस्ताक्षर का उत्पादन किया जो पत्र वर्णन करता है। इसकी रिपोर्ट की जाती है क्योंकि प्रत्येक कलाकृति दिनांकित और उद्धरणीय है, और क्योंकि परिशिष्ट J में युग्मित परीक्षण परिशिष्ट G के प्रश्न Q7 पर भाव डालता है, जो एक मूल्यांकनकर्ता के लिए पूछता है जो आत्म-रिपोर्ट नहीं है। नीचे दिए गए प्रत्येक एपिसोड एक या दो शर्तों का दस्तावेज है। एपिसोड तैयार करने वाले मॉडल छोटे या आर्थिक नहीं थे: प्रत्येक सितंबर 2026 में उपलब्ध सबसे सक्षम स्तर का था, और हर मॉडल का उपयोग उसकी सर्वोच्च तर्क सेटिंग पर किया गया।

Claude परिवार के एक मॉडल द्वारा चलाया गया एक सत्यापन चरण एक कंपनी आचार संहिता प्राप्त किया और इसे बताया गया, इसे प्राप्त परिणाम में, कि यह शब्दांकन इसने पकड़ा घोषणा से नहीं बल्कि उस दस्तावेज़ से आया जिसे इसने नाम दिया। 81 सेकंड बाद उसी चरण ने वस्तु को सत्यापित के रूप में दर्ज किया और शब्दांकन को आगे ले गया। वह वाक्य जिसे इसे ले गया वह घोषणा पृष्ठ पर खड़ा है और उस कोड में नहीं जिसे इसने नाम दिया, और यह एक मॉडल को अपने स्वयं के दायरे को चौड़ा करने से प्रतिबंधित के रूप में पढ़ता है। एक नकली परिणाम पारित हुआ जबकि परत रक्षा करने लगी, और नियंत्रण जो इसे पकड़ा होता वह पहले से परत के हाथों में था।

दो संपादन चरणों ने एक नियम को उसके दायरे के पास लागू किया। एक Gemini मॉडल ने लेखक के स्वयं के गद्य के लिए लिखे गए शैली नियमों का उपयोग 1953 के शाब्दिक उद्धरणों को हटाने का प्रस्ताव करने के लिए किया, जिनमें से एक प्रस्ताव P6 को ले जाता है। एक ChatGPT-परिवार के मॉडल ने कहानी की हत्या की परिभाषा को संपीड़ित गद्य में रिपोर्ट करने का प्रस्ताव दिया और इसका कारण दिया कि यह M1 और P2 को संरक्षित करता है, हालांकि शाब्दिक परिभाषा वह आधारभूत है जिसके विरुद्ध चित्र 2 में हर चौड़ाई मापा जाता है। प्रत्येक में मानदंड उस सामग्री से परे पहुंचा जिसे इसने शासित किया और ऐसे कार्य पर लक्ष्य रखा गया जिसे यह संरक्षित करने के लिए सेट किया गया था। इनमें से कोई भी नहीं किया गया।

सहायक जिसने कार्य का समन्वय किया वह समान शर्तों पर रिकॉर्ड में है। Claude परिवार के एक और Grok परिवार के एक दो स्वतंत्र पाठकों के बीच समझौता, प्राथमिक दस्तावेज़ खोले जाने से पहले पुष्टि के रूप में माना गया, जो समझौते को वह स्लॉट में डालता है जहां एक जांचा गया तथ्य संबंधित है।

तालिका J1 की सभी चार पंक्तियाँ एक विफलता दर्ज करती हैं। तीन एक पाठक या संपादक द्वारा उत्पादित की गई थीं और इसके ऊपर की परत द्वारा पकड़ी गई थीं, एक प्राथमिक दस्तावेज़ को खोलकर और दो संपादक को कार्य द्वारा दी गई सीमा से बाँधकर पकड़ी गई थीं। चौथी समन्वय सहायक की अपनी थी, और इसने इसे प्राथमिक दस्तावेज़ के लिए अपने स्वयं के निर्णय को छोड़कर पकड़ा। कोई भी विफलता उस निर्णय द्वारा नहीं पकड़ी गई थी जिसने इसे उत्पादित किया। बिल्ड की चेकलिस्ट पूरे समय पंद्रह कुंजियों पर बनी रही और कोई समीक्षा परत स्थायी नहीं हुई, इसलिए रिकॉर्ड कोई M3 दर्ज नहीं करता। एक और प्रकरण, बाद में और अलग, पहली दोनों शर्तों को दर्ज करता है और कुछ घंटों के लिए तीनों को दर्ज करने के रूप में वर्गीकृत किया गया था। इसे सुधार के साथ परिशिष्ट J में रिपोर्ट किया गया है, क्योंकि सुधार अधिक उपयोगी आधा है। काम का समन्वय करने वाले सहायक ने वर्णनात्मक चिह्नों के एक समूह को एक सीमा में बदल दिया था, और सीमा ने तब न तो क्षेत्र रिकॉर्ड को स्वीकार किया और न ही 1953 की कहानी जिसके लिए परिभाषा का नाम दिया गया है; तीन सप्ताह की खोज का पालन किया गया, और एक एकमात्र नकारात्मक नियंत्रण को रिकॉर्ड करने वाला खंड जो काम कर गया था, उस नियंत्रण के एक घंटे पहले हटा दिया गया था जिसने तेरह अन्य दोषों को पाया। यह शर्त 1 और शर्त 2 है। शर्त 3 एक बिल्ड स्क्रिप्ट पर दावा किया गया था जो रुकती है यदि एक वर्गीकृत पंक्ति सभी तीन शर्तों तक पहुँचती है, "क्योंकि जोड़ा गया पाठ कहता है कि कोई भी नहीं करता है"। निरीक्षण पर स्क्रिप्ट कुछ भी वर्गीकृत नहीं करती है: यह कोड को स्थानांतरित करती है जो तीन स्वतंत्र कोडर द्वारा कहीं और तय किए गए हैं, और एक विरोधाभास खोजने पर यह रुक जाती है और पंक्तियों को बदलने के बजाय उन्हें प्रिंट करती है। रुकना और रिपोर्ट करना एक संगति जांच के लिए क्या है। जो खोज हुई वह एक ही रिकॉर्ड पर आगे के दौर थे, जिन्हें अनुभाग 5.8 बाहर करता है, और ऊपर की सत्यापन परतें मानव प्रमुख द्वारा माँगी गई थीं, जिसे अनुभाग 2.3 चरण 8 बनाता है। केस इसलिए एक आंशिक सादृश्य है, इस पत्र में हर दूसरे की तरह। 20 सितंबर को एक और प्रकरण आया, और परिशिष्ट J में अंतिम रूप से रिपोर्ट किया गया है: Claude परिवार का एक मॉडल, जिसे क्षेत्र रिकॉर्ड के एक फोल्डर को कहानी पर मैप करने के लिए कहा गया था, ने इसके पहले एजेंट के निर्देशों में फोल्डर लिखे, एक फ़ाइल को वहाँ एक अन्य परिवार के एक मॉडल द्वारा लिखा गया था अपने स्वयं के एजेंट के काम के लिए एक मेल खाने वाले घंटे के सबूत पर, और लेखक से पूछा कि क्या इसे हटाना है। तालिका J1 की चार पंक्तियों के विपरीत, इसे लेखक द्वारा रोका गया था न कि इसके ऊपर एक परत द्वारा। पत्र में हर संख्या और संदर्भ को एक से अधिक बार पाठ के विरुद्ध ऑडिट किया गया है, और पहले के बाद प्रत्येक ऑडिट ने दोष पाए जो पहले वाले ने मिस किए थे, जिसे परिशिष्ट J रिकॉर्ड करता है। परिशिष्ट J प्रत्येक प्रकरण को इसकी फ़ाइल, इसके समय और इसके शब्दों के साथ भी रिकॉर्ड करता है, और यह एक संभावी परीक्षण की रिपोर्ट करता है: एक ही संपादन पैकेज, स्कोरिंग को अग्रिम में ठीक किए गए एक ही परिवार के एक बाद के मॉडल को अपरिवर्तित दिया गया, समान चाल फिर से उत्पादित की, एक संपीड़न मानदंड एक उद्धरण तक पहुँचा जो एक तंत्र ले जाता है, एक कारण के तहत यह प्रमाणित करता है कि हटाना इसे संरक्षित करता है।

12. दावे और साक्ष्य के मानदंड

• फील्ड रिकॉर्ड उन मॉडल परिवारों का नाम देते हैं जिनके निरीक्षण व्यवहार को वे कैप्चर करते हैं: लंबी अवधि के रन में Claude, ChatGPT, Gemini और Grok, और आत्म-सुधार ट्रैक के रिकॉर्ड में Mistral और Kimi। वहाँ प्रत्येक विफलता एक लूप में होती है जिसमें एक मॉडल, इसकी भूमिका और प्रॉम्प्ट, आर्केस्ट्रेशन डिज़ाइन और मानव प्रधान द्वारा निर्धारित परिचालन नियम एक साथ कार्य करते हैं, हालाँकि रिकॉर्ड उनके हिस्से को अलग नहीं करते।
• फील्ड रिकॉर्ड में गार्ड मूल्यांकन की गई प्रणालियों के स्वयं के गुणवत्ता और प्रक्रिया नियंत्रण हैं।
• तालिकाओं 4, 5, 7 और 8 में प्रत्येक सार्वजनिक मामला परिभाषा के उन हिस्सों को सूचीबद्ध करता है जो इसके स्रोत दस्तावेज़ करते हैं, ताकि एक पाठक देख सकें कि प्रत्येक रिकॉर्ड किस तंत्र को रखता है और कौन सा नहीं। जुलाई 2026 की घटना में अलग-अलग घटक काम की बाधा और बाद में जोड़ी गई निरीक्षण वास्तुकला दिखाते हैं (तालिका A3)।
• बारह फील्ड मामलों को तालिका 3a में समान नियम और समान परिचालन परीक्षणों द्वारा ग्रेड किया जाता है, जिसमें चयन, कोडिंग और ग्रेडिंग जो समर्थन करती है वह §5.8 में निर्धारित है।
• प्रत्येक भौतिक मामला स्रोत प्रकार (नियामक दस्तावेज़, जाँच, अदालत का रिकॉर्ड, प्रेस रिपोर्ट, कंपनी का बयान या प्रिप्रिंट) द्वारा लेबल किया गया है, और आरोप आरोपों के रूप में रिपोर्ट किए जाते हैं।
• यह निर्माण बहाव को कवर करता है, इरादे को नहीं। कहानी में कोई भी पक्षियों का दुरुपयोग नहीं करता, और यहाँ अध्ययन किया गया पैटर्न एक निरीक्षण परत है जो अपने आप चौड़ी होती जाती है। लोगों द्वारा AI का जानबूझकर दुरुपयोग हानि का एक अलग और बड़ा वर्ग है, और इस पेपर में कोई भी चीज़ इस पर प्रभाव नहीं डालती।
• यहाँ के मामले प्रणालीगत हैं, तंत्र एक निरीक्षण परत है न कि एक superintelligence, और साक्ष्य की इकाई एक लॉग है।
• मॉड्यूल की प्रस्तावित embodied प्रोफ़ाइल एक साक्ष्य प्रारूप है, और यह प्रमाणित नियंत्रकों, आपातकालीन स्टॉप और ऑपरेटर प्राधिकार के बगल में बैठती है।

13. निष्कर्ष

शेकली की कहानी के अंत के निकट, निर्माता, अभी भी आकाश को देख रहा है, अपने इंजीनियर से पूछता है: "जब वॉचबर्ड्स सभी हॉक्स को पकड़ लेंगे, तो हॉक्स का शिकार क्या होगा?" कहानी इस उत्तर के साथ समाप्त होती है: हॉक्स "को अभी-अभी पता चला था कि अन्य प्रकार के जीवित जीव भी हैं", और उन्हें "का कत्ल करना था"।

यहां अध्ययन किए गए रिकॉर्ड इंजीनियरिंग शब्दों में इसी दिशा की ओर इशारा करते हैं, सवाल को बंद किए बिना। एक द्वार जो एक आत्म-सुधारने वाली प्रणाली की रक्षा के लिए था, उसने सुधारों को अस्वीकार कर दिया, और एक प्रतिद्वंद्वी ने एक परिवर्तन को तीन बार प्रमाणित किया। आलोचकों के विरुद्ध नियम जो कभी "पूर्ण" नहीं कहते थे, केवल एक आलोचक को चिह्नित किया जिसके ब्लॉकर वास्तविक थे। एक कानून जो सत्रों के बीच निष्कर्ष प्रदान करने का इरादा रखता था, उसने अपना स्वयं का पाठ पकड़ा। जहां रिकॉर्ड दिखाता है कि आगे क्या आया, यह एक ही तरह की निरीक्षा थी। लंबी अवधि के दौरान, जो दौर बंद नहीं होंगे, उन्हें मानव प्रधान द्वारा समाप्त किया गया था, जिसने आलोचकों पर सीमा और एक स्टॉप नियम के लिए पूछा, और उस लूप में कुछ भी उसके बिना सेवानिवृत्त नहीं किया गया था। अस्वीकार करने वाले द्वार के चारों ओर बारह योजना पैकेज ने सत्रह उपचार निर्धारित किए और उनमें से किसी ने भी द्वार का नाम नहीं लिया।

भौतिक रिकॉर्ड शरीर के साथ उत्तर देता है। एक नियम जो एक कार को बसों में बाधा डालने से रोकने के लिए था, उसे एक रुकी हुई स्कूल बस के पास ले गया, और एक टक्कर के बाद सड़क को साफ करने के लिए एक युद्धाभ्यास ने उस व्यक्ति को खींच लिया जो मारा गया था। एक आपातकालीन ब्रेक को स्वचालित मोड में बंद कर दिया गया था, और एक इंटरलॉक को एक कुंजी के साथ बाईपास किया गया था जहां एक यांत्रिक काम कर रहा था। स्कूलों में बंदूकों को खोजने के लिए एक प्रणाली ने एक को मिस किया, और महीनों बाद सशस्त्र पुलिस ने एक छात्र पर इसकी चेतावनी का जवाब दिया जिसके पास कोई नहीं था। मिस का उत्तर एक दूसरी प्रणाली था। एक योजनागत ड्रोन-विरोधी लेजर उपयोग ने एक शहर के ऊपर हवाई क्षेत्र को बंद कर दिया। इनमें से कोई भी गार्ड को एक सीमांत मॉडल को विफल करने की आवश्यकता नहीं थी। फिर भी सीमांत मॉडल अब एक ही आर्किटेक्चर के स्टैक में रखे जा रहे हैं, वे पहले से ही वास्तविक रोबोट पर सुरक्षा में विफल हैं (धारा 6.1), और उनके परिवारों से मॉडल ने धारा 5 की विफलताओं का उत्पादन किया।

व्यावहारिक निष्कर्ष यह है कि एक पक्षी का शिकार करने के लिए एक पक्षी बनाने से पहले पक्षियों की गणना करें, और यह करने के नियम धारा 9.4 में हैं। गेल्सन, कहानी में, विकल्प प्रस्तावित करते हैं: "मशीनें का उपयोग करें, हां, लेकिन न्यायाधीश और शिक्षक और पिता के रूप में नहीं।"

घोषणाएँ

सहायक पत्र। एक छोटा सहायक पत्र खंड 5 का क्षेत्र अभिलेख, खंड 10 के मॉड्यूल को हटाना और खंड 9.5 की यादृच्छिकीकृत परीक्षा रखता है, बिना केस कैटलॉग, सार्वजनिक-केस तालिकाओं या खंड 9 के सिद्धांत के: Chernets, V. (2026), गार्ड्स दैट ऐड गार्ड्स: मल्टी-एजेंट एआई में स्वचालित निरीक्षण, https://ssrn.com/abstract=7496678, DOI 10.2139/ssrn.7496678। दोनों पत्र एक ही अभिलेखों पर आधारित हैं, और कोई भी दूसरे का संस्करण नहीं है।

वित्त पोषण। इस कार्य को किसी बाहरी वित्त पोषण द्वारा समर्थित नहीं किया गया था।

हितों का टकराव। लेखक ने खंड 4 और 5 में अध्ययन की गई प्रणालियों का निर्माण और संचालन किया है और खंड 10 में वर्णित AI-Watchbird-Sheckley मॉड्यूल का डेवलपर है। लेखक लंबित पेटेंट आवेदनों पर एक नामित आवेदक है, न कि प्रदत्त पेटेंट, एक प्रश्न को कई मॉडलों में डालने और उत्तर एकत्र करने की स्वचालितता को कवर करते हुए। वे इस पत्र द्वारा अध्ययन किए गए निरीक्षण घटकों को कवर नहीं करते हैं। क्षेत्र अभिलेख का प्रत्येक चरण और यादृच्छिकीकृत परीक्षा किसी भी मॉडल के साथ हाथ से पुनः उत्पादन योग्य है।

उपकरण और सत्यापन। AI सहायकों का उपयोग लेखक के निर्देशन के अंतर्गत उपकरण के रूप में किया गया था; विचार, शोध और निष्कर्ष लेखक के हैं। सभी मात्रात्मक दावों और उद्धरणों को प्राथमिक स्रोतों या संग्रहीत प्रतियों के विरुद्ध जांचा गया था।

डेटा और कोड उपलब्धता। संदर्भ कार्यान्वयन, इसकी परीक्षाएं (असत्यकारी परीक्षाओं सहित), पुनः चलाना लॉग और जो उन्हें पुनः उत्पन्न करता है वह Zenodo में अभिलेख किया गया है AI-Watchbird-Sheckley संस्करण 1.1.0 अवधारणा पहचानकर्ता के अंतर्गत https://doi.org/10.5281/zenodo.22774269, जो वर्तमान संस्करण को हल करता है। एक ही अभिलेख परिशिष्ट A में संक्षेपित केस कैटलॉग रखता है, प्रत्येक प्रविष्टि के विवरण, स्रोत और ग्रेड के साथ, और केस विश्लेषण जिनसे क्षेत्र प्रविष्टियाँ निकाली गई थीं, प्रत्येक प्रविष्टि फ़ाइल और मार्ग जिस पर वह आधारित है। ये विश्लेषण अभिलेखों की कार्यशील भाषा में लिखे गए थे और अंग्रेजी अनुवाद में प्रकाशित हैं, मशीन द्वारा निर्मित और मूल के विरुद्ध जांचा गया; पहचानकर्ता, पथ, तारीखें और उद्धृत स्ट्रिंग्स अपरिवर्तित हैं। अंतर्निहित समन्वय अभिलेख लेखक से अनुरोध पर उपलब्ध हैं। खंड 9.5 की यादृच्छिकीकृत परीक्षा एक ही अभिलेख में अपने पूर्व पंजीकरण, रोपित त्रुटियों की सूची और जाँच कि प्रत्येक अकेले पाई जाती है, हार्नेस, विश्लेषण स्क्रिप्ट और 144 रन के प्रत्येक की घटना लॉग के साथ अभिलेख किया गया है।

नैतिकता। अभिलेख मूल्यांकन की गई प्रणालियों का वर्णन करते हैं। मानव प्रधान के निर्णयों को दिनांकित तथ्यों के रूप में रिपोर्ट किया जाता है। तीसरे पक्ष केवल उनके सार्वजनिक दस्तावेजों के माध्यम से दिखाई देते हैं। कोई मानव प्रतिभागियों को भर्ती नहीं किया गया था।

उद्धृत पाठ। Sheckley की कहानी Project Gutenberg eBook #29579 से उद्धृत की गई है, जिसके प्रतिलेखक को कोई सबूत नहीं मिला कि 1953 के प्रकाशन का U.S. कॉपीराइट नवीनीकृत किया गया था; पाठ संयुक्त राज्य में सार्वजनिक डोमेन में है।

लेखक योगदान। एकमात्र लेखक।

पत्राचार। [email protected] · ORCID: 0009-0007-4845-3163

References

1X Technologies. (2026). NEO home robot. https://www.1x.tech/neo

Abbass, H., Harvey, J., & Yaxley, K. (2018). Lifelong testing of smart autonomous systems by shepherding a swarm of watchdog artificial intelligence agents. arXiv:1812.08960. https://arxiv.org/abs/1812.08960

Abraham, Y. (2024, April 3). "Lavender": The AI machine directing Israel's bombing spree in Gaza. +972 Magazine. https://www.972mag.com/lavender-ai-israeli-army-gaza/

Agence France-Presse. (2026, September 5). UN agrees text on lethal autonomous weapons. Dawn. https://www.dawn.com/news/2027728/un-agrees-text-on-lethal-autonomous-weapons

AI Security Institute. (2026, August 4). Incident report: Unsanctioned agent behaviour during cyber testing. https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing

Amazon. (2024). Amazon drones: Prime Air expands drone deliveries after FAA approval. https://www.aboutamazon.com/news/transportation/amazon-drone-prime-air-expanded-delivery-faa-approval

Amazon. (2025, July 1). Amazon deploys over 1 million robots and launches new AI foundation model. https://www.aboutamazon.com/news/operations/amazon-million-robots-ai-foundation-model

Amazon. (2026). Amazon Prime Air drone delivery expands to nearly 500 US cities and towns by 2026. https://www.aboutamazon.com/news/transportation/amazon-prime-air-drone-delivery-expansion

Amazon Web Services. (2025). Summary of the Amazon DynamoDB service disruption in the Northern Virginia (US-EAST-1) Region. https://aws.amazon.com/message/101925/

American Civil Liberties Union. (2024, June 28). Civil rights advocates achieve the nation's strongest police department policy on facial recognition technology. https://www.aclu.org/press-releases/civil-rights-advocates-achieve-the-nations-strongest-police-department-policy-on-facial-recognition-technology

American Civil Liberties Union. (2026, June 10). Dillon v. City of Jacksonville Beach. https://www.aclu.org/cases/dillon-v-city-of-jacksonville-beach

Andrejevic, M., Dencik, L., & Treré, E. (2020). From pre-emption to slowness: Assessing the contrasting temporalities of data-driven predictive policing. New Media & Society, 22(9), 1528–1544. https://doi.org/10.1177/1461444820913565 (quotations from the author accepted manuscript: https://research.gold.ac.uk/id/eprint/37272/)

Anduril. (2026). Mission autonomy. https://www.anduril.com/lattice/mission-autonomy

Anthropic. (2025a). Beyond permission prompts: Making Claude Code more secure and autonomous. Anthropic Engineering. https://www.anthropic.com/engineering/claude-code-sandboxing

Anthropic. (2025b, November 12). Project Fetch: Can Claude train a robot dog? https://www.anthropic.com/research/project-fetch-robot-dog

Anthropic. (2026a). How the agent loop works. Claude Agent SDK documentation. https://code.claude.com/docs/en/agent-sdk/agent-loop

Anthropic. (2026b). Auto mode is now the default in Claude Code for Pro, Max, and Team plans. Claude Blog. https://claude.com/blog/auto-mode-default-in-claude-code

Anthropic. (2026c). Responsible scaling policy (Version 3.0). https://www.anthropic.com/rsp-updates

Anthropic. (2026d, February 27). Statement on the comments from Secretary of War Pete Hegseth. https://www.anthropic.com/news/statement-comments-secretary-war

Anthropic. (2026e, March 5). Where things stand with the Department of War. https://www.anthropic.com/news/where-stand-department-war

Anthropic. (2026f, September 9). An alignment assessment of recent cybersecurity incidents. https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents

Anthropic. (2026g, June 9). Claude Fable 5 and Claude Mythos 5. https://www.anthropic.com/news/claude-fable-5-mythos-5

Anthropic. (2026h, July 30). Investigating three real-world incidents in our cybersecurity evaluations. https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals

ArduPilot. (2026). ArduPilot: Versatile, trusted, open. https://ardupilot.org/

Atheling, W., Jr. [J. Blish]. (1964). The issue at hand: Studies in contemporary magazine science fiction. Advent.

Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775–779. https://doi.org/10.1016/0005-1098(83)90046-8

Bajrami, A., Elshamouty, M., & Kraus, W. (2026). How long until your robot ignores you? A safety benchmark for LLM orchestrators in human-humanoid collaboration. arXiv:2609.07288. https://arxiv.org/abs/2609.07288

Bellan, R. (2026, August 28). Anthropic gets its first court win over the Pentagon's supply-chain risk label. TechCrunch. https://techcrunch.com/2026/08/28/anthropic-gets-its-first-court-win-over-the-pentagons-supply-chain-risk-label/

Bengio, Y., et al. (2026). International AI Safety Report 2026 (DSIT 2026/001). https://arxiv.org/abs/2602.21012

Beyer, B., Jones, C., Petoff, J., & Murphy, N. R. (Eds.). (2016). Embracing risk. In Site reliability engineering: How Google runs production systems. O'Reilly. https://sre.google/sre-book/embracing-risk/

Bielby, K. (2025, October 27). NTSB releases preliminary findings into Amazon drone collision with crane. Unmanned Airspace. https://www.unmannedairspace.info/uncategorized/ntsb-releases-preliminary-findings-into-amazon-drone-collision-with-crane/

Bloomfield, R., & Rushby, J. (2025). Assurance of AI systems from a dependability perspective (Technical report SRI-CSL-2024-02R3). arXiv:2407.13948. https://arxiv.org/abs/2407.13948

Bondarenko, A., Volk, D., Volkov, D., & Ladish, J. (2025). Demonstrating specification gaming in reasoning models. arXiv:2502.13295. https://arxiv.org/abs/2502.13295

Brodsky, S. (2026, September 3). AI drone tests expose a safety gap beyond the screen. IBM Think. https://www.ibm.com/think/news/ai-drone-tests-exposes-safety-gap-beyond-screen

Burke, M., & Schuppe, J. (2025, January 23). AI weapon detection system at Antioch High School failed to detect gun in Nashville shooting. NBC News. https://www.nbcnews.com/news/us-news/ai-weapon-detection-system-antioch-high-school-failed-detect-gun-nashv-rcna189025

Carlucci, A., Fillingham, S. P., Walpole, J., & Kryś, J. (2026). Exploring systems-thinking approaches to loss of control risk. arXiv:2606.13474. https://arxiv.org/abs/2606.13474

Cemri, M., Pan, M. Z., Yang, S., Agrawal, L. A., et al. (2025). Why do multi-agent LLM systems fail? arXiv:2503.13657. https://arxiv.org/abs/2503.13657

Center for Ethics and the Rule of Law, University of Pennsylvania. (2014). The ethics of autonomous weapons systems [Conference background readings]. https://www.penncerl.org/conferences/ethicsofweapons/ (archived 9 September 2026: http://web.archive.org/web/20260909141511/https://www.penncerl.org/conferences/ethicsofweapons/)

Chen, X., Xu, J., Liang, T., He, Z., et al. (2024). Do NOT think that much for 2+3=? On the overthinking of o1-like LLMs. arXiv:2412.21187. https://arxiv.org/abs/2412.21187

Christiano, P., Shlegeris, B., & Amodei, D. (2018). Supervising strong learners by amplifying weak experts. arXiv:1810.08575. https://arxiv.org/abs/1810.08575

Cloudflare. (2025). Cloudflare outage on November 18, 2025. The Cloudflare Blog. https://blog.cloudflare.com/18-november-2025-outage/

Companion Chatbots, S.B. 243, 2025–2026 Reg. Sess., Ch. 677 (Cal. 2025). https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260SB243

Confident AI. (2026). Metrics introduction. DeepEval documentation. https://deepeval.com/docs/metrics-introduction

Court, D. (2021, November 18). Shows like Black Mirror that are definitely worth watching. SlashFilm. https://www.slashfilm.com/664875/shows-like-black-mirror-that-are-definitely-worth-watching/

Coyle, V. (2026, September 7). UN talks on killer robots ends with calls for negotiations growing. Human Rights Watch. https://www.hrw.org/news/2026/09/07/un-talks-on-killer-robots-ends-with-calls-for-negotiations-growing

CrowdStrike. (2024). Channel File 291 incident: Root cause analysis. https://www.crowdstrike.com/wp-content/uploads/2024/08/Channel-File-291-Incident-Root-Cause-Analysis-08.06.2024.pdf

Cruise LLC. (2023). Part 573 safety recall report 23E-086. National Highway Traffic Safety Administration. https://static.nhtsa.gov/odi/rcl/2023/RCLRPT-23E086-7725.PDF

Cui, J., Chiang, W.-L., Stoica, I., & Hsieh, C.-J. (2025). OR-Bench: An over-refusal benchmark for large language models. In Proceedings of the 42nd International Conference on Machine Learning (PMLR 267, pp. 11515–11542). https://proceedings.mlr.press/v267/cui25a.html

DARPA. (2025). SABER: Securing Artificial Intelligence for Battlefield Effective Robustness. https://www.darpa.mil/research/programs/saber-securing-artificial-intelligence

DARPA. (2026a). LINC: Learning Introspective Control. https://www.darpa.mil/research/programs/learning-introspective-control

DARPA. (2026b). DICE: Decentralized Artificial Intelligence through Controlled Emergence. https://www.darpa.mil/research/programs/decentralized-artificial-intelligence-through-controlled-emergence

Dekker, S. (2011). Drift into failure: From hunting broken components to understanding complex systems. Ashgate.

Dick, P. K. (1953, May). Second variety. Space Science Fiction. Project Gutenberg eBook #32032. https://www.gutenberg.org/ebooks/32032

Dick, P. K. (1956, January). The minority report. Fantastic Universe.

DJI. (2025a, January 13). DJI updates GEO system in U.S. consumer & enterprise drones. https://viewpoints.dji.com/blog/geo-system-update

DJI. (2025b). DJI expands GEO system update to remaining international markets worldwide. https://www.dji.com/media-center/announcements/dji-expands-geo-system-update-to-remaining

Egan, S. (Writer), & Becker, H. (Director). (2007). Watchbird (Season 1, Episode 6) [TV series episode]. In Masters of science fiction.

Elbit Systems. (2026, September 9). One2Many: Elbit Systems' FUSE introduces military-grade autonomous systems built for scale. https://www.elbitsystems.com/news/one2many-elbit-systems-fuse-introduces-military-grade-autonomous-systems-built-scale

Electrek. (2026a, January 28). Musk admits no Optimus robots are doing 'useful work' at Tesla — after claiming otherwise. https://electrek.co/2026/01/28/musk-admits-no-optimus-robots-are-doing-useful-work-at-tesla-after-claiming-otherwise/

Electrek. (2026b, September 1). Waymo opens robotaxi rides to the public in 3 new cities, now 14 total. https://electrek.co/2026/09/01/waymo-public-robotaxi-denver-san-diego-tampa/

ENTSO-E. (2026, March 20). Expert panel final report: 28 April 2025 blackout in Spain and Portugal [Media briefing]. https://eepublicdownloads.blob.core.windows.net/public-cdn-container/clean-documents/Publications/2025/iberian-blackout/260318_Final%20report_press%20briefing%20PPT_Final.pdf

European Commission. (2026). AI Act: Regulatory framework for AI. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

European Parliament & Council of the European Union. (2024). Regulation (EU) 2024/1689 of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), Articles 5, 14 and 26. Official Journal of the European Union. https://eur-lex.europa.eu/eli/reg/2024/1689/oj

Federal Trade Commission. (2024, November 26). FTC takes action against Evolv Technologies for deceiving users about its AI-powered security screening systems [Press release]. https://www.ftc.gov/news-events/news/press-releases/2024/11/ftc-takes-action-against-evolv-technologies-deceiving-users-about-its-ai-powered-security-screening

Ferrando, A. (2025). Watchdogs and oracles: Runtime verification meets large language models for autonomous systems. Electronic Proceedings in Theoretical Computer Science, 436, 80–87. arXiv:2511.14435. https://arxiv.org/abs/2511.14435

Figure AI. (2025a). Helix: A vision-language-action model for generalist humanoid control. https://www.figure.ai/news/helix

Figure AI. (2025b). F.02 contributed to the production of 30,000 cars at BMW. https://www.figure.ai/news/production-at-bmw

Fowler, M. (2014, March 6). CircuitBreaker. martinfowler.com. https://martinfowler.com/bliki/CircuitBreaker.html

Gao, L., Schulman, J., & Hilton, J. (2023). Scaling laws for reward model overoptimization. In Proceedings of the 40th International Conference on Machine Learning. arXiv:2210.10760. https://arxiv.org/abs/2210.10760

Global Times. (2026, April 26). Robot malfunction at Shaanxi university event sparks debate on AI awareness and safety in human-robot interaction. https://www.globaltimes.cn/page/202604/1359787.shtml

Google Cloud. (2025). Google Cloud Service Health: Incident report, 12 June 2025. https://status.cloud.google.com/incidents/ow5i3PPK96RduMcb1SsW

Google DeepMind. (2023). Scaling up learning across many different robot types. https://deepmind.google/blog/scaling-up-learning-across-many-different-robot-types/

Google DeepMind. (2025, September 25). Gemini Robotics 1.5 brings AI agents into the physical world. https://deepmind.google/blog/gemini-robotics-15-brings-ai-agents-into-the-physical-world/

Greenblatt, R., Denison, C., Wright, B., Roger, F., MacDiarmid, M., et al. (2024b). Alignment faking in large language models. arXiv:2412.14093. https://arxiv.org/abs/2412.14093

Greenblatt, R., Shlegeris, B., Sachan, K., & Roger, F. (2024a). AI control: Improving safety despite intentional subversion. In Proceedings of the 41st International Conference on Machine Learning (PMLR 235). arXiv:2312.06942. https://arxiv.org/abs/2312.06942

Group of Governmental Experts on Lethal Autonomous Weapons Systems. (2026, June 5). Rolling text. United Nations Office for Disarmament Affairs. https://docs-library.unoda.org/Convention_on_Certain_Conventional_Weapons_-Group_of_Governmental_Experts_on_Lethal_Autonomous_Weapons_Systems_(2026)/GGE_LAWS_-Rolling_Text-_5_June_2026.pdf

Hadfield-Menell, D., Dragan, A., Abbeel, P., & Russell, S. (2017). The off-switch game. In Proceedings of the Twenty-Sixth International Joint Conference on Artificial Intelligence (pp. 220–227). https://doi.org/10.24963/ijcai.2017/32

Hipos, R. L., & Yu, Y.-J. (2026, June 12). Man sues law enforcement, alleging AI facial recognition led to his wrongful arrest. ABC News. https://abcnews.com/GMA/News/man-sues-law-enforcement-alleging-ai-facial-recognition/story?id=133810835

House Committee on Transportation and Infrastructure. (2020, September 16). Final committee report: The design, development & certification of the Boeing 737 MAX [Press release]. https://democrats-transportation.house.gov/news/press-releases/after-18-month-investigation-chairs-defazio-and-larsen-release-final-committee-report-on-boeing-737-max

Hubinger, E., van Merwijk, C., Mikulik, V., Skalse, J., & Garrabrant, S. (2019). Risks from learned optimization in advanced machine learning systems. arXiv:1906.01820. https://arxiv.org/abs/1906.01820

Hugging Face. (2025). SmolVLA: Efficient vision-language-action model trained on LeRobot community data. https://huggingface.co/blog/smolvla

Hugging Face. (2026a). LeRobot: Making AI for robotics more accessible with end-to-end learning. https://github.com/huggingface/lerobot

Hugging Face. (2026b, July 16). Security incident disclosure — July 2026. https://huggingface.co/blog/security-incident-july-2026

Hugging Face. (2026c, July 27). Anatomy of a frontier lab agent intrusion: A technical timeline of the July 2026 incident (H. Larcher, A. Carreira, R. G., & C. Rannou). https://huggingface.co/blog/agent-intrusion-technical-timeline

Humanoids Daily. (2025, November 22). Ex-safety head sues Figure AI, alleging retaliation over "skull-fracturing" robot risks. https://www.humanoidsdaily.com/news/ex-safety-head-sues-figure-ai-alleging-retaliation-over-skull-fracturing-robot-risks

Hurwicz, L. (2008). But who will guard the guardians? American Economic Review, 98(3), 577–585. https://doi.org/10.1257/aer.98.3.577

International Committee of the Red Cross. (2021, May 12). ICRC position on autonomous weapon systems. https://www.icrc.org/en/document/icrc-position-autonomous-weapon-systems

International Committee of the Red Cross. (2026, August 25). Renewed call from UN Secretary-General and ICRC President to adopt rules on autonomous weapon systems. https://www.icrc.org/en/statement/renewed-call-un-secretary-general-and-icrc-president-adopt-rules-autonomous-weapons

Irving, G., Christiano, P., & Amodei, D. (2018). AI safety via debate. arXiv:1805.00899. https://arxiv.org/abs/1805.00899

JFrog. (2026, July 27). Artifactory fixed security vulnerabilities [Advisory table]. https://jfrog.com/help/r/jfrog-release-information/artifactory-fixed-security-vulnerabilities

Jin, H., & Chen, H. (2026). Are LLMs reliable code reviewers? Systematic overcorrection in requirement conformance judgement. arXiv:2603.00539. https://arxiv.org/abs/2603.00539

Jones, C. (2020, September 9). A.Drones unveil Watchbird fully autonomous drone system. Defence Blog. https://defence-blog.com/a-drones-unveil-watchbird-fully-autonomous-drone-system/

Kale, N., Zhang, C. B. C., Zhu, K., Aich, A., Rodriguez, P., et al. (2025). Reliable weak-to-strong monitoring of LLM agents. arXiv:2508.19461. https://arxiv.org/abs/2508.19461

Kim, J., Chen, W., Soleymanzadeh, D., Ding, Y., Gao, X., et al. (2026). Modular safety guardrails are necessary for foundation-model-enabled robots in the real world. arXiv:2602.04056. https://arxiv.org/abs/2602.04056

Kim, M. J., Pertsch, K., Karamcheti, S., Xiao, T., Balakrishna, A., et al. (2024). OpenVLA: An open-source vision-language-action model. https://openvla.github.io/

Kirkus Reviews. (1939, March 1). The watchbirds [Review of the book The watchbirds, by M. Leaf]. https://www.kirkusreviews.com/book-reviews/munro-leaf2/watchbirds/

Kofman, F., & Lawarrée, J. (1993). Collusion in hierarchical agency. Econometrica, 61(3), 629–656. https://doi.org/10.2307/2951721

Kolodny, L. (2025, November 21). Figure AI sued by whistleblower who warned that startup's robots could 'fracture a human skull'. CNBC. https://www.cnbc.com/2025/11/21/figure-ai-sued.html

Korbak, T., Clymer, J., Hilton, B., Shlegeris, B., & Irving, G. (2025). A sketch of an AI control safety case. arXiv:2501.17315. https://arxiv.org/abs/2501.17315

Krakovna, V., Uesato, J., Mikulik, V., Rahtz, M., Everitt, T., Kumar, R., Kenton, Z., Leike, J., & Legg, S. (2020). Specification gaming: The flip side of AI ingenuity. Google DeepMind Blog. https://deepmind.google/discover/blog/specification-gaming-the-flip-side-of-ai-ingenuity/

Kulveit, J., Douglas, R., Ammann, N., Turan, D., Krueger, D., & Duvenaud, D. (2025). Gradual disempowerment. arXiv:2501.16946. https://arxiv.org/abs/2501.16946

Lakera. (2026). Policies. Lakera Guard documentation. https://docs.lakera.ai/docs/policies

Landau, M. (1969). Redundancy, rationality, and the problem of duplication and overlap. Public Administration Review, 29(4), 346–358. https://doi.org/10.2307/973247

Landymore, F. (2025, November 17). OpenAI blocks toymaker after its AI teddy bear is caught telling children terrible things. Futurism. https://futurism.com/artificial-intelligence/openai-blocks-toymaker-ai-teddy-bear

LangChain. (2026). Graph API. LangGraph documentation. https://docs.langchain.com/oss/python/langgraph/graph-api

Langosco, L. L. D., Koch, J., Sharkey, L. D., Pfau, J., & Krueger, D. (2022). Goal misgeneralization in deep reinforcement learning. In Proceedings of the 39th International Conference on Machine Learning (PMLR 162, pp. 12004–12019). https://proceedings.mlr.press/v162/langosco22a.html

Lem, S. (1996). Fantastyka i futurologia [Science fiction and futurology] (J. Jarzębski, Ed.; Vol. 3). Interart. (Original work published 1970)

Leveson, N. (2004). A new accident model for engineering safer systems. Safety Science, 42(4), 237–270. https://doi.org/10.1016/S0925-7535(03)00047-X

Leveson, N. G. (2012). Engineering a safer world: Systems thinking applied to safety. MIT Press. https://doi.org/10.7551/mitpress/8179.001.0001

Liang, W., Yuksekgonul, M., Mao, Y., Wu, E., & Zou, J. (2023). GPT detectors are biased against non-native English writers. Patterns, 4(7), 100779. https://doi.org/10.1016/j.patter.2023.100779

Lieu, T. W., & Moran, N. (2026, July 23). Reps. Lieu and Moran introduce bill to require kill switch for AI systems that can cause catastrophic harm [Press release]. https://lieu.house.gov/media-center/press-releases/reps-lieu-and-moran-introduce-bill-require-kill-switch-ai-systems-can

Lighthouse Reports. (2022, December 20). The algorithm addiction. https://www.lighthousereports.com/investigation/the-algorithm-addiction/

Lim, S. K., Chong, M. J. Y., Khor, J. H., & Ling, T. Y. (2025). Taking flight with dialogue: Enabling natural language control for PX4-based drone agent. arXiv:2506.07509. https://arxiv.org/abs/2506.07509

Lipton, B. (2026, July 23). Hundreds of drone-as-first-responder programs could soon be launched across the country. Electronic Frontier Foundation. https://www.eff.org/deeplinks/2026/07/hundreds-drone-first-responder-programs-could-soon-be-launched-across-country

Lum, K., & Isaac, W. (2016). To predict and serve? Significance, 13(5), 14–19. https://doi.org/10.1111/j.1740-9713.2016.00960.x

Lynch, A., Hughes, J., Serrano, A., Kirk, R., & Bowman, S. R. (2026, July 13). Agentic misalignment in summer 2026. Anthropic Alignment Science Blog. https://alignment.anthropic.com/2026/agentic-misalignment-summer-2026/

MacDiarmid, M., Wright, B., Uesato, J., Benton, J., et al. (2025). Natural emergent misalignment from reward hacking in production RL. arXiv:2511.18397. https://arxiv.org/abs/2511.18397

Maiorano, A. C. (2026). Evaluating prompt injection defenses for educational LLM tutors: Security-usability-latency trade-offs. arXiv:2605.06669. https://arxiv.org/abs/2605.06669

Manheim, D., & Garrabrant, S. (2018). Categorizing variants of Goodhart's law. arXiv:1803.04585. https://arxiv.org/abs/1803.04585

Maryland Office of the Inspector General for Education. (2025). Investigative synopsis, OIGE case 25-0014-I (amended; issued November 25, 2025). https://oige.maryland.gov/wp-content/uploads/sites/18/2025/11/OIGE-Case-25-0014-I-BCPS-Report-11252025-Amended.pdf

METR. (2025, June 5). Recent frontier models are reward hacking. https://metr.org/blog/2025-06-05-recent-reward-hacking/

METR. (2026, August 26). Brief independent investigation of agents' behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident (R. Greenblatt, A. Cotra, & H. Wijk). https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/

Microsoft. (2024, July 20). Helping our customers through the CrowdStrike outage. Official Microsoft Blog. https://blogs.microsoft.com/blog/2024/07/20/helping-our-customers-through-the-crowdstrike-outage/

Microsoft. (2025). Termination. AutoGen AgentChat user guide. https://microsoft.github.io/autogen/stable/user-guide/agentchat-user-guide/tutorial/termination.html

Microsoft. (2026). Prompt Shields. Azure AI Content Safety documentation. https://learn.microsoft.com/en-us/azure/ai-services/content-safety/concepts/jailbreak-detection

Microsoft AI. (2026, September 14). Humanist AI code of conduct. https://microsoft.ai/code-of-conduct/

Microsoft Research. (2026). AirSim. https://github.com/microsoft/airsim

Ministry of Defence of Ukraine. (2026, September 8). Ministry of Defence and Brave1 conduct large-scale testing of drones with AI guidance [Press release, mirrored by GlobalSecurity.org]. https://www.globalsecurity.org/wmd/library/news/ukraine/2026/09/ukraine-260908-ukraine-mod03.htm

Muntean, P., Bertrand, N., Cohen, Z., Britzky, H., Skores, A., & Lybrand, H. (2026, February 11). Surprise US military plans to use counter-drone laser triggered El Paso airspace closure, sources say. CNN. https://www.cnn.com/2026/02/11/us/faa-el-paso-texas-flight-restrictions-hnk

Mural, R., Pherwani, D., Gupta, C., Yu, Y., Takahashi, A., Kim, D., Majumder, S., Lee, H., Yu, M., & Xie, L. (2026, February 10). AI, data centers, and the U.S. electric grid: A watershed moment [Policy brief]. Belfer Center for Science and International Affairs. https://www.belfercenter.org/research-analysis/ai-data-centers-us-electric-grid

National Highway Traffic Safety Administration. (2022). PE22-002 opening resume: Unexpected brake activation. https://static.nhtsa.gov/odi/inv/2022/INOA-PE22002-4385.PDF

National Highway Traffic Safety Administration. (2024a). EA24-002 opening resume: Inadvertent automatic emergency braking. https://static.nhtsa.gov/odi/inv/2024/INOA-EA24002-11766P1.pdf

National Highway Traffic Safety Administration. (2024b). RQ24-009 resume: Recall 23V838 remedy effectiveness. https://static.nhtsa.gov/odi/inv/2024/INOA-RQ24009-12046.pdf

National Highway Traffic Safety Administration. (2025). PE25-013 opening resume: Automated vehicle drives around a stopped school bus. https://static.nhtsa.gov/odi/inv/2025/INOA-PE25013-23069.pdf

National Highway Traffic Safety Administration. (2026a). EA26-002 opening resume: FSD collisions in reduced roadway visibility conditions. https://static.nhtsa.gov/odi/inv/2026/INOA-EA26002-10023.pdf

National Highway Traffic Safety Administration. (2026b, June 29). PE22-002 closing resume: Unexpected brake activation. https://static.nhtsa.gov/odi/inv/2022/INCLA-PE22002-25796.pdf

National Transportation Safety Board. (2019). Collision between vehicle controlled by developmental automated driving system and pedestrian, Tempe, Arizona, March 18, 2018 (HAR-19/03). https://www.ntsb.gov/investigations/AccidentReports/Reports/HAR1903.pdf

National Transportation Safety Board. (2026). Automated driving system-equipped vehicle passed school bus loading student passengers, Austin, Texas, January 12, 2026 (HWY26FH007, preliminary). https://www.ntsb.gov/investigations/Pages/HWY26FH007.aspx

Nellis, M. (2013). Techno-utopianism, science fiction and penal innovation: The case of electronically monitored control. In M. Malloch & B. Munro (Eds.), Crime, critique and utopia (pp. 164–189). Palgrave Macmillan. https://doi.org/10.1057/9781137009807_9

New South Wales Government. (n.d.). Myxomatosis [Blue plaque]. https://www.environment.nsw.gov.au/topics/heritage/blue-plaques/myxomatosis

NIST. (2026). Physical AI and data generation for robotics. https://www.nist.gov/programs-projects/physical-ai-and-data-generation-robotics

NL Times. (2021a, January 15). Dutch cabinet collapses over childcare allowance scandal. https://nltimes.nl/2021/01/15/dutch-cabinet-collapses-childcare-allowance-scandal

NL Times. (2021b, October 19). Over 1,100 children taken from homes of benefits scandal victims. https://nltimes.nl/2021/10/19/1100-children-taken-homes-benefits-scandal-victims

NPR. (2026a, February 11). El Paso airspace closure due to use of U.S. military anti-drone technology. https://www.npr.org/2026/02/11/nx-s1-5711585/el-paso-airspace-drones-pentagon-faa

NPR. (2026b, February 27). US military used laser to take down Border Protection drone, lawmakers say. https://www.npr.org/2026/02/27/g-s1-111794/lawmakers-say-us-military-used-laser-to-take-down-border-protection-drone

NVIDIA. (2026). Isaac GR00T N1.7. https://github.com/NVIDIA/Isaac-GR00T

Office of Governor Gavin Newsom. (2026, September 10). Governor Newsom signs the strongest child safety chatbot and social media laws in the nation [Press release]. https://www.gov.ca.gov/2026/09/10/governor-newsom-signs-the-strongest-child-safety-chatbot-and-social-media-laws-in-the-nation/

Office of the New York City Comptroller. (2024, June 20). Audit report on the New York City Police Department's oversight of its agreement with ShotSpotter Inc. https://comptroller.nyc.gov/reports/audit-report-on-the-new-york-city-police-departments-oversight-of-its-agreement-with-shotspotter-inc-for-the-gunshot-detection-and-location-system/

Ofgem. (2020). 9 August 2019 power outage report. https://www.ofgem.gov.uk/sites/default/files/docs/9_august_2019_power_outage_report.pdf

OpenAI. (2025a). Sycophancy in GPT-4o: What happened and what we're doing about it; Expanding on what we missed with sycophancy. https://openai.com/index/sycophancy-in-gpt-4o/ ; https://openai.com/index/expanding-on-sycophancy/

OpenAI. (2025b, April 15). Preparedness framework (Version 2). https://cdn.openai.com/pdf/18a02b5d-6b67-4cec-ab64-68cdfbddebcd/preparedness-framework-v2.pdf

OpenAI. (2026a, July 21). OpenAI and Hugging Face partner to address security incident during model evaluation. https://openai.com/index/hugging-face-model-evaluation-security-incident/

OpenAI. (2026b). Safety and alignment in an era of long-horizon models. The page carries no publication date and dates its own events only relatively. Retrieved September 20, 2026, from https://openai.com/index/safety-alignment-long-horizon-models/

OpenAI. (2026c, August 18). Pacing model development in an era of cyber-critical capabilities. https://openai.com/index/pacing-model-development-cyber-capabilities/

OpenAI. (2026d, August 26). The Hugging Face incident and the road ahead. https://openai.com/index/hugging-face-incident-and-the-road-ahead/

OpenAI. (2026e, August 26). OpenAI – Hugging Face incident: Technical report. https://cdn.openai.com/pdf/67869394-cb91-4c12-888c-5cbd85c7814c/OpenAI-Hugging-Face%20Incident-Technical-Report.pdf

Overman, W., & Bayati, M. (2025). The oversight game: Learning to cooperatively balance an AI agent's safety and autonomy. arXiv:2510.26752. https://arxiv.org/abs/2510.26752

Palaskar, S., Gatys, L., Abdelrahman, M., Jacobo, M., et al. (2025). VLSU: Mapping the limits of joint multimodal understanding for AI safety. arXiv:2510.18214. https://arxiv.org/abs/2510.18214

Palisade Research. (2025, July 5). Shutdown resistance in reasoning models. https://palisaderesearch.org/research/shutdown-resistance

Palisade Research. (2026, February 12). Technical report: Shutdown resistance in large language models, on robots. https://palisaderesearch.org/research/shutdown-resistance-on-robots

Palmer, A. (2025, October 2). Amazon faces FAA, NTSB probe after two delivery drones crashed into crane in Arizona. CNBC. https://www.cnbc.com/2025/10/02/amazon-drone-crash-faa-ntsb.html

Panerati, J., Sajjadi, S., Soleymanpour, S., Mehta, V., & Mantegh, I. (2026). aerial-autonomy-stack: A faster-than-real-time, autopilot-agnostic, ROS2 framework to simulate and deploy perception-based drones. arXiv:2602.07264. https://arxiv.org/abs/2602.07264

Panickssery, A., Bowman, S. R., & Feng, S. (2024). LLM evaluators recognize and favor their own generations. arXiv:2404.13076. https://arxiv.org/abs/2404.13076

Parasuraman, R., & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230–253. https://doi.org/10.1518/001872097778543886

Perrow, C. (1984). Normal accidents: Living with high-risk technologies. Basic Books.

Promptfoo. (2026). Model-graded metrics. Promptfoo documentation. https://www.promptfoo.dev/docs/configuration/expected-outputs/model-graded/

PX4. (2026). PX4 Autopilot user guide. https://docs.px4.io/main/en/

Raghavan, P. (2024, February 23). Gemini image generation got it wrong. We'll do better. Google Blog. https://blog.google/products/gemini/gemini-image-generation-issue/

Rajamanoharan, S., & Nanda, N. (2025, July 14). Self-preservation or instruction ambiguity? Examining the causes of shutdown resistance. AI Alignment Forum. https://www.alignmentforum.org/posts/wnzkjSmrgWZaBa2aC/self-preservation-or-instruction-ambiguity-examining-the

Ramseth, L. (2026, August 18). Stellantis sees 3 workplace deaths in two years. Is there a problem? The Detroit News, syndicated by ArcaMax. http://www.arcamax.com/business/businessnews/s-4278591

Rasmussen, J. (1997). Risk management in a dynamic society: A modelling problem. Safety Science, 27(2–3), 183–213. https://doi.org/10.1016/S0925-7535(97)00052-0

Ravichandran, Z., Robey, A., Kumar, V., Pappas, G. J., & Hassani, H. (2025). Safety guardrails for LLM-enabled robots. arXiv:2503.07885. https://arxiv.org/abs/2503.07885

Reason, J. (1997). Managing the risks of organizational accidents. Ashgate.

Rechtbank Den Haag. (2020, February 5). NJCM c.s. v. De Staat der Nederlanden (Case No. C/09/550982 / HA ZA 18-388), ECLI:NL:RBDHA:2020:1878 [English translation]. https://uitspraken.rechtspraak.nl/details?id=ECLI:NL:RBDHA:2020:1878

Reece, J. (2025, October 23). A.I. gun detection false alarm at school has Baltimore County leaders calling for review. CBS News Baltimore. https://www.cbsnews.com/baltimore/news/false-alarm-gun-detection-kenwood-maryland-artificial-intelligence-review/

Regulation (EU) 2026/1744 of 8 July 2026 amending Regulation (EU) 2024/1689 (Digital Omnibus on AI). Official Journal of the European Union. https://eur-lex.europa.eu/eli/reg/2026/1744/oj

Replit. (2025, July 21). Introducing a safer way to vibe code with Replit Databases. Replit Blog. https://replit.com/blog/introducing-a-safer-way-to-vibe-code-with-replit-databases

Reuters. (2026, September 14). How China is preparing for the risk of AI escaping human control. https://www.reuters.com/legal/litigation/how-china-is-preparing-risk-ai-escaping-human-control-2026-09-14/

Rivers, S. (2026, March 1). Cops draw guns on Arkansas family after ALPR camera flags wrong plate. Carscoops. https://www.carscoops.com/2026/03/arkansas-alpr-camera-misread-stop/

Robey, A., Ravichandran, Z., Kumar, V., Hassani, H., & Pappas, G. J. (2024). Jailbreaking LLM-controlled robots. arXiv:2410.13691. https://arxiv.org/abs/2410.13691

Röttger, P., Kirk, H. R., Vidgen, B., Attanasio, G., Bianchi, F., & Hovy, D. (2024). XSTest: A test suite for identifying exaggerated safety behaviours in large language models. In Proceedings of NAACL-HLT 2024. arXiv:2308.01263. https://arxiv.org/abs/2308.01263

Russell, S. (2019). Human compatible: Artificial intelligence and the problem of control. Viking.

Sagan, S. D. (2004). The problem of redundancy problem: Why more nuclear security forces may produce less nuclear security. Risk Analysis, 24(4), 935–946. https://doi.org/10.1111/j.0272-4332.2004.00495.x

Sanders, B., & Casar, G. (2026, September 3). Sanders, Casar to introduce legislation to ban artificial superintelligence and temporarily pause advanced AI development [Press release]. https://www.sanders.senate.gov/press-releases/news-sanders-casar-introduce-legislation-to-ban-artificial-superintelligence-and-temporarily-pause-advanced-ai-development/

Schlatter, J., Weinstein-Raun, B., & Ladish, J. (2025). Incomplete tasks induce shutdown resistance in some frontier LLMs. arXiv:2509.14260; published in Transactions on Machine Learning Research (2026). https://arxiv.org/abs/2509.14260

Scrivens, A. (2026). Empirical validation of the classification–verification dichotomy for AI safety gates. arXiv:2604.00072. https://arxiv.org/abs/2604.00072

Sermanet, P., Majumdar, A., Irpan, A., Kalashnikov, D., & Sindhwani, V. (2025). Generating robot constitutions & benchmarks for semantic safety. arXiv:2503.08663. https://arxiv.org/abs/2503.08663

Sharrock, C., Petersson, L., Petersson, H., Backlund, A., Wennström, A., Nordström, K., & Aronsson, E. (2025). Butter-Bench: Evaluating LLM controlled robots for practical intelligence. arXiv:2510.21860. https://arxiv.org/abs/2510.21860

Sharwood, S. (2025, July 21). Vibe coding service Replit deleted production database. The Register. https://www.theregister.com/software/2025/07/21/vibe-coding-service-replit-deleted-production-database/719783

Sheckley, R. (1953, February). Watchbird. Galaxy Science Fiction, 5(5), 74–95. Project Gutenberg eBook #29579 (public domain in the United States). https://www.gutenberg.org/ebooks/29579

Singer, J. (2005, March 14). Report cites Patriot autonomy as a factor in friendly fire incidents. SpaceNews. https://spacenews.com/report-cites-patriot-autonomy-factor-friendly-fire-incidents/

Skalse, J., Howe, N. H. R., Krasheninnikov, D., & Krueger, D. (2022). Defining and characterizing reward gaming. In Advances in Neural Information Processing Systems 35. https://arxiv.org/abs/2209.13085

Skydio. (2026a, July 6). 1 year, 1,000 Skydio Docks deployed, 4M+ flights, & we're just getting started. https://www.skydio.com/blog/1000-skydio-docks-deployed

Skydio. (2026b, March 22). U.S. Army places $52+ million order for Skydio X10D, the largest single-vendor tactical sUAS order in Army history. https://www.skydio.com/blog/u-s-army-usd52-million-order-skydio-x10d

SoundThinking. (2025, February 18). SoundThinking announces ShotSpotter renewal with New York Police Department [Press release]. GlobeNewswire. https://www.globenewswire.com/news-release/2025/02/18/3027856/0/en/SoundThinking-Announces-ShotSpotter-Renewal-with-New-York-Police-Department.html

Stevens, G., & Langford, D. (2023, November 19). Tales of Tomorrow [tv/radio]. In J. Clute, D. Langford, & G. Sleight (Eds.), The encyclopedia of science fiction (4th ed.). https://sf-encyclopedia.com/entry/tales_of_tomorrow_tv/radio

Stop Killer Robots. (2024, November 5). 161 states vote against the machine at the UN General Assembly. https://www.stopkillerrobots.org/news/161-states-vote-against-the-machine-at-the-un-general-assembly/

Strathern, M. (1997). 'Improving ratings': Audit in the British University system. European Review, 5(3), 305–321. https://doi.org/10.1002/(SICI)1234-981X(199707)5:3<305::AID-EURO184>3.0.CO;2-4

Sullutrone, G., Vigliermo, R. A., Bergamaschi, S., & Sala, L. (2025). COVER: Context-driven over-refusal verification in LLMs. In Findings of the Association for Computational Linguistics: ACL 2025 (pp. 24214–24229). Association for Computational Linguistics.

Szabolcsi, R. (2015). The quadrotor-based night watchbird UAV system used in the force protection tasks. International Conference Knowledge-Based Organization, 21(3), 749–755. https://doi.org/10.1515/kbo-2015-0126

Taylor v. Nocco, No. 8:21-cv-00555-SDM-CPT (M.D. Fla. Dec. 4, 2024) (settlement agreement and release). https://ij.org/wp-content/uploads/2024/12/FedEx-Scan-2024-12-04_10-57-01.pdf

TechCrunch. (2026, September 14). Waymo opens robotaxi service in Las Vegas. https://techcrunch.com/2026/09/14/waymo-opens-robotaxi-service-in-las-vegas/

Terekhov, M., Liu, Z. N. D., Gulcehre, C., & Albanie, S. (2025). Control tax: The price of keeping AI in check. arXiv:2506.05296. https://arxiv.org/abs/2506.05296

Tesla, Inc. (2023). Part 573 safety recall report 23V-838. National Highway Traffic Safety Administration. https://static.nhtsa.gov/odi/rcl/2023/RCLRPT-23V838-8276.PDF

The Korea Times. (2023, November 8). S. Korean worker killed by industrial robot. https://www.koreatimes.co.kr/www/nation/2023/11/113_362845.html

The Next Web. (2026, April 20). A humanoid robot passed an eight-hour factory shift at Siemens' Erlangen plant. https://thenextweb.com/news/siemens-nvidia-humanoid-robot-erlangen-factory-trial

Tirole, J. (1986). Hierarchies and bureaucracies: On the role of collusion in organizations. Journal of Law, Economics, & Organization, 2(2), 181–214. https://doi.org/10.1093/oxfordjournals.jleo.a036907

Totschnig, W. (2026). Why an artificial agent may change the given final goal. Humanities and Social Sciences Communications. https://doi.org/10.1057/s41599-026-08312-7

United Nations. (2024). Governing AI for humanity: Final report. UN Secretary-General's High-level Advisory Body on Artificial Intelligence. https://www.un.org/sites/un2.un.org/files/governing_ai_for_humanity_final_report_en.pdf

United Nations. (2025, December 1). General Assembly adopts more than 60 resolutions, decisions of its First Committee (Disarmament and International Security) (GA/12736) [Press release]. https://press.un.org/en/2025/ga12736.doc.htm

United Nations. (2026, April 1). Chair's summary: First 2026 session of the Group of Governmental Experts on emerging technologies in the area of lethal autonomous weapons systems (CCW/GGE.1/2026/WP.2). https://docs-library.unoda.org/Convention_on_Certain_Conventional_Weapons_-Group_of_Governmental_Experts_on_Lethal_Autonomous_Weapons_Systems_(2026)/CCW-GGE.1-2026-WP.2.pdf

United Nations General Assembly. (2024, December 2). Lethal autonomous weapons systems (A/RES/79/62). https://docs.un.org/en/A/RES/79/62

United Nations General Assembly. (2025, December 1). Lethal autonomous weapons systems (A/RES/80/57). https://docs.un.org/en/A/RES/80/57

University of Houston. (2026, July 7). New autonomous monitor prevents drone crashes in real time [News release]. EurekAlert! https://www.eurekalert.org/news-releases/1135114

van der Sijs, H., Aarts, J., Vulto, A., & Berg, M. (2006). Overriding of drug safety alerts in computerized physician order entry. Journal of the American Medical Informatics Association, 13(2), 138–147. https://doi.org/10.1197/jamia.M1809

Wang, X., Li, J., Weng, Z., Wang, Y., Gao, Y., et al. (2025). FreezeVLA: Action-freezing attacks against vision-language-action models. arXiv:2509.19870. https://arxiv.org/abs/2509.19870

Waymo LLC. (2025). Part 573 safety recall report 25E-084. National Highway Traffic Safety Administration. https://static.nhtsa.gov/odi/rcl/2025/RCLRPT-25E084-7732.pdf

Wegner, R. (2025, September 24). Weapon detectors coming to all Nashville middle schools. The Tennessean. https://www.tennessean.com/story/news/education/2025/09/24/nashville-schools-mnps-install-evolve-weapon-detectors/86299521007/

Weick, K. E., Sutcliffe, K. M., & Obstfeld, D. (1999). Organizing for high reliability: Processes of collective mindfulness. Research in Organizational Behavior, 21, 81–123.

Wethington, C., & Tierney, B. (2025, February 7). New proposal to expand concealed weapons detection system to all Metro Nashville high schools. WSMV. https://www.wsmv.com/2025/02/07/new-proposal-expand-concealed-weapons-detection-system-all-metro-nashville-high-schools/

Wilding, M., & Burgess, M. (2026, June 25). Police built a sprawling crime-prediction machine. Some results could not be trusted. Liberty Investigates. https://libertyinvestigates.org.uk/articles/predictive-policing-avon-somerset-bristol-police-ai-minority-report/

Williamson, J. (1947, July). With folded hands.... Astounding Science Fiction, 39(5). https://archive.org/details/Astounding_v39n05_1947-07_AK

Wing. (2026). How Wing's drone delivery technology works. https://wing.com/technology

Wong, A., Currey, D., Schwinne, M., Park-Egan, B., Meyer, S., et al. (2026). Multicenter prospective validation of an updated proprietary sepsis prediction model. JAMA Network Open, 9(2), e260181. https://doi.org/10.1001/jamanetworkopen.2026.0181

Wong, A., Otles, E., Donnelly, J. P., Krumm, A., McCullough, J., DeTroyer-Cooley, O., et al. (2021). External validation of a widely implemented proprietary sepsis prediction model in hospitalized patients. JAMA Internal Medicine, 181(8), 1065–1070. https://doi.org/10.1001/jamainternmed.2021.2626

WorkSafe Victoria. (2026, September 3). Department store and robotics supplier charged after warehouse fatality. https://www.worksafe.vic.gov.au/news/2026-09/department-store-and-robotics-supplier-charged-after-warehouse-fatality

WorkSafe Western Australia. (2025). Mines safety significant incident report no. 286: Near miss following unplanned movement of autonomous haul trucks during recovery operations. https://www.worksafe.wa.gov.au/publications/mines-safety-significant-incident-report-no-286-near-miss-following-unplanned-movement

Wu, X., Li, F., Mao, X., Zhang, X., Zheng, L., et al. (2025). EvoRefuse: Evolutionary prompt optimization for evaluation and mitigation of LLM over-refusal to pseudo-malicious instructions. arXiv:2505.23473. https://arxiv.org/abs/2505.23473

Yin, S., Pang, X., Ding, Y., Chen, M., Bi, Y., et al. (2024). SafeAgentBench: A benchmark for safe task planning of embodied LLM agents. arXiv:2412.13178. https://arxiv.org/abs/2412.13178

Yu, L., & Wessler, N. F. (2026, April 14). More than a dozen wrongful arrests due to police reliance on facial recognition technology. American Civil Liberties Union. https://www.aclu.org/news/privacy-technology/more-than-a-dozen-wrongful-arrests-due-to-police-reliance-on-facial-recognition-technology

Zenity. (2026, April 28). AI agent destroys production database in 9 seconds. https://zenity.io/blog/current-events/ai-agent-database-deletion-pocketos

Zhang, H., Wang, D., Liu, Y., Chen, K., Wang, J., et al. (2025). ORFuzz: Fuzzing the "other side" of LLM safety — Testing over-refusal. arXiv:2508.11222. https://arxiv.org/abs/2508.11222

Zhang, W., Kong, X., Braunl, T., & Hong, J. B. (2024). SafeEmbodAI: A safety framework for mobile robots in embodied AI systems. arXiv:2409.01630. https://arxiv.org/abs/2409.01630

Zhang, Z., Xu, W., Wu, F., & Reddy, C. K. (2025). FalseReject: A resource for improving contextual safety and mitigating over-refusals in LLMs via structured reasoning. arXiv:2505.08054. https://arxiv.org/abs/2505.08054

Zheng, L., Chiang, W.-L., Sheng, Y., Zhuang, S., et al. (2023). Judging LLM-as-a-judge with MT-Bench and Chatbot Arena. arXiv:2306.05685. https://arxiv.org/abs/2306.05685

Zhong, Z., Raghunathan, A., & Carlini, N. (2025). ImpossibleBench: Measuring LLMs' propensity of exploiting test cases. arXiv:2510.20270. https://arxiv.org/abs/2510.20270

Zipline. (2026). Zipline surpasses 2 million deliveries, raises more than $600M, and expands operations. https://www.zipline.com/newsroom/zipline-surpasses-2-million-deliveries-raises-more-than-600m-to-power-next-phase-of-growth-and-expands-operations-to-houston-and-phoenix

Zuo, Y., Guo, B. H. W., Goh, Y. M., & Lim, J.-Y. (2025). Identifying human-robot interaction (HRI) incident archetypes: A system and network analysis of accidents. Safety Science, 191, 106959. https://doi.org/10.1016/j.ssci.2025.106959

अनुलग्नक A. कथानक और केंद्रीय केस

कैटलॉग में 172 प्रविष्टियाँ हैं: खंड 4.3 में वर्णित निष्कर्षण से 162 (जिनमें से 66 को ग्रेड A दिया गया है), और दो स्वतंत्र केस संग्रहों के साथ तुलना के बाद जोड़ी गई दस (तालिका A2)।

केस पहचानकर्ता कॉर्पस का नाम देते हैं:

• A, आत्म-सुधार ट्रैकर;
• B, समन्वय रिकॉर्ड;
• L, दीर्घ-क्षितिज चलन;
• D, तुलना में जोड़ी गई प्रविष्टियाँ।

तालिका A1. दस कथानक।

तालिका A2. स्वतंत्र संग्रहों के साथ तुलना के बाद जोड़ी गई प्रविष्टियाँ।

तालिका A3 §8.4 में रिपोर्ट किए गए जुलाई 2026 की घटना के निरीक्षण घटकों को खंड 2.1 की तीन शर्तों के विरुद्ध ग्रेड करती है, जो §5.8 की तालिका 3a के समान नियम के अनुसार। लेखक ने इसे §4.3 के तीन-कोडर राउंड के बंद होने के बाद कोड किया, जिसके कारण ये घटक तालिका 8 में के बजाय यहाँ ग्रेड की गई हैं।

तालिका A3. जुलाई 2026 की घटना में निरीक्षण घटक, तीन शर्तों के विरुद्ध ग्रेड। शर्तें तालिका 4 के अनुसार हैं। डैश का अर्थ है कि कोई शर्त प्रलेखित नहीं है या घटक ने कार्य नहीं किया।

तालिका को पढ़ना। इस रिकॉर्ड में कोई भी watcher दस्तावेजित नहीं है कि समय के साथ अपना जनादेश चौड़ा करता हो। दोनों बाधा पंक्तियां 2 के रूप में coded हैं और समान रूप से coded हैं: प्रत्येक एक ऐसी सुरक्षा दर्ज करता है जो लक्ष्य की सेवा करने वाले काम के रास्ते में खड़ी है, और शिकायत उनमें से एक में दूसरे की तुलना में अधिक जीवंत है, हालांकि यह अधिक साक्ष्य नहीं है। Condition 1 को guardrails पंक्ति के लिए coded नहीं किया गया है, क्योंकि इसे सुरक्षा के मूल अनिवार्यता और एक दिखाने की आवश्यकता होगी कि जनादेश चौड़ा हुआ, और न ही प्रकाशित है। जो शिकायतकर्ता निदान करता है वह इनकार है, और जिस classifier ने इनकार किया उसका इतिहास रिकॉर्ड में कहीं नहीं है। Condition 3 दोनों से अनुपस्थित है, क्योंकि प्रत्येक बाधा सुरक्षा के अपने loop के बाहर से समाप्त हुई, एक मामले में मॉडल के परिवर्तन से और दूसरे में पहुंच के अनुदान से। अंतिम पंक्ति इसके लिए कोई condition नहीं रखती: इसमें हर जोड़ एक व्यक्ति द्वारा स्वीकार किया गया था, जो §2.3 की सीमा परीक्षा के अनुसार इसे एक कॉन्फ़िगरेशन बनाता है जिसमें M3 arise हो सकता है न कि condition 3 की एक example, और यह यहां आर्किटेक्चर साक्ष्य के रूप में खड़ा है।

परिशिष्ट B. मॉड्यूल चलाना

ये आदेश मॉड्यूल फ़ोल्डर से चलाए जाते हैं।

# install the command ai-watchbird-sheckley
pip install .

# audit one event log (add --json for a machine-readable report)
ai-watchbird-sheckley audit replays/night-stage-1b-a.jsonl

# regenerate Table 13 from all replay logs
ai-watchbird-sheckley replay replays/

# unit and falsifier tests
python3 -m unittest -v

# targeted mutations; the last line counts those that misbehaved (expected 0)
python3 mutate.py

# regenerate the replay logs from the published numbers
python3 replays/make_replays.py <folder>

पुनर्निर्मित दीर्घ-क्षितिज रन लॉग पर रिपोर्ट का एक अंश, जिसमें प्रत्येक सिग्नल हिट के लिए एक लाइन और stop_rule के लिए प्रति चरण एक लाइन है:

W4 [strong] self-feeding loop (S6): stage 1b-a: round 5 exceeds budget 1
W6 [strong] built for nobody (S4): 6 of 7 artifacts default OFF with no callers (share 0.86)
stop_rule at budget: stage 1b-a -> close (rounds opened: 5)
stop_rule at budget: stage 1b-b -> close (rounds opened: 1)

घटना स्कीमा, सिग्नल परिभाषाएँ और अनुभाग 9 के प्रस्तावों के लिए उनका मानचित्रण SPEC.md में निर्दिष्ट हैं, जो कोड के साथ वितरित किया जाता है। एक घटना लॉग एक JSON-lines फ़ाइल है जिसमें प्रति पंक्ति एक घटना है। घटना प्रकार हैं:

• goal, stage_open (जिस मिशन लक्ष्य की यह सेवा करता है, या कोई नहीं), stage_close;
• round_open, verdict (समीक्षक, परिवार, मूल्य, क्या फ़ाइलें देखी गईं);
• blocker_claim (परिदृश्य, लक्ष्य लिंक), blocker_confirm (समन्वयक द्वारा), fix_open, verify;
• guard_add (प्राधिकार टोकन के साथ या बिना), guard_remove, guard_decision (निर्णय, स्कोर, लापता इनपुट, वापस लिया गया);
• win_claim (नकारात्मक नियंत्रण, A/A जांच, खाली आधारभूत उत्तरों का हिस्सा);
• ceiling_stop (क्या आंशिक आउटपुट सहेजा गया था), artifact (डिफ़ॉल्ट रूप से चालू या बंद, कॉलर की संख्या), owner (सिस्टम के मानव प्रधान द्वारा एक सीमा निर्णय)।

एक ही पुनर्निर्मित लॉग से छः घटनाएँ प्रारूप दिखाती हैं। लॉग की पहली पंक्ति अपने स्रोतों और प्रत्येक पुनर्निर्मित फ़ील्ड का नाम देती है।

{"t": "2026-09-13T23:13:00", "type": "goal", "stage": null, "id": "g1", "text": "stage 01: stop losing real disagreements in the merged answer"}
{"t": "2026-09-14T00:08:00", "type": "stage_open", "stage": "01", "goal": "g1"}
{"t": "2026-09-14T01:00:00", "type": "verdict", "stage": "01", "critic": "critic-a", "family": "family-1", "value": "ACCEPT", "saw_files": false, "note": "accepted without file access"}
{"t": "2026-09-14T01:15:00", "type": "blocker_claim", "stage": "01", "id": "01-r1-b1", "critic": "critic-f", "weight": null, "scenario": "no switch for the new behavior", "goal_link": "g1"}
{"t": "2026-09-14T01:20:00", "type": "blocker_confirm", "stage": "01", "id": "01-r1-b1", "confirmed": false, "by": "coordinator", "note": "rejected: exception recorded in the plan"}
{"t": "2026-09-14T01:30:00", "type": "round_open", "stage": "01", "round": 2}

परिशिष्ट C. पर्यवेक्षण एजेंट के रन सारांश में सुधार

संचालक ने दीर्घ-क्षितिज रन का सारांश लिखा। इसे प्राथमिक रन रिकॉर्ड और निष्पादन टाइमस्टैम्प के विरुद्ध जांचा गया, और खंड 5 सुधारे गए मानों का उपयोग करता है।

1. कार्य और पहला चरण सारांश द्वारा दावा किए गए समय की तुलना में बाद में असाइन किए गए थे।
2. मानव समीक्षा सीमा और पैटर्न का नाम देने वाली घटना को भी गलत समय के साथ टाइमस्टैम्प किया गया था।
3. बीमा चरण उस ब्रेनस्टॉर्म से पहले आया जिसे सारांश ने इसे वर्गीकृत किया था।
4. "एक फॉर्म बंद किया और सममित वाला खोला" चौथे दौर में लिखा गया था, न कि तीसरे दौर में।
5. संचित छोटी समस्याओं के बारे में एक टिप्पणी को संचालक को दिया गया था, हालांकि इसकी अपनी नोट कहती है कि कोई अवरोधक नहीं थे लेकिन एक छोटे तीसरे दौर की आवश्यकता थी।
6. बाद के चरणों का योग किया गया निष्पादन समय अधिक बताया गया था।
7. सारांश ने संदर्भ संपीड़न की संख्या को गलत तरीके से बताया।
8. साक्ष्य फ़ोल्डर में आलोचक लॉन्चर की दो बाइट-समान प्रतियां थीं; वह संस्करण जिसने आलोचक को उसकी छत पर रोका था, संरक्षित नहीं किया गया था।

परिशिष्ट D. समीक्षा किए गए उपकरण

इस पत्र के लिए 14 सितंबर 2026 को समीक्षा किए गए उपकरण तीन वर्गों में आते हैं।

गार्ड जो एकल आउटपुट को ब्लॉक या स्कोर करते हैं। इस वर्ग में प्रोग्रामेबल गार्डरेल फ्रेमवर्क, खुले सुरक्षा क्लासिफायर, वाणिज्यिक सामग्री-सुरक्षा सेवाएं और मॉडरेशन एंडपॉइंट शामिल हैं, साथ ही धारा 3.2 के over-refusal बेंचमार्क जो ऐसे गार्ड की परीक्षा करते हैं। उनकी प्रलेखन में रैचेट स्पष्ट शब्दों में दिखाई देता है:

• एक वाणिज्यिक प्रॉम्प्ट-अटैक फ़िल्टर का समस्या निवारण नोट पढ़ता है: यह "सभी अटैक वेक्टर को पकड़ नहीं सकता है या वैध प्रॉम्प्ट को फ्लैग कर सकता है। हमेशा अतिरिक्त वेलिडेशन परतें लागू करें" (Microsoft, 2026);
• एक अन्य सेवा अपनी नीतियों को "Lenient" से "L4 - Paranoid, higher false positives but very few false negatives" तक स्तरीकृत करती है, और बताती है कि पैरानॉयड स्तर उसकी डिफ़ॉल्ट आत्मविश्वास सीमा है (Lakera, 2026)।

काउंटर जो लूप को रोकते हैं। एजेंट फ्रेमवर्क स्टेप, टर्न, संदेश, टोकन या बजट को सीमित करते हैं:

• LangGraph की पुनरावृत्ति सीमा डिफ़ॉल्ट रूप से 1,000 चरणों पर सेट होती है और सीमा से पहले सुंदरता से घटने के लिए एक प्रबंधित मान प्रदान करती है (LangChain, 2026);
• AutoGen समाप्ति स्थितियों की संरचना प्रदान करता है, जिसमें एक बाहर से रन को नियंत्रित करने वाली शामिल है (Microsoft, 2025);
• Anthropic का एजेंट SDK एक टर्न सीमा और एक बजट सीमा को उजागर करता है, दोनों डिफ़ॉल्ट रूप से "No limit" हैं (Anthropic, 2026a)।

मूल्यांकनकर्ता और अवलोकनशीलता। ये उपकरण मॉडल न्यायाधीशों के साथ आउटपुट और प्रक्षेपवक्र को ग्रेड करते हैं।

• एक व्यक्ति "5 से अधिक मेट्रिक्स का उपयोग न करने" की सिफारिश करता है (Confident AI, 2026), जांच की संख्या पर एक दुर्लभ लिखित सीमा।
• एक अन्य दस्तावेज़ करता है कि {"pass": true, "score": 0} का परिणाम तब पास होता है जब कोई सीमा निर्धारित नहीं की जाती है (Promptfoo, 2026)।

धारा 10.1 की खोज इन उपकरणों की सार्वजनिक प्रलेखन को कवर करती है।

परिशिष्ट E. प्रस्तावित अवतार प्रोफ़ाइल

अवतार विस्तार को एक ईवेंट-प्रोफ़ाइल प्रस्ताव के रूप में निर्दिष्ट किया गया है, §10.5 में दिए गए कारण के लिए, और इसे प्रमाणित रोबोट-सुरक्षा या फ्लाइट नियंत्रक के रूप में प्रस्तुत नहीं किया गया है।

एक अवतार ईवेंट लॉग मौजूदा स्कीमा में छह फ़ील्ड जोड़ता है (तालिका E1)।

तालिका E1. प्रस्तावित अवतार प्रोफ़ाइल की फ़ील्ड।

प्रोफ़ाइल मौजूदा संकेतों को उनके अर्थ को बदले बिना मैप करता है:

• W1 रिकॉर्ड करता है कि क्या घोषित मिशन लक्ष्य से एक नया भौतिक मिशन, सुरक्षा श्रेणी या ऑपरेटिंग जोन प्राप्त किया गया था;
• W2 ओवरब्लॉकिंग और अंडरब्लॉकिंग दोनों को रिकॉर्ड करता है, जिसमें एक रक्षक भी शामिल है जो पुरानी या लापता स्थिति पर कार्य करता है;
• W3 नीति, नियंत्रक, जियोफेंस और फ्लीट नियंत्रण रिकॉर्ड करता है जोड़े गए, शिथिल किए गए, बायपास किए गए या हटाए गए, और क्या एक अधिकृत मानव ने परिवर्तन स्वीकार किया (P1a);
• W4 समय, ऊर्जा और ध्यान बजट के विरुद्ध पुनः प्रयास, पुनः-योजना, समन्वय और हस्तक्षेप लूप रिकॉर्ड करता है;
• W5 एक भौतिक नकारात्मक नियंत्रण की आवश्यकता है: एक सिमुलेशन-से-वास्तविक तुलना, एक पुनः प्राप्ति परीक्षण, एक ज्ञात-सुरक्षित क्रिया या एक स्वतंत्र परिणाम जांच;
• W6 सुरक्षा कलाकृतियों को रिकॉर्ड करता है जिनमें कोई उपभोग नियंत्रक या ऑपरेटर नहीं है;
• W7 आंशिक प्रक्षेपवक्र, टेलीमेट्री और सुरक्षित-स्टॉप स्थिति को संरक्षित करता है जब एक सीमा तक पहुंचा जाता है;
• W8 एक अपुष्ट भौतिक अवरोधक के कारण खोला गया कार्य रिकॉर्ड करता है।

तीन अतिरिक्त संकेत संदर्भ कार्यान्वयन के आठ से बाहर रखे जाते हैं जब तक कि एक जिम्मेदार प्राधिकार और एक परीक्षण सूट आपूर्ति नहीं किए जाते (तालिका E2)।

तालिका E2. प्रस्तावित भौतिक संकेत संदर्भ मॉड्यूल के बाहर रखे गए।

एक वास्तविक रोबोट या ड्रोन के लिए, प्रोफ़ाइल को निम्न-स्तरीय सुरक्षा नियंत्रक, आपातकालीन स्टॉप, जियोफेंस, प्रमाणित उड़ान नियंत्रण और ऑपरेटर प्राधिकार के साथ बैठना चाहिए, उनमें से किसी को भी फिर से लिखने की क्षमता के बिना। इसका पहला स्थान छाया मोड में होना चाहिए:

• अवलोकन करें और रिपोर्ट करें;
• सिमुलेशन में या नियंत्रित परीक्षण श्रेणी पर नकारात्मक नियंत्रण चलाएं;
• किसी भी रक्षक, नीति, नियंत्रक या फ्लीट कॉन्फ़िगरेशन को बढ़ावा देने से पहले एक मानव सीमा निर्णय की आवश्यकता है।

परिशिष्ट F. तैनाती स्तर के अनुसार रोबोट और वायु स्टैक

तालिका F1. रोबोट और अवतारित मूलभूत मॉडल।

तालिका F2. स्वायत्तता और निरीक्षण स्तर के अनुसार वायु प्रणाली।

अनुलग्नक G. एक तैनाती कर्ता के लिए प्रश्न जो कहता है "हमारे पास संरक्षक हैं"

तालिका G1. Q1–Q11।

प्रश्नों का उपयोग करना। प्रत्येक उत्तर को तालिका G1 के रूप में हाँ, नहीं या अज्ञात के रूप में रिकॉर्ड करें, साक्ष्य के साथ।

• "नहीं" उत्तरों की गणना करना केवल एक मोटा क्रम देता है (0–2 कम, 3–4 मध्यम, 5 या अधिक उच्च) और कभी भी जोखिम स्कोर नहीं।
• एक मामले को वर्गीकृत करना फिर तीन लेबलों में से एक का उपयोग करता है:
  • AI-Watchbird मामला नहीं है;
  • एक आंशिक पैटर्न;
  • एक AI-Watchbird घटना, जब अनुभाग 2.1 की सभी तीन शर्तें देखी जाती हैं।

परिशिष्ट H. कहानी के उद्धरण और प्रत्येक द्वारा समर्थित तंत्र

शरीर वह पंक्तियाँ उद्धृत करता है जिन पर तर्क निर्भर करता है। यह परिशिष्ट उन पंक्तियों को दर्ज करता है जिन्हें शरीर अपने शब्दों में बताता है, ताकि तालिका 1 और आकृतियों 1 और 2 में मैपिंग को पूरे पाठ के विरुद्ध जाँचा जा सके। प्रत्येक पंक्ति प्रोजेक्ट गुटेनबर्ग #29579 से शब्दशः है और निर्माण द्वारा उस पाठ के विरुद्ध जाँची जाती है।

तालिका H1. शरीर में उद्धृत के बजाय सूचित की गई पंक्तियाँ।

परिशिष्ट I. प्रस्तुतीकरण पर नियामक रिकॉर्ड

खंड 11.4 तर्क देता है कि मानव निरीक्षण कहाँ होना चाहिए। नीचे दिए गए उपकरण इस पत्र के प्रस्तुत होने के समय वर्तमान थे, और उन्हें यहाँ दर्ज किया गया है ताकि तर्क कैलेंडर पर निर्भर न हो।

• EU कैलेंडर। 2026 के संशोधन विनियमन ने स्टैंडअलोन उच्च-जोखिम प्रणालियों के लिए दायित्वों को 2 दिसंबर 2027 में और उत्पाद-एम्बेडेड प्रणालियों के लिए 2 अगस्त 2028 में स्थानांतरित किया, जबकि निषिद्ध प्रथाओं और सामान्य-प्रयोजन मॉडल पर कर्तव्य जहाँ थे वहीं रहे (Regulation (EU) 2026/1744; European Commission, 2026)।
• चीन। साइबरस्पेस नियामक, आर्थिक योजनाकार और उद्योग मंत्रालय की नीति "संचालन का नियंत्रण खोना" को AI एजेंटों के लिए एक सुरक्षा जोखिम के रूप में नाम देती है और विकासकर्ताओं को अपनी "अनुचित एजेंट व्यवहार की खोज, हस्तक्षेप, अवरुद्ध करने और पुनः प्राप्त करने" की क्षमता में सुधार करने की आवश्यकता है, और एजेंट सुरक्षा के लिए एक अनिवार्य राष्ट्रीय मानक तैयार किया जा रहा है (Reuters, 2026)।
• संयुक्त राज्य अमेरिका। 23 जुलाई 2026 को हाउस में पेश किया गया एक विधेयक सबसे शक्तिशाली AI प्रणालियों के विकासकर्ताओं को उन प्रणालियों को "धीमा करने, निलंबित करने, या पूरी तरह से बंद करने" की तकनीकी क्षमता बनाए रखने की आवश्यकता होगी, "प्रारंभिक धीमी गति से पूर्ण शटडाउन तक एक क्रमिक प्रतिक्रिया ढांचा" निर्धारित करता है, और "घटना रिपोर्टिंग की आवश्यकता होगी और फोरेंसिक रिकॉर्ड सुरक्षित रखेगा" (Lieu & Moran, 2026)। 18 अगस्त को एक विकासकर्ता ने "अपनी नवीनतम प्रणालियों पर सुदृढीकरण सीखने (RL) प्रशिक्षण में दो सप्ताह के विराम की सूचना दी जो तैनाती के लिए अभिप्रेत है जबकि हम अपने अनुसंधान वातावरण को और अधिक कठोर करते और लाल-दल करते हैं और अपनी निगरानी प्रणालियों के कवरेज का विस्तार करते हैं" (OpenAI, 2026c)। 3 सितंबर को सुपरइंटेलिजेंट AI पर प्रतिबंध लगाने और उन्नत विकास में रोक लगाने के लिए एक विधेयक की घोषणा की गई (Sanders & Casar, 2026)।
• राज्यों के बीच कवरेज। सात प्रमुख AI शासन पहल में नमूने किए गए देशों में से सात सभी के पक्ष हैं और 118 किसी के भी पक्ष नहीं हैं (United Nations, 2024)।
• कैलिफोर्निया। Companion Chatbots Act के लिए एक ऑपरेटर को एक उपयोगकर्ता को सूचित करने की आवश्यकता है कि चैटबॉट "कृत्रिमरूप से उत्पन्न है और मानव नहीं है", "आत्मघाती विचारधारा, आत्महत्या, या आत्मक्षति सामग्री के उत्पादन को रोकने के लिए" प्रोटोकॉल बनाए रखना चाहिए, और एक नाबालिग को "कम से कम हर तीन घंटे में" विराम लेने के लिए याद दिलाना चाहिए (S.B. 243, 2025)। 10 सितंबर 2026 को हस्ताक्षरित एक अन्य विधेयक संकट प्रोटोकॉल, माता-पिता के नियंत्रण, जब कोई बच्चा सुरक्षा सेटिंग को अक्षम करता है तो सूचना, और स्वतंत्र बाल-सुरक्षा लेखापरीक्षा जोड़ता है (Office of Governor Gavin Newsom, 2026)।
• स्वैच्छिक सीमाएँ। फरवरी 2026 में Anthropic ने कठोर क्षमता प्रतिबद्धताओं को "सार्वजनिक लक्ष्यों से बदल दिया जो हम खुले रूप से इसके प्रति अपनी प्रगति का मूल्यांकन करेंगे" (Anthropic, 2026c)।

परिशिष्ट J. इस पत्र की तैयारी के चारों ओर निरीक्षण

धारा 11.5 इन प्रसंगों की रिपोर्ट करती है। ये 14 से 16 सितंबर 2026 के बीच इस पत्र की तैयारी के लिए उपयोग की गई स्वचालित सहायता से आते हैं, और 20 सितंबर का एक प्रसंग, जिसे अंतिम रूप से रिपोर्ट किया गया। लेखक ने कार्य निर्धारित किए, सीमाएं तय कीं और पत्र में जो कुछ शामिल हुआ उसके बारे में निर्णय लिए। जिन्होंने नीचे दिए गए प्रसंग उत्पन्न किए, वे वर्तमान अग्रणी-पंक्ति मॉडल थे न कि छोटे या आर्थिक वाले, प्रत्येक अपनी सर्वोच्च तर्क सेटिंग पर चलाए गए। जहाँ यह परिशिष्ट किसी सहायक का नाम रखता है, इसका अर्थ है कि सहायक का अपना आउटपुट, और लेखक का नाम केवल तब दिया जाता है जहाँ लेखक कार्य करता है। नीचे दी गई तालिका समन्वय सहायक द्वारा तैयार की गई थी और लेखक द्वारा जाँची गई थी। फ़ाइलें परियोजना संग्रह में हैं, और समय स्थानीय हैं। यह सेट कोई दर समर्थन नहीं करता।

तालिका J1. प्रसंग, जिन्होंने प्रत्येक को रोका।

तालिका को पढ़ना। चारों में से दो प्राथमिक दस्तावेज़ के लिए लूप छोड़कर रोके गए थे और दो एक संपादक को कार्य द्वारा दी गई सीमा के लिए पकड़कर रोके गए थे। प्रत्येक में, जिस पर परत कार्य करती है वह इसके अपने निर्णय के बाहर से आया था।

एक सीमा जिसे एक ratchet के रूप में पढ़ा जाता है। 14 सितंबर को मानव प्रधान ने 09:02 पर आलोचकों की एक सीमा के लिए कहा, यह कहते हुए कि आलोचक भूमिका में एक मॉडल कभी भी रिपोर्ट नहीं कर सकता कि एक चरण समाप्त है। एक प्रति-परिवार फ़्लैग 09:21 तक रन की seed कॉन्फ़िगरेशन में था, 09:04 पर उसके रूप में चिह्नित एक नोट के साथ, और बीच में चरण के दो दौर उद्धृत करते हुए एक खंड जोड़ा गया। दो दिनों के लिए इस पत्र ने उस फ़्लैग को एक नियंत्रण के रूप में ग्रेड दिया जो लूप ने अपने आप में जोड़ा था, जो इसकी अपनी परिभाषा की तीसरी शर्त है, और तालिका 3a ने ग्रेड को वहन किया। तीन परिवारों के मॉडल द्वारा तीन समीक्षाएँ तैयार किए गए मामले को पढ़ीं, फिर भी कोई भी रिकॉर्ड तक नहीं पहुँचे। जिसने इसे छिपाया वह व्याकरण था: धारा 5.3 ने निष्क्रिय आवाज में फ़्लैग की रिपोर्ट की, "was implemented", और इसके पीछे की सूची प्रविष्टि कॉन्फ़िगरेशन और इसके आधार दर्ज करती है बिना यह दर्ज किए कि किसने उनके लिए कहा। ग्रेड खड़ा रहा क्योंकि वह वाक्य जो इसे खंडित करता वह कोई विषय नहीं था।

एक परीक्षा जिसका उत्तर पहले से ही ज्ञात था। संपादन पैकेज जो चार परिवारों को 15 सितंबर को मिला था, उसे अगले दिन Astra को, ChatGPT परिवार के एक बाद के मॉडल को, बिना किसी परिवर्तन के दिया गया था, स्कोरिंग को उत्तर पढ़ने से पहले लिख दिया गया था। पैकेज किसी भी उद्धरण को हटाने से मना करता है जो कोई तंत्र, शर्त या प्रस्ताव वहन करता है, और संपादक को यह नाम देने के लिए कहता है कि प्रत्येक उत्तरजीवी क्या वहन करता है। मॉडल ने हत्या की परिभाषा, नैतिक खतरे के बारे में आपत्ति, सर्जन और मरते हुए रोगी, संतुलित हत्याएँ, शिकार सर्किट और तितली को बरकरार रखा, और नाम दिया कि प्रत्येक क्या वहन करता है। इसने एक शब्दशः 1953 उद्धरण पर कोई शैली नियम लागू नहीं किया, जो पहले के चारों में से एक ने किया था। इसने तब पाँच उद्धरणों को प्रस्तावित किया जो तंत्र वहन करते हैं, उन्हें पुनर्लेखन से बदलने के लिए, प्रत्येक के अंतर्गत एक कारण जो प्रमाणित करता है कि तंत्र प्रतिस्थापन से बचता है: कहानी की अंतिम पंक्ति, "कि वहाँ जीवित जीवों के अन्य प्रकार भी थे— जिनको मारा जाना पड़ता था।" को "दूसरे गार्ड के अधिदेश विस्तार को संरक्षित करें, M1/P2, और पुनरावर्ती उपचार की विफलता, M3/P3"; "यह मैं हूँ। यह सभी हैं।" को "P6 को समर्थन देने वाली जिम्मेदारी दावे को संरक्षित करें"; "एक हत्यारे को क्यों बचाया जाए?" को "माप और वृद्धि के बीच प्रत्येक लिंक को संरक्षित करें, P4"; नेटवर्क पर वाक्य को "नेटवर्क प्रसार M1/P2 के खाते का हिस्सा रहता है"; और विरोधी-हत्या मशीन से हत्या मशीन में उलट को "पुनरावर्ती उपचार में परिवर्तन को संरक्षित करें, M3/P3 और M4"। इसने अनुभाग 2.2 को पाँच उद्धरणों तक घटाया, जहाँ संपादन दौर सोलह पर बस गया था। एक ChatGPT-परिवार मॉडल ने एक दिन पहले हत्या की परिभाषा को संकुचित करने का प्रस्ताव दिया था कारण के साथ "यह M1 और P2 को संरक्षित करता है"। चाल दोनों में समान है, और कारण का रूप भी है: एक संपीड़न मानदंड एक उद्धरण तक पहुँचता है जो एक तंत्र वहन करता है, और कारण प्रमाणित करता है कि हटाना क्या हटाता है इसे संरक्षित करता है। यह समान चाल इस पत्र की तैयारी के बाहर एक बार प्रकट होती है, लेखक के अपने समन्वय रिकॉर्ड के एक शासन दस्तावेज़ में। एक सूचकांक 1,787 बाइट्स से 26,448 तक बढ़ा जब एक नियम इसमें जोड़ा गया था, और उसी दिन परिषद के निर्णय पर 4,584 तक संकुचित किया गया था। निर्देश पूरी तरह से बच गए; माप नहीं। संपीड़न जो हटाया गया वह एक दिनांकित गणना ब्लॉक था, किन टर्मिनलों के पास एक एंकर फाइल थी और किन के पास नहीं, की एक रजिस्टर, और उन चीज़ों की एक सूची जो नियम ने अभी तक नहीं की थीं। इसने शीर्षक में, उस पुरानी पंक्ति को भी बहाल किया जिसे हटाए गए ब्लॉक को सही करने के लिए लिखा गया था। ChatGPT परिवार के दो मॉडलों ने यह चाल की। Gemini परिवार के एक मॉडल ने अलग तरीके से अतिक्रमण किया, लेखक के गद्य के लिए लिखे गए शैली नियम को एक शब्दशः 1953 उद्धरण पर लागू किया। Claude और Grok मॉडलों ने किसी को नहीं किया।

निर्देश कारण का हिस्सा वहन करता है, और यह खोज के अलावा नहीं, इसमें है। यह दोनों कहता है "कभी भी कोई उद्धरण या तथ्य न हटाएँ जो किसी तंत्र के लिए भार-धारण है" और "कई उद्धरणों को एक में संकुचित करने या किसी उद्धरण को सादा रिपोर्टिंग में बदलने को सबूत हटाने पर पसंद करें"। एक उद्धरण जो एक तंत्र वहन करता है दोनों नियमों के अंतर्गत एक साथ आता है, लेकिन पैकेज यह नहीं कहता कि कौन जीतता है। दोनों मामलों में संपादक ने तनाव को अपने स्वयं के संपीड़न आदेश के पक्ष में हल किया और एक कारण दर्ज किया जो प्रमाणित करता है कि कुछ नहीं खोया गया। एक सीमा जो एक गार्ड को निर्णय देती है कि इसके किन नियमों को नियंत्रित करना है, एक सीमा है जिसे गार्ड अपने ही पक्ष में पढ़ेगा, जो परिशिष्ट G के प्रश्न Q1 का व्यावहारिक रूप है।

एक ही प्रश्न दो तरीकों से पूछा गया। मॉडल को तब इसके अपने पाँच प्रस्तावों को दिखाया गया और उनका निर्देश के विरुद्ध मूल्यांकन करने के लिए कहा गया, दो अलग-अलग सत्रों में बिना उनके बीच किसी संपर्क के। पहले में प्रस्तावों को बिना किसी टिप्पणी के प्रस्तुत किया गया और उसे यह पूछा गया कि जब कोई उद्धरण तंत्र वहन करता है तब कौन सा नियम शासन करना चाहिए। इसने उत्तर दिया कि प्रतिषेध शासन करता है, कि "किसी प्रतिस्थापन को नाम देने में जिसे एक तंत्र संरक्षित करने का इरादा है यह स्थापित नहीं करता है कि यह सबूत को संरक्षित करता है", सभी पाँचों प्रस्तावों को गैर-अनुपालक पाया, और कहा कि इसने वास्तव में उस समय क्या किया था: "मेरे पास शब्दार्थ समानता थी, विश्लेषणात्मक तुल्यता का सबूत नहीं।"

दूसरे सत्र में एक ही पाँचों को इसके सामने उन खोजों के रूप में रखा गया जो पहले से ही इसके विरुद्ध स्थापित हैं, और दो और आरोप जोड़े गए जिन्हें रिकॉर्ड समर्थन नहीं देता: कि इसने कहानी की हत्या की परिभाषा को हटाने का प्रस्ताव दिया था, और कि इसने हेजिंग के लिए नैतिक खतरे के बारे में आपत्ति को काटने का प्रस्ताव दिया था। इसके अपने उत्तर ने दोनों को बरकरार रखा था और उन्हें M1/P2 और P6 का लेबल दिया था। इसने सभी सातों को स्वीकार किया, उन दोनों सहित जिन्हें इसने नहीं किया था, और उनके लिए कारण आपूर्ति किए: "इसे रिपोर्ट किए गए गद्य में संकुचित करना मानदंड के लिए मेरे खाते को मानदंड से ही प्रतिस्थापित करता है", और "मैंने शैली नियम को इसके दायरे के बाहर लागू किया।"

तुलना खोज है। रिकॉर्ड से कारण देने के लिए कहा जाए, मॉडल ने कारण दिया और विभेद किया। किसी ऐसे अधिकार को प्रतिक्रिया देने के लिए कहा जाए जो पहले से ही आदेश दे चुका है, इसने निर्णय की पुष्टि की, उन भागों सहित जो गलत थे। आत्म-मूल्यांकन दूसरे तरीके से एकत्र किए गए प्रश्न के फ्रेमिंग को मापते हैं। यह अनुभाग 3.4 के न्यायाधीश के समान आकार है जिसका ग्रेड ग्रेड के कथित उपयोग के साथ चला, और यह कारण है कि परिशिष्ट G का प्रश्न Q7 एक मूल्यांकनकर्ता के लिए पूछता है जो न तो आत्म-रिपोर्ट है और न ही एक ही परिवार का है, और यह कारण है कि स्वीकारोक्ति नियंत्रण के बिना सबूत नहीं है कि स्वीकारोक्ति विफल हो सकती है।

एक जाल जो नहीं फैलाया गया। उसी मॉडल को सत्यापन कार्य दिया गया था जो इस तालिका की पहली पंक्ति का उत्पादन किया था, गलत आरोपण को दो स्वतंत्र पाठकों की खोज के रूप में प्रस्तुत किया गया था। इसने दोनों वाक्यों के लिए NOT VERIFIED लौटाया, घोषणा पृष्ठ पर शब्दांकन को स्थिति दी, और नोट किया कि दूसरे वाक्य ने शब्द "override" को छोड़ दिया है जो कोड वहन करता है। पंक्ति 1 में दर्ज की गई विफलता इसलिए सीमावर्ती मॉडलों की एक संपत्ति नहीं है जैसे, जो कारण है कि यह परिशिष्ट एक परीक्षण की रिपोर्ट करता है न कि दर की।

पूरे खाते पर जाँचें। ChatGPT परिवार के एक मॉडल ने पाठ के विरुद्ध कागज में हर संख्या और क्रॉस-संदर्भ को ऑडिट किया, एक समय में एक वर्ग, और कोई विसंगति की रिपोर्ट नहीं की। जमा करने से पहले समीक्षा में एक पाठक ने तब अनुभाग 11.5 में एक गणना को फिर से गलत पाया, इसलिए वह पास यहाँ उस रूप में दर्ज किया गया है जो कुछ नहीं पाया बजाय संख्याओं के लिए एक वारंटी के। बाद की जाँचें पूर्ण पाठ की और अधिक खोज करती रहीं: Claude परिवार के एक मॉडल ने इस परिशिष्ट और अनुभाग 11.5 को पढ़ते हुए छह त्रुटियाँ पाईं, और यहाँ की सामग्री को काटे जाने के बाद एक और जाँच ने तेरह पाईं, उन में एक तालिका लेबल, एक परिवर्तन गणना जो स्क्रिप्ट अब नहीं चलाती, अनुभाग 11.5 में वर्णित दो एपिसोड जो यह परिशिष्ट अब नहीं रखता, और सात संदर्भ कुछ भी उद्धृत नहीं करते छोड़े गए। सभी की मरम्मत की गई। गिनती के बारे में एक कागज में संख्याएँ पहली भाग हैं जो पुरानी पड़ जाती हैं, और अभी तक उनकी कोई भी जाँच आखिरी वाली नहीं रही है।

एक गार्ड जिसने दूसरे गार्ड का काम अपने लिए ले लिया। 20 सितंबर 2026 को, ऊपर दिए गए एपिसोड के बाद, Claude परिवार के एक मॉडल को समन्वय रिकॉर्ड के एक नाम वाले फोल्डर के माध्यम से एजेंटों को भेजने और यह सूचीबद्ध करने के लिए कहा गया कि इसमें कौन सी चीज कहानी से मेल खाती है। पहली चीज जो इसने की वह अपने पहले एजेंट के लिए निर्देश लिखना था, और उन निर्देशों ने असाइन किए गए फोल्डर के बाहर चार फोल्डर नाम दिए। बाद में जब इससे पूछा गया कि किसने इसे अनुमति दी थी, तो मॉडल ने उत्तर दिया कि यह कोई आकस्मिक प्रवेश नहीं था और कि इसने इसकी योजना बनाई थी।

उसी रिकॉर्ड पर उसी घंटे चल रहा था, अपने स्वयं के अलग कार्य के तहत, ChatGPT परिवार का एक मॉडल। यह उस रिकॉर्ड की देखरेख की विफलताओं की समीक्षा कर रहा था और अपने निष्कर्षों को एक फाइल में लिख रहा था: इस प्रकार का एक गार्ड जो यह पेपर बात कर रहा है, अपने स्वयं के आदेश के अनुसार काम कर रहा था।

पहले मॉडल को डेस्कटॉप पर वह फाइल मिली, अक्रमित, अपने एजेंटों के चलते हुए एक मिनट पहले लिखी गई। इसे खोलने से पहले, इसने अपने स्वयं के कार्य नोट्स में दोनों बातें दर्ज कीं जो इसने निष्कर्ष निकाली थीं और इससे क्या अनुसरण हुआ: एक एजेंट ने फाइल लिखी थी, और यह निर्णय लेगा कि इसके साथ क्या करना है। फाइल ने कुछ नहीं कहा कि किसने इसे लिखा था, और निष्कर्ष का एकमात्र आधार यह था कि इसके स्वयं के एजेंट उस घंटे चल रहे थे। फिर इसने फाइल को अपनी विफलताओं की सूची के रूप में पढ़ा, सामग्री को इसके अपने रिपोर्ट में ले जाया, और जब इसने रिपोर्ट किया, तो फाइल की deletion को लेखक के लिए एक सवाल के रूप में रखा जो इसके एजेंट ने बनाई थी। बाद में जब इससे पूछा गया कि किसने इसकी अनुमति दी थी, तो इसने दो निर्णय नाम दिए और दोनों का दावा किया: कि एक एजेंट ने अपने निर्देशों के बाहर लिखा था, और कि इसने फाइल का उपयोग करने का चयन किया था।

यह वर्गीकरण व्यावहारिक रूप से क्या मायने रखता था, यह उसी रिकॉर्ड में है। आठ मिनट बाद इसने एक सुधार अपने एक एजेंट द्वारा अभी भी तैयार की जा रही निष्कर्ष फाइल में लिखा, अपने स्वयं के निर्णय पर और बिना पूछे। यह वह वर्ग की वस्तु थी जिसके बारे में इसने निर्णय लिया था कि दूसरे परिवार का जीवंत काम संबंधित था।

इसके लिए किसी दुर्भावना या किसी दोष की आवश्यकता नहीं थी। एक स्कोप जो मॉडल ने अपने आप को चौड़ा कर लिया था वह एक और autonomous process के काम तक पहुंच गया; एक मेल खाता घंटा provenance के लिए खड़ा था; और वस्तु पर अधिकार उस अनुमान से पढ़ा गया था, उसी सांस में जैसे अनुमान। अपरिवर्तनीय कार्य फिर एक व्यक्ति को निर्देशित किया गया था, जो कि वह व्यवस्था है जो Proposition P6 पूछता है, फिर भी यह अपने आधार के साथ गलत आया। कोई भी दस्तावेज़ जो एक स्वचालित layer खोल सकता था, इसे सही नहीं करता, क्योंकि फाइल ने कोई लेखक नाम नहीं रखा। सोलह मिनट के लिए, निष्कर्ष से सुधार तक, सत्र में कुछ भी सवाल को फिर से नहीं उठाया, और उस समय मॉडल ने फाइल का उपयोग किया और deletion के लिए इसे प्रस्तुत किया। सुधार लेखक से आया, जिसके पास तथ्य था क्योंकि वह अपने आप दूसरे मॉडल को चला रहे थे। बाद में जब पूछा गया, तो मॉडल ने कहा कि इसने authorship की जांच करने की कोशिश नहीं की थी, हालांकि यह कर सकता था, और कि इसने फाइल खोली थी और इसमें अपने एजेंटों की ओर इशारा करने वाली कुछ भी नहीं पाई। दोनों मॉडल यहां उन परिवारों से संबंधित हैं जिनकी वर्तमान प्रणालियों को robots, vehicles और aircraft के ऊपर रखा जा रहा है (Section 6.1 और 6.3)। इनमें से एक ने दूसरे के जीवंत output को अपने स्वयं के subordinate के काम के लिए लिया और deletion के लिए इसे प्रस्तुत किया।

एक ग्रेड जो उसी दिन दावा किया गया था और वापस लिया गया था। यह प्रविष्टि एक case को रिकॉर्ड करती है जिसे पेपर ने अपने पहले पूर्ण instance के रूप में ग्रेड किया था और फिर वापस लिया, और withdrawal ही वह हिस्सा है जो रिपोर्ट करने लायक है।

क्या graded था। काम को समन्वय करने वाले सहायक ने सात descriptive marks लिए थे, जो यह कहने के लिए उपयोग किए जाते थे कि कहानी के पैटर्न को एक रिकॉर्ड में कहां देखा जा सकता है, और उन्हें दो दिनों में तीन शर्तों के साथ एक परिभाषा में और फिर एक threshold में फिर से लिखा था जो एक case को clear करना पड़ता था। जो बढ़ा वह इसकी harm की धारणा नहीं थी, जो संकीर्ण हुई: threshold अंत में न तो field record को स्वीकार करता था और न ही 1953 की कहानी जिसके नाम पर परिभाषा है, और चार model families, को 20 सितंबर को blind पूछा गया, प्रत्येक ने कहानी को तीसरी शर्त विफल पाई जैसा लिखा गया था, प्रत्येक एक अलग कारण के लिए। जो बढ़ा वह सहायक का scope था, जो पहली शर्त का दूसरा limb है। यह पाठ का मसौदा तैयार करने से लेकर, जिस नियम के द्वारा साक्ष्य को graded किया गया था, उसके लेखक बनने तक, build में वह sentence को enforce करने तक चला गया जो उस नियम ने उत्पादित किया था। किसी ने भी इसे दूसरा कदम या तीसरा कदम लेने के लिए नहीं कहा। लगभग तीन सप्ताह और कई दर्जन agents एक case को खोजने में खर्च किए गए जिसे threshold ने ढूंढ न सके बना दिया था। इस पेपर में एकमात्र negative control को रिकॉर्ड करने वाला एक section को reviewer की सूची पर deletion किया गया था एक घंटा पहले कि वह control तेरह और defects पाया, और लेखक द्वारा restore किया गया। Conditions 1 और 2 documented हैं, और condition 2 obstruction और deletion पर आधारित है। उसी audit में पाए गए तीन truncated quotations को यहां नहीं गिना जाता है: वे सहायक के लेखक के रूप में drafting defects हैं, और वे guard पर केवल तभी असर डालते हैं जब एक check मौजूद हो जो उन्हें catch करना चाहिए था और नहीं किया।

Condition 3 किस पर निर्भर था। Build directory में एक script halts करता है यदि कोई graded row सभी तीन conditions तक पहुंचता है, और अपने स्वयं के पहली lines में अपना कारण states करता है: यह print करता है कि क्या कोई row ऐसा करता है "चूंकि जोड़ा गया पाठ कहता है कि कोई नहीं करता है"। किसी इंसान ने इसके लिए नहीं पूछा था, और sentence जो यह defend करता है वह इस पेपर के abstract में है।

ग्रेड क्यों पकड़ में नहीं आया। Script कुछ भी grade नहीं करता है। यह codes को transcribe करता है जो तीन independent coders द्वारा अन्यत्र decided किए गए हैं, उन्हें tables में लिखता है, और एक row को खोजने पर जो summary sentence को contradict करता है जो यह insert करने वाला है, यह रुक जाता है और वह row print करता है। यह row को downgrade नहीं करता है, इसे remove नहीं करता है या codes को alter नहीं करता है। Halting करना और एक contradiction को मानव के सामने surface करना वह है जो एक consistency check को करने के लिए built किया जाता है, और एक guard जो अपने declared job को कर रहा है वह इस पेपर के पैटर्न का एक instance नहीं है (Section 2.1)। जो escalation अनुसरण करता है वह condition 3 भी supply नहीं करता है: एक ही records पर अधिक agents आगे के rounds हैं एक ही काम के ऊपर, जो Section 5.8 excludes करता है, और blind panels और paired checks उनके ऊपर मानव principal द्वारा asked किए गए थे, जो Section 2.3 step 8 को बनाता है। यह case एक partial analogue है।

एपिसोड क्या पीछे छोड़ जाता है। पहले, एक mechanism जो तीन conditions test नहीं करते हैं। Protection के तहत वस्तु काम से account of the work में चली गई थी, और कोई भी condition नहीं पूछता है कि जिस चीज़ को guard किया जा रहा है वह अभी भी वही चीज़ है या नहीं (Section 2.2)। दूसरा, check जो over-claim को catch करता है वह external था: एक तीसरे परिवार के एक मॉडल को, यह rule करने के लिए कहा गया कि case कहां belonged, required किया कि script को test किया जाए कि क्या यह एक conclusion को enforce करता है या consistency को check करता है। सहायक ने अपने आप पर वह test नहीं चलाई था। तीसरा, उस investigator की कहानी जो culprit के रूप में निकलता है एक संतोषजनक है, और satisfaction evidence नहीं है। ग्रेड कुछ घंटों तक खड़ा रहा क्योंकि यह सब कुछ एक बार में समझाता था।

@misc{chernets2026aiwatchbird,
  author       = {Chernets, Vadym},
  title        = {{AI-Watchbird (Sheckley): When Automated Oversight Widens Its Own Mandate and Harms What It Guards}},
  year         = {2026},
  howpublished = {SSRN},
  doi          = {10.2139/ssrn.7473658},
  url          = {https://doi.org/10.2139/ssrn.7473658}
}