एक स्कूल-बस रीकॉल दूरस्थ निरीक्षण के बारे में क्या कहता है — अनुसंधान नोट्स
यह एक अनुवाद है। प्रामाणिक संस्करण मूल अंग्रेज़ी पाठ है; कृपया उसी का हवाला दें।
दो अलग-अलग सार्वजनिक रिकॉर्ड में स्वचालित वाहन स्कूल बसों को रोकने वाली भुजाओं के साथ पारित करते हैं। एक में, ड्राइविंग सिस्टम के अंदर एक नियम ने रोक को ओवरराइड कर दिया; दूसरे में, सिस्टम ने एक मानव से पूछा और मानव को गलती हुई। उन्हें एक साथ पढ़ने पर, वे दिखाते हैं कि पेपर क्यों तर्क देता है कि मानव निरीक्षण कुछ सीमांत निर्णयों पर है न कि एकल क्रियाओं पर।
दो घटनाएँ, एक नहीं
ये अलग-अलग घटनाएँ हैं और इन्हें मिलाया नहीं जाना चाहिए।
रिकॉल। Waymo की स्वचालित ड्राइविंग प्रणाली में एक नियम है कि इसे स्कूल बसों जैसे प्राथमिकता वाहनों में बाधा नहीं डालनी चाहिए। अगस्त 2025 में एक सॉफ़्टवेयर रिलीज़ ने सिस्टम द्वारा अन्य सड़क उपयोगकर्ताओं के इरादों की भविष्यवाणी करने के तरीके को बदल दिया। इसके बाद, कंपनी की रिकॉल रिपोर्ट के अनुसार, "ADS ने यह निर्धारित किया कि यह स्कूल बस या किसी अन्य प्राथमिकता वाहन में बाधा डाल सकता है, और फिर यह तर्क दिया कि इसे दूसरे वाहन को बाधित करना बंद करने के लिए आगे बढ़ना चाहिए", एक ऐसे समय में जब स्कूल बस का स्टॉप आर्म विस्तारित था। रिकॉल में 3,067 वाहन शामिल थे। इसके समाधान में कहा गया है कि सिस्टम "स्कूल बस के लिए उचित रूप से स्थिर रहने की तुलना में वाहनों को बाधित करने से बचने को प्राथमिकता नहीं देता है"।
Austin में रिमोट एजेंट। 12 जनवरी 2026 को Austin में, एक स्वचालित वाहन स्कूल बस के पीछे रुका और रिमोट सहायता से पूछा कि क्या यह सक्रिय संकेतों वाली स्कूल बस है। National Transportation Safety Board की प्रारंभिक रिपोर्ट के अनुसार, एक रिमोट एजेंट ने "प्रॉम्प्ट के लिए 'नहीं' का उत्तर दिया", और वाहन "फिर से यात्रा शुरू की और स्कूल बस को पार किया जबकि इसकी स्टॉप आर्म अभी भी विस्तारित थीं"।
प्रत्येक एक क्या दिखाता है
रिकॉल में, एक सुरक्षात्मक नियम सक्रिय हुआ जहां एक मजबूत सुरक्षा होनी चाहिए थी, अर्थात् बस पर बच्चों की सुरक्षा। पेपर इसे सुरक्षित लोगों को नुकसान का दस्तावेजीकरण करने के रूप में मूल्यांकन करता है (इसकी परिभाषा की शर्त 2)। यह नोट करता है कि दस्तावेज़ उन स्थितियों को दर्ज करते हैं जिनसे नियम मेल खाता है, न कि नुकसान की परिभाषा में परिवर्तन, इसलिए रिकॉर्ड यह नहीं दिखाता कि गार्ड ने अपने स्वयं के जनादेश को चौड़ा किया है।
ऑस्टिन में, पेपर का पाठ सीधा है: "मॉडल की संदेह सही था और दूरस्थ एजेंट, जिससे एक एकल कार्रवाई के बारे में पूछा गया, गलत हो गया।" सिस्टम ने वह किया जो एक सावधान डिज़ाइन मांगता है। इसने रुका और पूछा। मानव के उत्तर पर, यह आगे बढ़ गया।
मानव-पाश में विफलता और मानव कहाँ बैठता है
प्रस्ताव P6 भविष्यद्वाणी करता है कि मानव निरीक्षण तब कायम रहेगा जब यह कुछ सीमांत निर्णयों (लक्ष्य, एक नए नियंत्रण की स्वीकृति, रोक) में केंद्रित हो जो दुनिया तक पहुँच और कार्य करने के समय के साथ लिए जाएँ, और तब विफल होगा जब यह व्यक्तिगत कार्यों की स्वीकृति में फैला हो या कलाकृतियों के माध्यम से प्रयोग किया जाए। एक दूरस्थ एजेंट जो एक कार्य के बारे में हाँ-या-नहीं प्रश्न का उत्तर देता है, वह दूसरी नियुक्ति है।
सॉफ्टवेयर स्तर पर समान विभाजन दिखाता है। एक डेवलपर ने बताया कि उपयोगकर्ता 97% अनुमति संकेतों को मंजूरी देते हैं, और 1,053 परीक्षकों के साथ एक अध्ययन में मनुष्यों ने खतरनाक आदेशों का 13.6% पकड़ा, जबकि एक स्वचालित वर्गीकारक के लिए 89% था। कागज के शब्दों में: "एक मानव जिससे हर कदम को मंजूरी देने के लिए कहा जाता है, एक रबर स्टैम्प बन जाता है।"
भौतिक AI निरीक्षण को समय और पहुँच की आवश्यकता है
एक शरीर समय और अपरिवर्तनीयता लाता है। एक रिपोजिटरी में गलत फैसला पलटा जा सकता है; सड़क की गति पर दिया गया नहीं। कागज नोट करता है कि मानव स्विच जो इसके क्षेत्र के रिकॉर्ड में काम करता था "समय और पहुँच की आवश्यकता है जो एक भौतिक प्रणाली नहीं दे सकती"। यह भौतिक मामलों से एक और आवश्यकता जोड़ता है: सीमा पर एक मानव को दुनिया तक पहुँच और कार्य करने का समय चाहिए।
सड़क का रिकॉर्ड कहीं और भी यही तनाव दिखाता है। 2018 के टेम्पे दुर्घटना में, जाँचकर्ताओं ने पाया कि प्रणाली डिज़ाइन "टक्कर शमन के लिए आपातकालीन ब्रेकिंग सक्रिय करने को रोकता है, इसके बजाय ऑपरेटर के हस्तक्षेप पर निर्भर है", और यह कि ऑपरेटर की "लंबी दृश्य विचलन, स्वचालन प्रमोद का एक विशिष्ट प्रभाव" उसे समय पर पैदल चलने वाले को देखने से रोकता था।
EU AI Act Article 14 मानव निरीक्षण
EU AI Act का Article 14 उच्च-जोखिम AI प्रणालियों की मानव निरीक्षण की आवश्यकता रखता है, एक समय सारणी पर जो पत्र अपने Appendix I में दर्ज करता है: एक 2026 संशोधन विनियम ने स्वतंत्र उच्च-जोखिम प्रणालियों के लिए दायित्वों को 2 दिसंबर 2027 तक और उत्पाद-एम्बेडेड लोगों के लिए 2 अगस्त 2028 तक स्थानांतरित किया। Article 26 तैनाती करने वालों को निरीक्षण को उन लोगों को सौंपने की आवश्यकता रखता है जिनके पास "आवश्यक दक्षता, प्रशिक्षण और प्राधिकार, साथ ही आवश्यक समर्थन" है। पत्र उन शब्दों को वैधानिक रूप में P6 की परीक्षा के रूप में पढ़ता है: रोकने का प्राधिकार, और समर्थन जो पहुँच और समय प्रदान करता है। यह यह भी चेतावनी देता है: "एक निरीक्षण आवश्यकता जो अनुमोदन प्रॉम्प्ट जोड़ने से पूरी होती है, स्वयं एक दूसरा झुंड बन सकती है।"
ये दोनों सड़क रिकॉर्ड प्रत्येक पत्र की परिभाषा की एक शर्त को दस्तावेज़ करते हैं। सभी तीन शर्तें एक घटक में कितनी बार मिलती हैं "यह यहाँ के रिकॉर्ड द्वारा निर्धारित नहीं है"।
संपूर्ण अनुभाग: सड़क पर (6.2), शरीर प्रश्न को क्यों बदलता है (6.1), प्रस्ताव P6, अनुमोदन प्रॉम्प्ट (8.4), मानव-निरीक्षण आवश्यकताएँ (11.4), नियामक रिकॉर्ड (Appendix I)।
Chernets, V. (2026). AI-Watchbird (Sheckley): जब स्वचालित निरीक्षण अपना अधिकार विस्तृत करता है और जो वह रक्षा करता है उसे नुकसान पहुँचाता है। SSRN 7473658. https://doi.org/10.2139/ssrn.7473658
Vadym Chernets भी Poly A1 बनाते हैं, एक ऐसा ऐप जिसमें विभिन्न कंपनियों के AI एक दूसरे के काम की जाँच करते हैं।