एआई 'किल स्विच' के लिए कैलिफोर्निया गवर्नर का आदेश
कैलिफोर्निया के गवर्नर गैविन न्यूसम ने 18 सितंबर को कार्यकारी आदेश पर हस्ताक्षर किए, जिसमें उन्नत एआई प्रणालियों की निगरानी तेज करने और फ्रंटियर मॉडलों के लिए आपातकालीन 'किल स्विच' पर विचार करने की बात है। यह आदेश स्वतंत्र सत्यापन संस्थाएं और एआई ऑडिटरों की रजिस्ट्री बनाने वाले दो राज्य कानूनों के अमल को गति देगा। न्यूसम ने कहा कि विशेषज्ञ दो माह में सिफारिशें दें कि एआई कंपनियों में स्वतंत्र मूल्यांकनकर्ता और शटडाउन तंत्र जरूरी हैं या नहीं। उन्होंने वाशिंगटन की निगरानी कमी की आलोचना की।
स्रोत
Times of India — Top · मूल ख़बर पढ़ें ↗
डेस्क जाँच · स्रोत से तुलना की
डेस्क ने क्या जाँचा (5)
- Newsom signed an executive order on September 18 accelerating oversight of advanced AI, including exploring an emergency 'kill switch' for frontier models. — Attributed to the executive order; date and content appear in source.
- Experts must deliver recommendations within two months on onsite independent evaluators and shutdown mechanisms. — Attributed to Newsom in the source.
- Newsom called Washington's approach a 'failure to create meaningful accountability' and urged Trump and Congress to adopt California's framework. — Direct quote and characterisation attributed to Newsom, including his post on X.
- Senators Elizabeth Warren, Bernie Sanders and Representative Greg Casar have sought a pause or ban on advanced AI/superintelligence development. — Reported in source without direct quotes or documents cited.
- Trump dismissed AI-safety concerns in a call with Nvidia CEO Jensen Huang, citing competition with China. — Reported without named sourcing for the private call; editor should treat as second-hand.
विश्लेषकों की राय राय
यह संकेत है कि एआई नियमन का केंद्र वॉशिंगटन से खिसककर राज्यों की ओर जा रहा है। कैलिफोर्निया — जहाँ अग्रणी एआई कंपनियाँ मौजूद हैं — स्वतंत्र सत्यापन संस्थाओं, ऑडिटरों की रजिस्ट्री और 'किल स्विच' की पड़ताल की दिशा में बढ़ रहा है, यानी सुरक्षा का भरोसा कंपनियों के स्वघोषित दावों से बाहरी जाँच की ओर सरक रहा है। तकनीकी रूप से असली सवाल यह है कि स्वायत्त एजेंट्स को रोकने वाला तंत्र व्यवहार में कैसा होगा; यह अभी तय नहीं है और विशेषज्ञों की सिफारिशों पर टिका है।
- 'किल स्विच' कोई एक बटन नहीं है — स्वायत्त एजेंट्स को रोकने के लिए मॉडल सर्विंग, एपीआई एक्सेस और टूल कनेक्शन पर इंजीनियरिंग स्तर के नियंत्रण चाहिए होंगे।
- ऑडिटर रजिस्ट्री और स्वतंत्र मूल्यांकनकर्ता एआई सुरक्षा ऑडिटिंग को एक नए पेशे और उद्योग के रूप में खड़ा कर सकते हैं।
- कंपनियों के परिसर में मूल्यांकनकर्ता बैठाने के विचार पर मॉडल वेट्स, ट्रेनिंग डेटा और व्यापारिक गोपनीयता को लेकर आपत्तियाँ उठ सकती हैं।
- बड़ी लैब्स अनुपालन लागत उठा सकती हैं; छोटी कंपनियों और ओपन-मॉडल डेवलपर्स पर तुलनात्मक बोझ ज्यादा पड़ने की आशंका है।
- विभाजन उद्योग के भीतर भी है — एंथ्रोपिक और ओपनएआई के प्रमुख धीमी रफ्तार के पक्ष में रहे हैं, जबकि ट्रंप इसे चीन के मुकाबले नुकसान मानते हैं।
किस पर नज़र रखें — दो महीनों में आने वाली विशेषज्ञ सिफारिशों पर नजर रखें, खासकर शटडाउन तंत्र और ऑनसाइट मूल्यांकनकर्ताओं के लिए प्रस्तावित तकनीकी मानकों पर।
यह खबर यह स्पष्ट नहीं करती कि किल स्विच कैसे काम करेगा, किन मॉडलों पर लागू होगा, कब से प्रभावी होगा, या एआई कंपनियों की प्रतिक्रिया क्या रही — फिलहाल यह अध्ययन और गति बढ़ाने का आदेश है, अंतिम नियम नहीं।
गहराई से
शोध सारांश · 8 तथ्य · 3 तारीख़ें · परीक्षा के लिएसार
पृष्ठभूमि
कैलिफोर्निया के गवर्नर गैविन न्यूसम ने 18 सितंबर को एक कार्यकारी आदेश पर हस्ताक्षर किए, जिसका मकसद उन्नत ('फ्रंटियर') एआई प्रणालियों पर स्वतंत्र निगरानी को तेज करना है। आदेश दो नए राज्य कानूनों के अमल में तेजी लाएगा, जो स्वतंत्र सत्यापन संगठन और एआई ऑडिटरों की रजिस्ट्री स्थापित करते हैं। इसमें सबसे उन्नत एआई एजेंट्स के लिए आपातकालीन 'किल स्विच' (शटडाउन तंत्र) की संभावना तलाशने की बात भी है। यह कदम अमेरिका में इस बहस के बीच आया है कि सुरक्षा उपायों को पकड़ बनाने देने के लिए एआई विकास की गति धीमी की जाए या नहीं।
मुख्य तथ्य
- 18 सितंबर को गवर्नर गैविन न्यूसम ने एआई निगरानी तेज करने वाले कार्यकारी आदेश पर हस्ताक्षर किए।
- आदेश दो नए राज्य एआई कानूनों के अमल को गति देता है, जो स्वतंत्र सत्यापन संगठन और एआई ऑडिटरों की रजिस्ट्री बनाते हैं।
- विशेषज्ञों को दो माह के भीतर सिफारिशें देनी हैं कि एआई कंपनियों में स्वतंत्र मूल्यांकनकर्ता ऑनसाइट हों या नहीं और उन्नत एजेंट्स में शटडाउन तंत्र हो या नहीं।
- न्यूसम ने वॉशिंगटन की निगरानी कमी को 'सार्थक जवाबदेही बनाने में विफलता' कहा।
- न्यूसम ने राष्ट्रपति डोनाल्ड ट्रंप और कांग्रेस से कैलिफोर्निया के ढांचे को राष्ट्रीय आधार-रेखा के रूप में अपनाने का आग्रह किया।
- सीनेटर एलिजाबेथ वॉरेन ने इस सप्ताह उन्नत एआई विकास पर विराम (pause) की मांग की।
- सीनेटर बर्नी सैंडर्स और प्रतिनिधि ग्रेग कासर ने कृत्रिम सुपरइंटेलिजेंस के विकास और तैनाती पर स्थायी प्रतिबंध का विधेयक प्रस्तावित किया है।
- ट्रंप ने एनवीडिया के सीईओ जेनसन हुआंग से बातचीत में एआई-सुरक्षा चिंताओं को बढ़ा-चढ़ाकर बताया गया करार दिया।
समयरेखा
- इस सप्ताह (आदेश से पहले)सीनेटर एलिजाबेथ वॉरेन ने उन्नत एआई विकास पर रोक लगाने की मांग की।
- 18 सितंबरन्यूसम ने कार्यकारी आदेश पर हस्ताक्षर किए; एक्स पर 'एआई किल स्विच' की दिशा में कदम की घोषणा की।
- आदेश के दो माह के भीतरविशेषज्ञ पैनल की सिफारिशें आनी हैं — ऑनसाइट स्वतंत्र मूल्यांकनकर्ता और शटडाउन तंत्र पर।
किसका दाँव
- गवर्नर गैविन न्यूसम / कैलिफोर्निया राज्य — संघीय नियमों की अनुपस्थिति में राज्य-स्तरीय एआई निगरानी ढांचा खड़ा करना और उसे राष्ट्रीय आधार-रेखा बनवाना।
- फ्रंटियर एआई कंपनियां — ऑनसाइट स्वतंत्र मूल्यांकनकर्ता, ऑडिट और संभावित शटडाउन तंत्र जैसी अनुपालन बाध्यताओं का सामना।
- राष्ट्रपति डोनाल्ड ट्रंप और कांग्रेस — ट्रंप गति धीमी करने के विरोध में, चीन से प्रतिस्पर्धा का जोखिम बताते हैं; कांग्रेस पर निगरानी कानून बनाने का दबाव।
- सीनेटर वॉरेन, सैंडर्स, प्रतिनिधि ग्रेग कासर — उन्नत एआई पर विराम और सुपरइंटेलिजेंस पर स्थायी प्रतिबंध के जरिये निर्णय निर्वाचित प्रतिनिधियों के हाथ में लाना।
- एंथ्रोपिक के डारियो अमोदेई, ओपनएआई के सैम ऑल्टमैन — उद्योग के भीतर से धीमी गति और अधिक तृतीय-पक्ष निगरानी का समर्थन।
- एनवीडिया के सीईओ जेनसन हुआंग / डेटा सेंटर उद्योग — तेज विकास, डेटा सेंटर से रोजगार और संपदा सृजन का तर्क; नियमन से कारोबारी असर।
क्यों अहम है
संघीय स्तर पर एआई नियमन की कमी के बीच कैलिफोर्निया का आदेश यह तय कर सकता है कि अलग-अलग राज्य फ्रंटियर एआई को कैसे नियंत्रित करें — यानी एक शुरुआती टेम्पलेट। साथ ही यह राज्य-स्तरीय सतर्कता और व्हाइट हाउस के 'पूरी रफ्तार आगे' रुख के बीच खाई को गहरा करता है। दुनिया भर के नीति-निर्माताओं के लिए यह बहस प्रासंगिक है कि सुरक्षा, जवाबदेही और तकनीकी प्रतिस्पर्धा में संतुलन कैसे बने।
UPSC नज़रिया
प्रीलिम्स संकेत
- 18 सितंबर: कैलिफोर्निया के गवर्नर गैविन न्यूसम का एआई निगरानी पर कार्यकारी आदेश।
- आदेश दो राज्य कानूनों को गति देता है: स्वतंत्र सत्यापन संगठन + एआई ऑडिटरों की रजिस्ट्री।
- 'किल स्विच' = फ्रंटियर एआई मॉडलों के लिए आपातकालीन शटडाउन तंत्र।
- विशेषज्ञ सिफारिशों की समय-सीमा: दो माह।
- सैंडर्स-कासर प्रस्ताव: कृत्रिम सुपरइंटेलिजेंस पर स्थायी प्रतिबंध, संघीय सुरक्षा नियम बनने तक उन्नत एआई पर अस्थायी रोक।
- उद्योग से समर्थन: एंथ्रोपिक के डारियो अमोदेई और ओपनएआई के सैम ऑल्टमैन ने धीमी गति के पक्ष में आवाज उठाई।
मेन्स दृष्टिकोण
कैलिफोर्निया का कार्यकारी आदेश एआई शासन (गवर्नेंस) में एक बुनियादी तनाव उजागर करता है: तकनीकी नवाचार की रफ्तार बनाम सुरक्षा और जवाबदेही की जरूरत। कारण स्पष्ट हैं — फ्रंटियर मॉडल और स्वायत्त एजेंट्स तेजी से सक्षम हो रहे हैं, जबकि स्रोत के अनुसार वॉशिंगटन में 'सार्थक जवाबदेही' का ढांचा नहीं बना है; ऐसे शून्य में उप-राष्ट्रीय इकाइयां (राज्य) नियमन की पहल कर रही हैं। आदेश के तीन तत्व महत्वपूर्ण हैं: स्वतंत्र सत्यापन संगठन, एआई ऑडिटरों की रजिस्ट्री, और आपातकालीन शटडाउन ('किल स्विच') की संभाव्यता पर विशेषज्ञ राय। इसके निहितार्थ हैं — नियामक विखंडन (राज्य-दर-राज्य भिन्न नियम), कंपनियों पर अनुपालन लागत, और भू-राजनीतिक तर्क कि सख्ती चीन को लाभ पहुंचा सकती है, जैसा ट्रंप का रुख दर्शाता है। दूसरी ओर, उद्योग के भीतर से भी (अमोदेई, ऑल्टमैन) तृतीय-पक्ष निगरानी का समर्थन है, जो दिखाता है कि नियमन और नवाचार आवश्यक रूप से विरोधी नहीं हैं। आगे का रास्ता: स्वतंत्र, तकनीकी रूप से सक्षम ऑडिट क्षमता का निर्माण, शटडाउन तंत्र की व्यावहारिक व्यवहार्यता का प्रमाण-आधारित मूल्यांकन, और राज्य ढांचे को राष्ट्रीय आधार-रेखा में समाहित करना ताकि सुरक्षा निर्णय निजी कंपनियों के बजाय लोकतांत्रिक रूप से जवाबदेह संस्थाओं के पास रहें।
मुख्य शब्द
- किल स्विच
- किसी उन्नत एआई प्रणाली को आपात स्थिति में तुरंत बंद करने वाला शटडाउन तंत्र।
- फ्रंटियर मॉडल
- सर्वाधिक उन्नत और सक्षम एआई मॉडल, जिन पर स्रोत के अनुसार विशेष निगरानी प्रस्तावित है।
- कार्यकारी आदेश (Executive Order)
- कार्यपालिका प्रमुख द्वारा जारी निर्देश; यहां गवर्नर न्यूसम ने 18 सितंबर को हस्ताक्षर किए।
- स्वतंत्र सत्यापन संगठन
- नए राज्य कानूनों द्वारा स्थापित निकाय, जो एआई कंपनियों के दावों/प्रणालियों की बाहरी जांच करेंगे।
- एआई ऑडिटर रजिस्ट्री
- एआई प्रणालियों का ऑडिट करने वाले अधिकृत ऑडिटरों की राज्य-स्तरीय सूची।
- कृत्रिम सुपरइंटेलिजेंस
- मानव से अत्यधिक श्रेष्ठ एआई; सैंडर्स-कासर विधेयक इसके विकास व तैनाती पर स्थायी प्रतिबंध चाहता है।
अभ्यास प्रश्न
- संघीय नियमन की अनुपस्थिति में राज्य-स्तरीय एआई नियमन के क्या लाभ और जोखिम हैं? कैलिफोर्निया के कार्यकारी आदेश के संदर्भ में चर्चा करें।
- 'किल स्विच' जैसे आपातकालीन शटडाउन तंत्र फ्रंटियर एआई की सुरक्षा में कितने प्रभावी हो सकते हैं? स्वतंत्र ऑडिट और सत्यापन की भूमिका का मूल्यांकन करें।
- एआई विकास की गति धीमी करने के पक्ष और विपक्ष के तर्कों की तुलना करें, विशेष रूप से राष्ट्रीय प्रतिस्पर्धा और सुरक्षा के बीच संतुलन के संदर्भ में।
सिर्फ़ मूल ख़बर के आधार पर — आँकड़े और तारीख़ें स्रोत की हैं, अनुमान नहीं।