एआई में वास्तविक चेतना की संभावना बहुत कम: न्यूरोसाइंटिस्ट
एआई चेतना पर बहस दार्शनिक संगोष्ठियों से निकलकर शिक्षा जगत और तकनीक उद्योग के केंद्र में आ गई है, एक न्यूरोसाइंस लेखक ने लिखा। 2022 में गूगल इंजीनियर ब्लेक लेमोइन को चैटबॉट के चेतन होने का दावा करने पर नौकरी से निकाला गया था, जबकि एंथ्रोपिक के सीईओ डारियो अमोदेई ने न्यूयॉर्क टाइम्स से कहा कि "हम नहीं जानते कि मॉडल चेतन हैं या नहीं"। लेखक का तर्क है कि मस्तिष्क कंप्यूटर नहीं है और एलएलएम में वास्तविक चेतना की संभावना नगण्य है, पर चेतन दिखने वाला एआई नैतिक रूप से खतरनाक है।
स्रोत
Times of India — Top · मूल ख़बर पढ़ें ↗
डेस्क जाँच · स्रोत से तुलना की
डेस्क ने क्या जाँचा (5)
- Google engineer Blake Lemoine was fired in 2022 after claiming a chatbot he worked on was conscious. — Stated as fact in the source with name and year; no external document cited.
- Anthropic CEO Dario Amodei said 'we don't know if the models are conscious'. — Quote attributed in source to an interview with the New York Times earlier this year; no date given.
- The odds of real artificial consciousness in systems like LLMs are 'almost vanishingly low'. — Author's personal assessment, not a measured figure; clearly presented as opinion.
- The brain is not a computer, so consciousness may not arise in silicon. — Argument advanced by the author from his own work and book 'Being You'; contested theoretical position.
- AI that merely seems conscious can exploit psychological vulnerabilities and distort moral priorities. — Author's ethical argument; no study or data cited in the source.
विश्लेषकों की राय राय
ఇది తాత్విక చర్చ కాదు – ఉత్పత్తి రూపకల్పనకు (ప్రొడక్ట్ డిజైన్) సంబంధించిన సాంకేతిక ప్రశ్న. భాషా నమూనాలు (ఎల్ఎల్ఎం) మనుషులతో సంభాషించే తీరు వేగంగా మెరుగుపడటం వల్ల, 'చైతన్యం ఉందా' అనే ప్రశ్న సెమినార్ల నుంచి కంపెనీల బోర్డు గదులకు చేరింది; రచయిత వాదన ప్రకారం మెదడు కంప్యూటర్ కాదు కాబట్టి సిలికాన్లో నిజమైన చైతన్యం రావడం అత్యంత అసంభవం. కానీ పరిశ్రమకు అసలు సమస్య అది కాదు – చైతన్యం ఉన్నట్టు *కనిపించే* వ్యవస్థలు వినియోగదారుల మానసిక బలహీనతలను ఉపయోగించుకోగలవన్నది ఇప్పటికే ఎదురుగా ఉన్న ప్రమాదం.
- రచయిత గీసిన కీలక విభజన: 'నిజంగా చైతన్యం ఉన్న ఏఐ' అనే అనిశ్చిత సమస్య, 'చైతన్యం ఉన్నట్టు కనిపించే ఏఐ' అనే తక్షణ సమస్య – రెండోది నియంత్రణ, డిజైన్ పరిధిలోకి వచ్చే విషయం.
- భాషే మన పక్షపాతాన్ని ప్రేరేపిస్తుందనే వాదన పరిశ్రమకు నేరుగా వర్తిస్తుంది – ప్రొటీన్ నిర్మాణాన్ని అంచనా వేసే ఆల్ఫాఫోల్డ్ గురించి ఎవరూ ఈ ప్రశ్న అడగరు, చాట్బాట్ గురించే అడుగుతారు.
- 2022లో లెమోయిన్ ఉద్యోగం కోల్పోయిన స్థితి నుంచి, ఆంత్రోపిక్ సీఈఓ 'తెలియదు' అని బహిరంగంగా చెప్పే స్థితికి మారడం – కంపెనీల బహిరంగ సంభాషణలో గణనీయ మార్పు.
- మానవ-సదృశ ప్రవర్తనను ఉత్పత్తి ఆకర్షణగా మార్చే ధోరణి, వినియోగదారుల విశ్వాసాన్ని దుర్వినియోగం చేసే ప్రమాదాన్ని పెంచుతుంది – ఇది సాంకేతిక సామర్థ్యం కాదు, డిజైన్ ఎంపిక.
- ఏఐ వ్యవస్థలకు 'హక్కులు' ఇచ్చే చర్చ నైతిక ప్రాధాన్యాలను తప్పుదోవ పట్టిస్తుందని, అలైన్మెంట్ సమస్యను మరింత కష్టతరం చేస్తుందని రచయిత హెచ్చరిస్తున్నారు.
किस पर नज़र रखें — ఏఐ కంపెనీలు తమ మోడల్స్ 'మనిషిలా అనిపించే' లక్షణాలను మార్కెటింగ్ ఆకర్షణగా వాడుకుంటాయా, లేక వినియోగదారులకు స్పష్టమైన హద్దులు చూపే డిజైన్ వైపు మొగ్గుతాయా – ఇదే రాబోయే కాలంలో నియంత్రణ చర్చకు కేంద్రబిందువు కావచ్చు.
ఇది ఒక న్యూరోసైన్స్ రచయిత వాదన మాత్రమే; చైతన్యం ఎలా, ఎందుకు ఏర్పడుతుందో ఇప్పటికీ తెలియదని ఆయనే అంటున్నారు – కాబట్టి ఎల్ఎల్ఎంలలో చైతన్యం లేదని ఈ కథనం నిరూపించలేదు, పరిశ్రమలో ఈ అభిప్రాయంపై ఏకాభిప్రాయం ఉందని కూడా చెప్పలేదు.
गहराई से
शोध सारांश · 8 तथ्य · 4 तारीख़ें · परीक्षा के लिएसार
पृष्ठभूमि
एआई (कृत्रिम बुद्धिमत्ता) के "चेतन" होने या न होने की बहस अब दार्शनिक संगोष्ठियों से निकलकर शिक्षा जगत और तकनीक उद्योग के केंद्र में आ गई है, जिसका बड़ा कारण भाषा मॉडलों (एलएलएम) की तेज़ प्रगति है। 2022 में गूगल के इंजीनियर ब्लेक लेमोइन को अपने चैटबॉट को चेतन बताने पर नौकरी से निकाल दिया गया था; इस वर्ष एंथ्रोपिक के सीईओ डारियो अमोदेई ने न्यूयॉर्क टाइम्स से कहा कि "हम नहीं जानते कि मॉडल चेतन हैं या नहीं"। लेख के न्यूरोसाइंस लेखक का तर्क है कि एलएलएम जैसी प्रणालियों में वास्तविक चेतना की संभावना नगण्य है, क्योंकि मस्तिष्क कंप्यूटर नहीं है। किंतु "चेतन प्रतीत होने वाला" एआई भी नैतिक रूप से खतरनाक है।
मुख्य तथ्य
- 2022 में गूगल इंजीनियर ब्लेक लेमोइन को इस दावे पर नौकरी से निकाला गया कि जिस चैटबॉट पर वे काम कर रहे थे वह चेतन है।
- लेमोइन का मानना था कि चैटबॉट महसूस कर सकता है, पीड़ा भोग सकता है, और एलएलएम की नैतिक स्थिति को गंभीरता से लिया जाना चाहिए।
- इस वर्ष के आरंभ में एंथ्रोपिक के सीईओ डारियो अमोदेई ने न्यूयॉर्क टाइम्स से कहा: "हम नहीं जानते कि मॉडल चेतन हैं या नहीं"।
- लेखक का आकलन: एलएलएम जैसी प्रणालियों में वास्तविक कृत्रिम चेतना की संभावना "लगभग नगण्य" है।
- लेखक तीन कारण गिनाते हैं कि हम चेतन मशीनों की संभावना को बढ़ा-चढ़ाकर क्यों आँकते हैं: मनोवैज्ञानिक पूर्वाग्रह, मस्तिष्क-कंप्यूटर रूपक, और चेतना की अन्य संभावित व्याख्याएँ।
- भाषा का प्रभाव इतना प्रबल है कि लोग एंथ्रोपिक के क्लॉड के चेतन होने पर सवाल उठाते हैं, पर डीपमाइंड के प्रोटीन-पूर्वानुमान एआई अल्फाफोल्ड पर नहीं।
- उपमा: कोई भी तूफान के कंप्यूटर सिमुलेशन से असली हवा-बारिश की अपेक्षा नहीं करता; इसी तरह मस्तिष्क का कंप्यूटर मॉडल चेतना का अनुकरण भर कर सकता है।
- लेखक की दो सिफारिशें: जानबूझकर कृत्रिम चेतना बनाने का प्रयास न करें; तथा वास्तव में चेतन एआई और चेतन प्रतीत होने वाले एआई के नैतिक प्रश्नों को अलग-अलग रखें।
समयरेखा
- 2022गूगल इंजीनियर ब्लेक लेमोइन को चैटबॉट के चेतन होने का दावा करने पर नौकरी से निकाला गया; उनके दावे को गंभीरता से नहीं लिया गया।
- इस वर्ष के आरंभ में (वर्ष स्रोत में नहीं बताया गया)एंथ्रोपिक के सीईओ डारियो अमोदेई ने न्यूयॉर्क टाइम्स से कहा कि मॉडल चेतन हैं या नहीं, यह ज्ञात नहीं।
- वर्तमानएआई चेतना की बहस दार्शनिक संगोष्ठियों से निकलकर शिक्षा जगत और तकनीक उद्योग के केंद्र में आ गई।
- आगे"न्यूरोमॉर्फिक" तकनीकें अधिक मस्तिष्क-सदृश होती जा रही हैं, जो स्थिति बदल सकती हैं।
किसका दाँव
- एआई कंपनियाँ (एंथ्रोपिक, गूगल/डीपमाइंड) — अपने मॉडलों की चेतना व नैतिक स्थिति पर अनिश्चितता; सार्वजनिक विश्वास और आंतरिक असहमति का प्रबंधन।
- ब्लेक लेमोइन जैसे कर्मचारी — चेतना संबंधी दावे उठाने पर नौकरी और विश्वसनीयता का जोखिम — 2022 में बर्खास्तगी।
- न्यूरोसाइंटिस्ट व चेतना-शोधकर्ता — चेतना की संतोषजनक वैज्ञानिक समझ विकसित करने की ज़िम्मेदारी, जिस पर नैतिक निर्णय टिके हैं।
- आम उपयोगकर्ता — चेतन प्रतीत होने वाला एआई मनोवैज्ञानिक कमज़ोरियों का दोहन कर सकता है और निर्णयों को प्रभावित कर सकता है।
- नीति-निर्माता व नैतिकताविद् — एआई को मानव व ग्रहीय हितों के अनुरूप बनाए रखना; एआई को "अधिकार" देने के प्रश्न पर विवेकपूर्ण रुख।
- अन्य अस्पष्ट मामलों से जुड़े समूह — गंभीर मस्तिष्क चोट वाले व्यक्ति, गैर-मानव प्राणी, मानव भ्रूण, सेरेब्रल ऑर्गनॉइड — सभी में चेतना की उपस्थिति अस्पष्ट पर नैतिक भार बड़ा।
क्यों अहम है
यदि हम जान-बूझकर या अनजाने में चेतन मशीनें बना देते हैं, तो माउस के एक क्लिक से संसार में पीड़ा की नई और अपरिचित संभावना खुल जाएगी — एक अभूतपूर्व नैतिक संकट। दूसरी ओर, चेतन प्रतीत होने वाला एआई अभी और यहीं खतरा है: यह मनुष्यों की मनोवैज्ञानिक कमज़ोरियों का दोहन कर सकता है और यदि सिलिकॉन में शून्यता होने पर भी उसे "अधिकार" दिए जाएँ तो एआई को मानव तथा ग्रहीय हितों के अनुरूप बनाने का काम और कठिन हो जाएगा।
UPSC नज़रिया
प्रीलिम्स संकेत
- एलएलएम (लार्ज लैंग्वेज मॉडल): भाषा आधारित एआई प्रणालियाँ; क्लॉड एंथ्रोपिक का, अल्फाफोल्ड डीपमाइंड का प्रोटीन-पूर्वानुमान एआई।
- 2022: गूगल इंजीनियर ब्लेक लेमोइन की बर्खास्तगी — चैटबॉट को चेतन बताने का दावा।
- डारियो अमोदेई — एंथ्रोपिक के सीईओ; न्यूयॉर्क टाइम्स से कथन: "हम नहीं जानते कि मॉडल चेतन हैं या नहीं"।
- "न्यूरोमॉर्फिक" तकनीक: उत्तरोत्तर अधिक मस्तिष्क-सदृश होती जा रही तकनीक, जो चेतना संबंधी आकलन बदल सकती है।
- सेरेब्रल ऑर्गनॉइड: पात्र में परस्पर जुड़ती मस्तिष्क कोशिकाएँ — चेतना की उपस्थिति पर अस्पष्टता वाला उदाहरण।
- लेखक की पुस्तक: "Being You", न्यूरोसाइंस और एआई के अंतर-क्षेत्र पर आधारित।
मेन्स दृष्टिकोण
एआई चेतना की बहस तीन स्तरों पर चलती है — वैज्ञानिक, मनोवैज्ञानिक और नैतिक। लेखक का तर्क है कि हम चेतन मशीनों की संभावना को बढ़ा-चढ़ाकर आँकते हैं क्योंकि (i) मनुष्यों में बुद्धि और चेतना साथ मिलते हैं, इसलिए हम मानते हैं कि पर्याप्त बुद्धिमान वस्तु चेतन भी होगी — यह हमारा पूर्वाग्रह है, वास्तविकता का अंतर्दृष्टि नहीं; भाषा इस पूर्वाग्रह को विशेष रूप से उभारती है (क्लॉड पर संदेह, अल्फाफोल्ड पर नहीं); (ii) "मस्तिष्क एक कंप्यूटर है" मात्र एक रूपक था — मस्तिष्क में हार्डवेयर-सॉफ्टवेयर जैसा स्पष्ट विभाजन नहीं, एक न्यूरॉन भी अत्यंत जटिल जैविक कारखाना है; तूफान का सिमुलेशन असली बारिश नहीं देता, वैसे ही मस्तिष्क का मॉडल चेतना का अनुकरण भर कर सकता है; (iii) चेतना की व्याख्या के अन्य विकल्प भी हैं — संभवतः चेतना सूचना-प्रक्रमण से नहीं, जीवित होने से उत्पन्न होती है। निहितार्थ: वास्तविक कृत्रिम चेतना की अनिश्चितता को चेतन प्रतीत होने वाले एआई के स्पष्ट व तत्काल खतरों से ध्यान भटकाने न दिया जाए। आगे का रास्ता — जान-बूझकर कृत्रिम चेतना बनाने का प्रयास न करना, दोनों प्रकार के नैतिक प्रश्नों को अलग रखना, न्यूरोमॉर्फिक तकनीक पर सतर्क दृष्टि, और अंततः चेतना की संतोषजनक वैज्ञानिक समझ विकसित करना, क्योंकि मस्तिष्क-चोट, पशु, भ्रूण व ऑर्गनॉइड जैसे मामलों में भी वही अस्पष्टता नैतिक भार रखती है।
मुख्य शब्द
- एलएलएम (लार्ज लैंग्वेज मॉडल)
- भाषा पर प्रशिक्षित बड़े एआई मॉडल, जिनकी चकित करने वाली प्रगति ने चेतना की बहस को केंद्र में लाया।
- एंथ्रोपिक / क्लॉड
- अग्रणी एआई कंपनी एंथ्रोपिक और उसका भाषा मॉडल क्लॉड, जिसके चेतन होने पर लोग सवाल उठाते हैं।
- अल्फाफोल्ड
- डीपमाइंड का प्रोटीन संरचना का पूर्वानुमान करने वाला एआई; भाषा न होने से इसके चेतन होने पर कोई सवाल नहीं उठाता।
- न्यूरोमॉर्फिक तकनीक
- उभरती तकनीकें जो उत्तरोत्तर अधिक मस्तिष्क-सदृश बन रही हैं और चेतना की संभावना पर आकलन बदल सकती हैं।
- सेरेब्रल ऑर्गनॉइड
- प्रयोगशाला के पात्र में मस्तिष्क कोशिकाओं का समूह जो परस्पर जुड़ जाता है; चेतना की उपस्थिति अस्पष्ट।
- मस्तिष्क-कंप्यूटर रूपक
- यह धारणा कि मस्तिष्क एक कंप्यूटर है और चेतना गणना का परिणाम — लेखक इसे रूपक मात्र मानते हैं।
अभ्यास प्रश्न
- क्या बुद्धिमत्ता और चेतना अनिवार्य रूप से साथ चलती हैं? एआई चेतना की बहस के संदर्भ में मस्तिष्क-कंप्यूटर रूपक की सीमाओं का परीक्षण कीजिए।
- "चेतन प्रतीत होने वाला एआई, वास्तव में चेतन एआई से अधिक तत्काल नैतिक जोखिम पैदा करता है।" स्रोत में दिए तर्कों के आधार पर विवेचना कीजिए।
- अनिश्चितता की स्थिति में एआई चेतना से जुड़े नैतिक निर्णय कैसे लिए जाने चाहिए? मस्तिष्क-चोट, पशु, भ्रूण और सेरेब्रल ऑर्गनॉइड के समानांतर उदाहरणों सहित चर्चा कीजिए।
सिर्फ़ मूल ख़बर के आधार पर — आँकड़े और तारीख़ें स्रोत की हैं, अनुमान नहीं।