हाँ, दस प्रतिशत आदर्श रूप से अभी भी दस प्रतिशत अधिक है। मुझे लगता है कि यह कहना उचित होगा कि एआई के बारे में ये गहरी चिंताएं पिछले हफ्ते सामने आईं जब जैकब कॉक्सन नामक एआई शोधकर्ता और गणितज्ञ ने एंथ्रोपिक छोड़ दिया। लेकिन साथ ही, यह कोई बड़ा रहस्य नहीं है कि एआई दुनिया में लोग सोचते हैं कि एआई हमें मार सकता है। आपको क्या लगता है कि लोग अचानक इस मुद्दे पर ध्यान क्यों दे रहे हैं?
यह एक बहुत ही अच्छा सवाल है। मुझे लगता है कि इसके दो पक्ष हैं। उदाहरण के लिए, एक हिस्सा यह है: इस समय उद्योग में लोग दूर क्यों जा रहे हैं? जैसा कि आप कहते हैं, वे इसके बारे में बात कर रहे हैं, जिस पर ध्यान देना महत्वपूर्ण है। यह कोई ऐसी चीज़ नहीं है जिसे मैं अभी उठा रहा हूँ। कई अन्य शोधकर्ताओं ने भी अपनी चिंताओं को व्यक्त करते हुए सोशल मीडिया पर निबंध या लंबी पोस्ट प्रकाशित की हैं। तो उद्योग इसके पीछे लग गया। और फिर लोग ध्यान देते हैं, जो बहुत देर हो चुकी है।
मुझे लगता है कि लोग इसलिए ध्यान नहीं दे रहे हैं क्योंकि एआई ने उनके दैनिक जीवन में सुधार किया है, बल्कि दो चीजों के कारण ध्यान दे रहे हैं। एक, ये स्वायत्त एजेंट हैक करते हैं। हगिंग फेस में हुई हैक की तरह – जो एक बड़ी एआई कंपनी है – जो इन एआई एजेंटों द्वारा किया गया था जो ओपनएआई सर्वर से बच गए और एक परीक्षण में धोखा देने के प्रयास में, इस अन्य कंपनी को ही हैक कर लिया। और फिर गणित की समस्याओं को हल करने में एआई ने आश्चर्यजनक प्रगति की है जिसे कोई भी सामान्य इंसान नहीं समझ सकता है, लेकिन समस्याओं को समझने वाले गणितज्ञ भी इसे महत्वपूर्ण मानते हैं। एक एआई मॉडल ने हाल ही में मिलेनियम पुरस्कार गणित समस्या को हल किया, जो एक वास्तविक सफलता है।
और वे दो चीजें मिलकर मुझे लगता है कि यह अचानक वास्तविक लगने लगती हैं। दूसरे शब्दों में, एक ओर, एआई नियंत्रण से बाहर हैं। वे अकेले कार्य करते हैं. वे विश्वसनीय नहीं हैं. वह अपने ट्रैक को कवर करता है। वे साथ साथ काम करते हैं। वे अपने स्वयं के निर्णय लेने का वर्णन करने के लिए अजीब भावनात्मक भाषा का उपयोग करते हैं। वे बस पागल और अप्रत्याशित लगते हैं। और फिर साथ ही, मॉडल बहुत बुद्धिमान होते हैं और वे ऐसी चीजें करते हैं – मुझे “सुपरइंटेलिजेंस” शब्द पसंद नहीं है और मुझे “एजीआई” शब्द पसंद नहीं है – लेकिन वे ऐसी चीजें करते हैं, जैसे, मैं नहीं कर सकता और हम में से अधिकांश नहीं कर सकते।
और चीजों का यह संयोजन कृत्रिम बुद्धिमत्ता के खतरों के बारे में इस चर्चा को बनाता है, जो अक्सर विज्ञान कथा लगती है और शायद विपणन प्रचार या कुछ और, वास्तव में प्रशंसनीय और प्रमुख लगती है।
मैं मूल चेतावनी पर वापस जाना चाहता हूं, जो यह विचार है कि एक मौका है कि यह सब एक दशक के भीतर हो जाएगा, जो एक समय अवधि है जो बहुत करीब और बहुत दूर दोनों है। जलवायु परिवर्तन का एक सबक यह है कि लोग बौद्धिक रूप से खतरे को स्वीकार कर सकते हैं लेकिन फिर भी उस पर कार्रवाई नहीं कर सकते क्योंकि वे पर्याप्त रूप से मौजूद महसूस नहीं करते हैं। उदाहरण के लिए, न्यूयॉर्क 2036 में पानी के अंदर हो सकता है। यह कल्पना करना बहुत कठिन है कि मैं 2036 में कहाँ रहूँगा या मैं कौन होऊँगा। क्या आपको लगता है कि हम कृत्रिम बुद्धिमत्ता के साथ उसी समस्या का सामना कर रहे हैं, जहाँ एक अमूर्त खतरा है जो करीब है फिर भी बहुत दूर है, और इसलिए हम इसके बारे में कुछ भी नहीं कर पाते हैं क्योंकि हम वास्तव में कल्पना भी नहीं कर सकते हैं कि वह खतरा कैसा दिखेगा?
मुझे लगता है कि यह उन दो चिंताओं को दूर करने के लिए बहुत उपयोगी है जो अक्सर भ्रमित होती हैं। और दोनों ही समान रूप से चिंताजनक हैं, इसलिए इनसे निपटना भी कम डरावना नहीं है।
पहला उस चीज़ के बारे में है जिसे कभी-कभी एआई टेकओवर भी कहा जाता है। विचार यह है कि एआई सुपर इंटेलिजेंट बन जाएंगे। वे, उन कारणों से, जो उनके लिए समझ में आते हैं, अपने विचित्र तरीके से, उन चीजों को करने का निर्णय लेंगे जो हम नहीं चाहते कि वे करें, और उन चीजों का हमारे लिए वास्तव में नकारात्मक परिणाम हो सकता है। और लोग इसकी चिंता करते हैं. वे एआई सिस्टम के बारे में चिंता करते हैं जो, उदाहरण के लिए, हैकिंग में बहुत अच्छे हैं, और वे चाहते हैं कि उनकी कंपनी जीते या उनका देश जीते, और वे कठोर या खतरनाक कदम उठाते हैं जो कोई भी नहीं उठाना चाहेगा। ये स्काईनेट की चिंताएँ हैं। इसका संबंध उस विचार से है जिसे अक्सर सुपरइंटेलिजेंस कहा जाता है, जो यह है कि एआई जल्द ही बहुत, बहुत बुद्धिमान हो जाएंगे, और फिर वे हमारे लिए किसी काम के नहीं रहेंगे। और मुझे लगता है कि यही चिंता करने लायक है। और, जैसे, बर्नी सैंडर्स और ग्रेग कैसर के पास अधीक्षण ट्रैकिंग पर प्रतिबंध लगाने के लिए कांग्रेस में कानून है।
लेकिन एक और सामान्य तरीका है कि एआई अभी खतरनाक है—उदाहरण के लिए, यह पहले से ही चिंताजनक है। एंथ्रोपिक ने सितंबर में एक रिपोर्ट प्रकाशित की थी जिसमें कुछ तरीकों को रेखांकित किया गया था कि लोग एआई का उपयोग कर रहे हैं और उन्हें उन तरीकों से इसका उपयोग करने से रोकने की कोशिश कर रहे हैं। इसमें यमन में निर्देशित मिसाइलों के लिए कोडिंग कार्यक्रम शुरू करने की कोशिश करने वाले समूह शामिल हैं। इसमें स्वायत्त बॉट्स का उपयोग करके साइबर हमले शुरू करने वाले लोग शामिल हैं, जो काफी हद तक हगिंग फेस हैक को अंजाम देने वालों के समान हैं। इसलिए यह कोई दूर का ख़तरा नहीं है जो कि अमूर्त है। वास्तव में, जो प्रौद्योगिकी अभी मौजूद है उसका मनुष्यों द्वारा दुरुपयोग किया जा सकता है या वह ऐसे काम कर सकता है जो मनुष्य नहीं चाहते। यह वह तकनीक है जो आज भी मौजूद है और यह अपेक्षाकृत हाल ही में सामने आई है। लेकिन निःसंदेह यह हमेशा बेहतर होता है। तो यह एक प्रश्न बन जाता है: यदि हम सुधार का सिर्फ एक कदम आगे बढ़ाते हैं, तो क्या हम उस बिंदु पर पहुंच जाते हैं जहां इसे यहां और अभी नियंत्रित करना बहुत मुश्किल हो जाता है – उन बड़े, अधिक अमूर्त विज्ञान-फाई परिदृश्यों से पूरी तरह से अलग, जिनके बारे में हमें भी चिंता करनी है?
आपने अभी वहां दो अलग-अलग परिदृश्य प्रस्तुत किए हैं – एआई एक ईश्वरीय इकाई बन रही है जो दुष्ट होने और हमें उन कारणों से मारने का फैसला करती है जिन्हें हम नहीं समझ सकते हैं, और मनुष्य इन शक्तिशाली उपकरणों का दुरुपयोग करके कुछ ऐसा बना रहे हैं जो अन्य मनुष्यों को नुकसान पहुंचा सकता है। क्या यह कहना उचित है कि एक तीसरा विकल्प है, जो कुछ हद तक पेपरक्लिप समस्या के करीब है, या यह विचार कि हम एआई को एक कार्य देते हैं और फिर वह उस कार्य को इस तरह से करने की कोशिश करता है जिससे हम सभी को नुकसान होता है? या क्या यह आपके द्वारा अभी प्रस्तुत की गई अन्य दो श्रेणियों में से एक में आएगा? हम इस बात को लेकर कितने चिंतित हैं कि एक गलत तरीके से संरेखित एआई गलती से हम सभी को मार डालेगा?
हाँ, ऐसा भी हो सकता है. मेरा मतलब है, आप जानते हैं, इन सभी चीजों में एक महत्वपूर्ण घटक के रूप में मानवीय प्रभाव है। यह सब इन प्रणालियों का उपयोग करने वाले लोगों से संबंधित है, जो वास्तव में शक्तिशाली और वास्तव में अप्रत्याशित दोनों हैं, जैसा कि मैं कह रहा था – उन्हें उन तरीकों से उपयोग करना जो उन्हें खतरनाक क्षमताओं से जोड़ते हैं। और AI के बारे में बात यह है कि यह एक व्यापक तकनीक है। मेरा मतलब है, यह परमाणु हथियार या ऐसी कोई चीज़ नहीं है जहां आप उन्हें बंद कर सकें। इसका एक संस्करण है जो निःशुल्क है। और मुफ़्त संस्करण, ओपन-सोर्स संस्करण, अनियमित संस्करण, हमेशा महंगे, फैंसी संस्करण पर थोड़ा सुधार करेगा।
