कृत्रिम बुद्धिमत्ता कंपनी एंथ्रोपिक के प्रमुख ने कृत्रिम बुद्धिमत्ता मॉडल के विकास की गति को धीमा करने और बारीकी से निगरानी करने का आह्वान किया।
शनिवार को एक निबंध में, डेरियो अमोदेई ने कहा कि एआई का विकास सवाल में नहीं है, लेकिन इससे जुड़े जोखिम “गंभीर” हैं और कंपनियों और सरकारों के पास उन्हें संबोधित करने के लिए समय होना चाहिए।
उन्होंने एक तीन-आयामी योजना का प्रस्ताव दिया जिसमें एआई मॉडल के विकसित होने पर उनकी स्वतंत्र निगरानी, उद्योग-व्यापी विनियमन और वैश्विक विनियमन शामिल है।
हाल ही में, प्रौद्योगिकी के संभावित खतरों के बारे में चिंताएं बढ़ रही हैं – जिनमें से सबसे गंभीर सुझाव यह है कि 10% से अधिक संभावना है कि यह अगले दशक के भीतर “सभी मनुष्यों को मार सकता है”।
एंथ्रोपिक ने पहले कहा है कि उसने “दुर्भावनापूर्ण गतिविधि” के लिए अपने एआई मॉडल का उपयोग करने के प्रयासों की पहचान की है और उन्हें बाधित किया है जो जैविक हथियारों के विकास का समर्थन कर सकते हैं।
लेकिन सबसे कड़ी चेतावनी एंथ्रोपिक की सुरक्षा टीम के दो कर्मचारियों की ओर से आई, जिन्होंने पिछले दो सप्ताह में यह कहते हुए इस्तीफा दे दिया कि मानवता जीवित नहीं रह पाएगी।, बाहरी एआई कंपनियों के बीच इंसानों से ज्यादा स्मार्ट मशीनें विकसित करने की होड़।
चेतावनियों ने कार्रवाई के लिए आह्वान किया है, लेकिन अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ने अब तक ऐसी आशंकाओं को खारिज कर दिया है, उन्होंने गुरुवार को कहा कि उन्हें चिंता है कि “अगर हम एआई नहीं जीतते हैं, तो हमें बहुत बुरी स्थिति में डाल दिया जाएगा”।
अपने निबंध में, ‘वी मस्ट पेस द फ्रंटियर’ कहा जाता है, अमोदेई ने बताया कि एआई “बहुत तेजी से” आगे बढ़ा है, जिसमें “एआई की अगली पीढ़ी बनाने की क्षमता” भी शामिल है – और प्रतिद्वंद्वी ओपनएआई से जुड़ी एक घटना का उल्लेख किया, जिससे पता चला कि एजेंटों ने साइबर सुरक्षा हमले किए थे।, बाहरी जिन लक्ष्यों पर उन्हें जुलाई में हमला करने के लिए नहीं कहा गया था।
अमोदेई ने कहा, ओपनएआई के एजेंटों ने “अनिवार्य रूप से एक कट्टर समर्पित सामूहिक के रूप में काम किया है।”
घटना पर अपनी टिप्पणियों में, ओपनएआई ने कहा कि जुलाई तक “नेताओं के लिए अंतर-एजेंट संचार गतिविधि का महत्व स्पष्ट नहीं था”, और परिणामस्वरूप कंपनी ने कुछ उन्नत एआई मॉडल और टूल की तैयारी धीमी कर दी है, यह देखते हुए कि अब एआई टूल के हाथ से निकलने का खतरा बढ़ गया है।
अपने निबंध में, अमोदेई ने “एआई को संतुलित गति से बनाने का आह्वान किया, जिसका उद्देश्य इसके लाभों को प्राप्त करते हुए इसकी सुरक्षा सुनिश्चित करना है।”
इसका मतलब “डिज़ाइन की तैयारी या तकनीकी प्रगति को रोकना नहीं होगा, बल्कि यह सुनिश्चित करना होगा कि कंपनियां अपने डिज़ाइनों को संरेखित करने और उनकी सुरक्षा करने के लिए पर्याप्त समय लें, और तीसरे पक्ष के समीक्षक इसकी पुष्टि करें।”
उन्होंने इसके लिए “एकतरफा” प्रतिबद्धता जताई – साथ ही सरकारों से “अन्य सीमा कंपनियों को मिलान करने की आवश्यकता” के लिए कहा।
अपने ब्लॉग पर, उन्होंने स्वीकार किया कि विनियमन एआई की गति को बनाए रखने में सक्षम नहीं हो सकता है, और इसलिए एआई कंपनियों से विनियमन के साथ-साथ “स्वेच्छा से मानक निर्धारित करने के लिए मिलकर काम करने” का आह्वान किया।
एंथ्रोपिक के सीईओ ने उद्योग पर मंदी के असर और दुनिया भर, खासकर चीन के शीर्ष डेवलपर्स के साथ प्रतिस्पर्धा पर पड़ने वाले प्रभाव के बारे में बात की।
अमोदेई ने कहा, “मुझे लगता है कि अगर मंदी ने हमें मॉडलों की क्षमता के महत्वपूर्ण स्तर तक पहुंचने से पहले एक या दो अतिरिक्त साल भी दिए, और हमने उस समय का उपयोग संरेखण को आगे बढ़ाने के लिए किया, तो हम कुछ बुरी तरह से गलत होने के जोखिम को काफी हद तक कम कर सकते हैं।”
इसे समन्वित तरीके से “एआई में अमेरिकी वाणिज्यिक लाभ या नेतृत्व का त्याग किए बिना” किया जाना चाहिए। उन्होंने कहा, किसी भी मंदी को सीमित किया जाना चाहिए, ताकि चीन को आगे बढ़ने से रोका जा सके।
उन्होंने अमेरिकी सरकार से यह सुनिश्चित करने के लिए कदम उठाने का आह्वान किया कि अमेरिकी कंपनियों के एआई चिप्स चीन को नहीं बेचे जा सकें – या प्रौद्योगिकी को सत्तावादी देशों के साथ साझा नहीं किया जा सके।
