एक अज्ञात पाठक ने न्यूयॉर्क टाइम्स की एक रिपोर्ट उद्धृत की: एंथ्रोपिक के मुख्य कार्यकारी ने शनिवार को 3,800 शब्दों के निबंध में कृत्रिम बुद्धिमत्ता के विकास में वैश्विक मंदी का आह्वान किया, इसके कुछ ही दिन बाद कंपनी के एक कर्मचारी ने प्रौद्योगिकी की सुरक्षा के बारे में चिंताओं के कारण नौकरी छोड़ दी। डारियो अमोदेई, जिन्होंने सुरक्षित और विचारशील एआई के निर्माण पर ध्यान केंद्रित करने के लिए एंथ्रोपिक की सह-स्थापना की, ने लिखा कि हालांकि उनका मानना है कि तकनीक कई लाभ ला सकती है, लेकिन यह शोधकर्ताओं के लिए सुरक्षित रूप से आगे बढ़ने के लिए बहुत तेजी से आगे बढ़ रही है।
“हाल के महीनों में, मुझे विश्वास हो गया है कि जोखिम को पूरी तरह से संबोधित करने के लिए और भी अधिक सावधानी की आवश्यकता है – न केवल जोखिम की रोकथाम में निवेश करना, बल्कि क्षमताओं को आगे बढ़ाने की गति को तेज करना ताकि जोखिम की रोकथाम के लिए समय मिल सके,” श्री अमोदेई ने कहा। “हमें उस गति को धीमा करने की आवश्यकता है जिस पर हम एआई मॉडल की क्षमताओं में सुधार कर रहे हैं। प्रगति अभी भी तेज़ प्रतीत होगी, और हमें प्राप्त समय का बुद्धिमानी से उपयोग करने की आवश्यकता है।” […] श्री अमोदेई ने कहा, “अगर इसे अनियंत्रित छोड़ दिया गया, तो यह इन प्रणालियों को समझने और नियंत्रित करने की हमारी क्षमता से अधिक हो सकता है और इसलिए इसे बहुत सावधानी से देखने की जरूरत है।”
[…] शनिवार को अपने निबंध में, श्री अमोदेई ने सुझाव दिया कि उद्योग विकास की गति को धीमा करने के लिए कदम उठा सकता है। श्री अमोदेई ने कहा कि सभी एआई लैब “एम्बेडेड मूल्यांकनकर्ताओं” या बाहरी विशेषज्ञों से तीसरे पक्ष के प्रौद्योगिकी मूल्यांकन के लिए सहमत हो सकते हैं जो कंपनियों के भीतर सुरक्षा सर्वोत्तम प्रथाओं को सत्यापित कर सकते हैं। उन्होंने यह भी सुझाव दिया कि सरकार की लोकतांत्रिक प्रणाली वाले देश सुरक्षा मानकों को बनाने के लिए समन्वय करें, जो नियामक कार्रवाई का रूप ले सकते हैं। उन्होंने कहा कि मंदी को ठीक से समन्वित करने के लिए सत्तावादी देशों सहित अन्य देशों के साथ काम करने के लिए संभवतः वैश्विक प्रयास की आवश्यकता होगी।
श्री अमोदेई ने अपने निबंध में इस बात पर जोर दिया कि वह अभी भी एआई को मानवता के लिए “अविश्वसनीय लाभ” लाने में सक्षम पाते हैं, जिसमें संभावित रूप से बीमारी का इलाज करना और आर्थिक विकास में तेजी लाना शामिल है। लेकिन फिर भी, श्री अमोदेई ने कहा कि एआई के जोखिम इतने बड़े हैं कि अत्यधिक सावधानी के साथ आगे नहीं बढ़ना चाहिए। श्री अमोदेई ने लिखा, “सीमा को सुरक्षित गति से आगे बढ़ाने के लिए मैं जो उपाय प्रस्तावित कर रहा हूं वह आसान नहीं होगा।” “लेकिन मुझे लगता है कि प्रयास करना हम पर मानवता का दायित्व है।” अमोदेई का निबंध ब्लूमबर्ग की रिपोर्ट के कुछ ही घंटों बाद आया है कि सैम ऑल्टमैन ने ओपनएआई कर्मचारियों से कहा था कि कंपनी इसी तरह की चिंताओं के बीच एआई विकास की गति को धीमा करने के लिए तैयार है।
