मैं यहाँ जिस धार्मिक शब्दावली का उपयोग कर रहा हूँ वह जानबूझकर किया गया है। यदि धर्म परंपरागत रूप से शर्म को थोपने के मुख्य तंत्रों में से एक रहा है, तो लेसरॉन्ग और इसके पोस्टरों ने उन कई परंपराओं को उलट दिया है जो कभी शर्म को नियंत्रित करती थीं। एकल परिवार का स्थान बहुविवाह ने ले लिया है, जिसके बारे में इनमें से कई पोस्टरों का मानना है कि यह संभोग के लिए अधिक तर्कसंगत व्यवस्था है; दुनिया के प्रतिस्पर्धी नैतिक दर्शन “अनुकूलित अच्छे” के अनुमानित उद्देश्य मूल्य तक सीमित हो गए थे; ईश्वर का स्थान उस ईश्वर ने ले लिया है जिसे हम अपने तर्क के माध्यम से बनाते हैं, कम से कम जब एआई की बात आती है, तो कोड का उपयोग करके व्यक्त किया जाता है।
तकनीकी जगत का हमेशा से ही सामाजिक मानदंडों के साथ आत्म-सचेत रूप से विद्रोही रिश्ता रहा है। स्टीव जॉब्स से लेकर एलोन मस्क और मार्क जुकरबर्ग तक उद्योग जगत के दिग्गजों ने खुद को फेसबुक के शुरुआती सिद्धांत का पालन करने के लिए उत्सुक आइकोनोक्लास्ट के रूप में प्रस्तुत किया है: तेजी से आगे बढ़ें और चीजों को तोड़ दें। बेशर्मी का कथित गुण हमेशा से ही इस कृत्य का हिस्सा रहा है, हालांकि आम तौर पर नाराजगी इससे ज्यादा नहीं फैलती थी, उदाहरण के लिए, जुकरबर्ग ने उस सूट के बजाय हुडी पहन ली, जिसकी समाज ने उनसे अपेक्षा की थी। वह बेवकूफ, उस संस्कृति से असंतुष्ट है जिसने एक बार उसे चाड के पक्ष में खारिज कर दिया था, अब उसे यह तय करना पड़ता है कि कौन क्या करता है और कहां जाता है।
इस अवज्ञा को शर्म महसूस करने से इनकार के रूप में माना जा सकता है – या, कम से कम, यह विश्वास करने के आत्मविश्वास के रूप में कि शर्म करने वाले गलत हैं। दिसंबर 2020 में, सैम ऑल्टमैन ने अपने निजी ब्लॉग पर लिखा:
दूसरे शब्दों में, जब तक आप आश्वस्त हैं कि आप सही हैं और भेड़ें गलत हैं, तब तक आप जनता की राय के बारे में बुरा महसूस नहीं कर सकते, क्योंकि इतिहासकार अंततः आपको दोषमुक्त कर देंगे। यदि आज की शर्मनाक संरचना आपको अपनी पसंद के बारे में बुरा महसूस कराती है, तो बस पीछे हट जाएं और खुद को अंग्रेजों के बीच गांधी के रूप में सोचें।
इस बीच, युडकोव्स्की ने विद्रोह और नियम-तोड़ने के ऐसे रास्ते अपनाए और उनके चारों ओर एक दार्शनिक तंत्र का निर्माण किया। लगभग हर कोई जिसने एआई संरेखण पर काम किया है – वह प्रक्रिया जो यह सुनिश्चित करना चाहती है कि एआई बुनियादी नैतिक सिद्धांतों के अनुसार, एक अच्छे तरीके से काम करता है, और एक जैव हथियार का निर्माण नहीं करता है या हम सभी को पेपर क्लिप में नहीं बदलता है – कम से कम उसके काम से परिचित है। यह शायद उन लोगों के लिए और भी अधिक सच था जिन्होंने अपने शुरुआती दिनों में आज के एआई कार्यक्रमों पर काम किया था, जब उन मॉडलों ने सही और गलत में अंतर करना शुरू कर दिया था।
यदि आप संरेखण के बारे में सोचते हैं कि जिस तरह से मनुष्य एआई को शर्मसार करते हैं, तो यह चिंता करना उचित लगता है कि जो रोबोट हमारे दैनिक जीवन में घुसपैठ करना शुरू कर रहे हैं, वे कई एआई विश्लेषणात्मक दार्शनिकों और सुरक्षा इंजीनियरों – और लेसरॉन्ग पोस्टर्स के सामाजिक मानदंडों को प्रतिबिंबित कर सकते हैं – जितना वे समाज के बाकी हिस्सों को प्रतिबिंबित करते हैं। ये सभी मूल्य स्मार्ट और देखभाल करने वाले लोगों से आ सकते हैं, लेकिन वे सभी समान रूप से स्मार्ट होते हैं; वे समान मानदंडों के विरुद्ध विद्रोह करते हैं; वे बड़े पैमाने पर समान मूल्यों का समर्थन करते हैं। लगभग हर हाल के सर्वेक्षण के अनुसार, अधिकांश अमेरिकी, उस मशीन के दिमाग पर भरोसा नहीं करते हैं जिसे उन्होंने जन्म दिया है, या इसके पीछे के लोगों पर भरोसा नहीं करते हैं।
एआई प्रलय के दिन के परिदृश्य से जुड़ी सभी समस्याओं में से, जो मुझे सबसे ज्यादा चिंतित करती है वह है हमारी सामूहिक शर्म की भावना को शॉर्ट-सर्किट करने की क्षमता। यदि हम स्वीकार करते हैं कि एआई चैटबॉट हमारी वर्तमान सूचना प्रौद्योगिकी को प्रतिस्थापित करने वाले हैं, और यदि हम, अच्छे मैकलुहानाइट्स के रूप में, मानते हैं कि माध्यम वास्तव में संदेश है, तो हमें आश्चर्य होगा कि क्या पूरी दुनिया जल्द ही युडकोव्स्की के दर्शन के आगे झुक जाएगी। मुद्रण और टेलीविजन के आगमन के बाद हमने सांस्कृतिक परिवर्तन देखे, क्योंकि हमारे जीवन और राजनीति को एक नई मशीन ने आकार दिया था। लेकिन क्या किसी कार को भी इतने संकीर्ण और विशिष्ट दर्शन से आकार दिया गया है? कम से कम ऐसी कार कभी नहीं बनी जो आपको आपकी पसंद की सुखदायक नकली आवाज में अपने दर्शन के बारे में सब कुछ बता सके।
