चेतावनी: इस कहानी में दुर्व्यवहार का चित्रण है
अमेरिकी कार्यकर्ताओं की एक नई रिपोर्ट में पाया गया है कि मेटा ने पिछले 10 महीनों में एआई-जनित बाल यौन शोषण छवियों वाले सैकड़ों भुगतान किए गए विज्ञापन दिखाए हैं, जिनमें से कई भारत में भी शामिल हैं।
यह रिपोर्ट भारत सरकार द्वारा मेटा को इंस्टाग्राम से बाल यौन शोषण सामग्री (सीएसएएम) को बढ़ावा देने वाले सभी विज्ञापनों और सामग्री को हटाने का आदेश देने के दो महीने बाद आई है। इसके बाद बीबीसी आई की जांच हुई जिसमें पाया गया कि इंस्टाग्राम भारत में सीएसएएम को बढ़ावा देने वाले भुगतान वाले विज्ञापन चला रहा था।
वाशिंगटन स्थित प्रौद्योगिकी पारदर्शिता परियोजना (टीटीपी)।, बाहरी का कहना है कि उसे फेसबुक और इंस्टाग्राम पर चलने वाले 332 सीएसएएम विज्ञापन मिले, जिनमें से अधिकांश (274) इस साल अगस्त में थे।
जब बीबीसी ने मेटा को निष्कर्षों के बारे में लिखा, तो उन्होंने एक बयान में कहा: “हम नग्नता वाले ऐप्स या बाल शोषण के किसी भी रूप को बर्दाश्त नहीं करते हैं, चाहे वह वास्तविक हो या एआई-जनित। ये अपराधी पहचान से बचने के लिए लगातार रणनीति बदल रहे हैं, यही कारण है कि हम अपनी पहचान और प्रवर्तन को मजबूत करना जारी रखते हैं।”
मंगलवार को प्रकाशित टीटीपी रिपोर्ट में कहा गया है कि इसने यूरोपीय शाही परिवार के एक सदस्य सहित वास्तविक बच्चों की कई तस्वीरों की पहचान की है, जिनका इस्तेमाल विज्ञापनों में किया गया था और फिर एआई का उपयोग करके हेरफेर किया गया था। ऐसा कहा जाता है कि टीटीपी द्वारा कंपनी को अपने निष्कर्षों से अवगत कराने के बाद भी मेटा के प्लेटफॉर्म पर एक दर्जन से अधिक विज्ञापन दिखाई दिए।
लगभग एक चौथाई (84) विज्ञापन भारत में प्रसारित किए गए और उनमें से 78 सीएसएएम को हटाने के भारत सरकार के आदेश और वरिष्ठ मेटा अधिकारियों के साथ इसकी बैठक के बाद प्रकाशित किए गए थे।
बीबीसी की जांच के बाद, राष्ट्रीय बाल अधिकार संरक्षण आयोग और राष्ट्रीय मानवाधिकार आयोग सहित कई भारतीय एजेंसियों ने कहा कि वे इस मामले को देख रहे हैं।
सीएसएएम वितरित करना भारत में एक आपराधिक अपराध है, जबकि मेटा की नीति कहती है कि विज्ञापनों में ऐसी सामग्री नहीं होनी चाहिए जो बच्चों का यौन शोषण करती हो या उन्हें खतरे में डालती हो।
जब बीबीसी ने अपनी जांच के बारे में मेटा से संपर्क किया, तो उसने कहा कि जब उसे स्पष्ट बाल शोषण के बारे में पता चलता है, तो वह अपने कानूनी दायित्वों के अनुरूप, यूएस नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रेन (एनसीएमईसी) को इसकी रिपोर्ट करता है।
एनसीएमईसी ऑनलाइन बाल यौन शोषण के लिए वैश्विक केंद्रीकृत रिपोर्टिंग प्रणाली है।
लेकिन भारत में बच्चों के खिलाफ हिंसा को रोकने के लिए काम करने वाले 250 से अधिक संगठनों के नेटवर्क जस्ट राइट्स फॉर चिल्ड्रन के संस्थापक भुवन रिभु कहते हैं कि यह पर्याप्त नहीं है।
जस्ट राइट्स फॉर चिल्ड्रन ने बीबीसी के निष्कर्षों का हवाला देते हुए भारत के सर्वोच्च न्यायालय में याचिका दायर की और बाल यौन शोषण सामग्री को बढ़ावा देने वालों की अनिवार्य रिपोर्टिंग और पहचान के लिए सोशल मीडिया प्लेटफार्मों को निर्देश देने की मांग की।
