एक्स का AI चैटबाट Grok बना रहा महिलाओं और बच्चों की अश्लील तस्वीरें, भारत ने दिया अल्टीमेटम

ब्रिटेन के शीर्ष प्रौद्योगिकी अधिकारी ने मंगलवार को मांग की कि एक्स इस पर तत्काल कार्रवाई करे। यूरोपीय संघ की कार्यकारी शाखा ने ग्रोक की निंदा की है जबकि भारत, फ्रांस, मलेशिया और ब्राजील के अधिकारियों और नियामकों ने मंच की निंदा की है और जांच की मांग की है।

अलग-अलग देशों की ओर से बढ़ती चिंता ऐसे एप की भयावह क्षमता की ओर इशारा करती है, जो एआइ का उपयोग करके यौन डीपफेक तस्वीरें उत्पन्न करते हैं।

ग्रोक एआई पर अश्लील तस्वीरें बनाने का आरोप

समस्या पिछले साल ग्रोक इमेजिन के लांच होने के बाद सामने आई। यह यूजर्स को टेक्स्ट प्राम्प्ट टाइप करके वीडियो और तस्वीर बनाने की अनुमति देता है। इसमें एक ''स्पाइसी मोड'' शामिल है, जो वयस्क सामग्री बना सकता है।

पिछले महीने के अंत में यह और खतरनाक हो गया, जब ग्रोक ने दूसरों द्वारा पोस्ट तस्वीरों को संशोधित करने के लिए बड़ी संख्या में यूजर्स अनुरोधों को स्वीकार करना शुरू कर दिया।

गैर-लाभकारी समूह एआइ फोरेंसिक ने कहा कि उसने 25 दिसंबर से एक जनवरी के बीच ग्रोक द्वारा बनाई गई 20,000 तस्वीरों का विश्लेषण किया और पाया कि दो प्रतिशत में बिकनी या पारदर्शी कपड़ों में 18 या उससे कम उम्र के व्यक्ति को दर्शाया गया है।

एक्स ने इस बात से इन्कार नहीं किया है कि ग्रोक के माध्यम से उत्पन्न ऐसी सामग्री मौजूद है। इसने एक पोस्ट में दावा किया कि यह बाल यौन शोषण सामग्री सहित अवैध सामग्री के खिलाफ कार्रवाई करता है। हालांकि एक्स पर इस तरह की कंटेंट पर रोक लगाने की मांग वाले देशों की सूची बढ़ती जा रही है।

मंत्रालय ने ग्रोक पर एआइ के 'घोर दुरुपयोग' और महिलाओं को अशोभनीय रूप से बदनाम करने के लिए 'अपमानजनक या अश्लील' तरीके से उनकी तस्वीरें या वीडियो बनाने और साझा करने की अनुमति देकर सुरक्षा उपायों और प्रवर्तन की गंभीर विफलताओं का आरोप लगाया।

चेतावनी दी कि 72 घंटे की समय सीमा का पालन न करने पर कंपनी को कानूनी समस्याओं का सामना करना पड़ेगा। यह समय सीमा बीत चुकी है।

(न्यूज एजेंसी AP के इनपुट के साथ)