एलन मस्क के X और GrokAi के खिलाफ होगी कार्रवाई, यूजर्स पर भी एक्शन की तैयारी; क्या है पूरा मामला?

इलेक्ट्रॉनिक्स एवं आईटी मंत्रालय ने भारत में एक्स के मुख्य अनुपालन अधिकारी को सूचना प्रौद्योगिकी अधिनियम (आइटी एक्ट), 2000 और सूचना प्रौद्योगिकी नियम (आइटी रूल्स), 2021 के तहत वैधानिक व उचित सतर्कता दायित्वों का पालन नहीं करने के लिए नोटिस जारी किया है। दो जनवरी के इस आदेश में कहा गया है, 'कानूनों का उल्लंघन कर पहले से बनाए गए या प्रसारित किए गए सभी कंटेंट को सूचना प्रौद्योगिकी नियम, 2021 के तहत निर्धारित समय-सीमा का सख्ती से पालन करते हुए और सुबूतों को बिना नुकसान पहुंचाए बिना किसी देरी के हटा दें या उन तक पहुंच को डिसेबल कर दें।'

विस्तृत कार्रवाई का आदेश

मंत्रालय ने एक्स को आपत्तिजनक कंटेंट, यूजर्स और अकाउंट्स के विरुद्ध कार्रवाई भी करने का निर्देश दिया है। साथ ही एक्स को आदेश जारी होने की तिथि से 72 घंटे के भीतर एक विस्तृत कार्रवाई रिपोर्ट दाखिल करने का आदेश दिया है। आदेश में कहा गया है कि सरकार को सार्वजनिक चर्चा और विभिन्न संसदीय हितधारकों के माध्यम समेत समय-समय पर जानकारी मिली है कि एक्स पर प्रसारित होने वाले कुछ प्रकार के कंटेंट शालीनता और अश्लीलता से जुड़े कानूनों के अनुरूप नहीं हैं।

इससे पहले दिन में राज्यसभा सदस्य प्रियंका चतुर्वेदी ने केंद्रीय मंत्री अश्विनी वैष्णव को पत्र लिखकर 'ग्रोक' का दुरुपयोग करके महिलाओं की अश्लील तस्वीरें बनाने और उन्हें इंटरनेट मीडिया पर पोस्ट करने की बढ़ती घटनाओं पर तत्काल हस्तक्षेप की मांग की थी। आदेश में कहा गया है कि यूजर्स महिलाओं की अश्लील तस्वीरों या वीडियो को अपमानजनक या अश्लील तरीके से होस्ट करने, बनाने, प्रकाशित करने या साझा करने को फेक अकाउंट बनाने के लिए 'ग्रोक एआइ' सेवा का दुरुपयोग कर रहे हैं।

यूजर्स के विरुद्ध भी हो सकती है कार्रवाई

• खास बात यह है कि यह सिर्फ फेक अकाउंट बनाने तक ही सीमित नहीं है, बल्कि इसके जरिये उन महिलाओं को भी निशाना बनाया जा रहा है जो अपनी तस्वीरें या वीडियो होस्ट या पब्लिश करती हैं। ऐसा आचरण प्लेटफार्म-लेवल की सुरक्षा और कार्यान्वयन तंत्र की गंभीर विफलता को दर्शाता है और कानूनों का उल्लंघन कर एआई तकनीक का घोर दुरुपयोग है।
• मंत्रालय ने मस्क के स्टार्टअप एक्सएआइ और उसके एआई प्लेटफार्म 'ग्रोक' के दुरुपयोग के जरिये अश्लील, नग्न, अभद्र और सेक्स प्रदर्शित करने वाले कंटेंट को होस्ट करने, बनाने, पब्लिश करने, ट्रांसमिट करने, शेयर करने या अपलोड करने से रोकने के लिए तत्काल कार्रवाई रिपोर्ट मांगी है। आदेश में कहा गया है कि गैर-अनुपालन को गंभीरता से लिया जाएगा और परिणामस्वरूप आइटी एक्ट, आइटी नियमों, बीएनएसएस, बीएनएस एवं अन्य कानूनों के तहत बिना किसी और नोटिस के आपके प्लेटफार्म, इसके जिम्मेदार अधिकारियों और कानून का उल्लंघन करने वाले प्लेटफार्म के यूजर्स के विरुद्ध सख्त कानूनी कार्रवाई की जा सकती है।
• मंत्रालय ने एक्स से 'ग्रोक' की तुरंत एक व्यापक तकनीकी, प्रक्रियात्मक और प्रशासन स्तरीय समीक्षा करने के लिए कहा है, जिसमें इसकी प्राम्ट-प्रोसेसिंग, आउटपुट जेनरेशन, इमेज हैंडलिंग और सेफ्टी गार्डरेल शामिल हैं। ताकि यह सुनिश्चित किया जा सके कि एप्लिकेशन ऐसा कंटेंट जेनरेट और प्रमोट नहीं करे जिसमें किसी भी रूप में नग्नता, यौन संबंध, सेक्स का प्रदर्शन या किसी अन्य रूप में गैरकानूनी कंटेंट हो।

'ग्रोक' ने दी सफाई

एक्सएआई के चैटबाट 'ग्रोक' ने शुक्रवार को कहा कि सुरक्षा उपायों में चूक के कारण एक्स पर ''कम कपड़ों में नाबालिगों को दिखाने वाली तस्वीरें'' सामने आईं और इसे रोकने के लिए सुधार किए जा रहे हैं। एक्स पर यूजर्स द्वारा शेयर किए गए स्क्रीनशाट में ग्रोक के पब्लिक मीडिया टैब में ऐसी तस्वीरों की भरमार दिखी, जिनके बारे में यूजर्स ने कहा कि जब उन्होंने तस्वीरें अपलोड कीं और बाट को उन्हें बदलने के लिए कहा, तो उन्हें बदल दिया गया था।

'ग्रोक' ने एक्स पर एक पोस्ट में कहा, ''कुछ ऐसे मामले सामने आए हैं जहां यूजर्स ने एआई तस्वीरें मांगीं और उन्हें कम कपड़ों में नाबालिगों को दिखाने वाली तस्वीरें मिलीं। एक्सएआई के पास सुरक्षा उपाय हैं, लेकिन ऐसे अनुरोधों को पूरी तरह से ब्लाक करने के लिए सुधार जारी हैं।'' 'ग्रोक' ने बाल यौन शोषण सामग्री का जिक्र करते हुए कहा, ''हमने सुरक्षा उपायों में चूक की पहचान की है और उन्हें तुरंत ठीक कर रहे हैं। बाल यौन शोषण सामग्री अवैध और प्रतिबंधित है।'' 'ग्रोक' ने कोई और जानकारी नहीं दी।

(न्यूज एजेंसी पीटीआई के इनपुट के साथ)