Deepfake और AI-जेनरेटेड फोटो-वीडियो पर केंद्र सरकार की लगाम, IT नियमों में संशोधन का प्रस्ताव पेश

दरअसल, केंद्र सरकार ने IT रूल्स, 2021 में अब एक नया ‘Synthetically Generated Information’ शब्द जोड़ा है। इस मसौदे को इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) द्वारा तैयार किया गया है। जिसमें सोशल मीडिया प्लेटफॉर्म्स को एआई या सिंथेटिक कंटेंट को स्पष्ट रूप से चिन्हित करना होगा ताकि यूजर को असली और नकली कंटेंट को आसानी से पहचान सके।

आईटी मंत्रालय ने क्या कहा?

आईटी मंत्रालय ने कहा कि जनरेटिव एआई उपकरणों की बढ़ती उपलब्धता और इसके परिणामस्वरूप कृत्रिम रूप से उत्पन्न जानकारी (डीपफेक) के प्रसार के साथ, उपयोगकर्ता को नुकसान पहुंचाने, गलत सूचना फैलाने, चुनावों में हेरफेर करने या व्यक्तियों का प्रतिरूपण करने के लिए ऐसी प्रौद्योगिकियों के दुरुपयोग की संभावना काफी बढ़ गई है।

इन जोखिमों को ध्यान में रखते हुए, और व्यापक सार्वजनिक चर्चाओं और संसदीय विचार-विमर्श के बाद, MeitY ने आईटी नियम, 2021 में संशोधन का मसौदा तैयार किया है, उन्होंने कहा कि इस कदम का उद्देश्य मध्यस्थों, विशेष रूप से सोशल मीडिया मध्यस्थों (मेटा जैसे 50 लाख या अधिक उपयोगकर्ताओं वाले प्लेटफॉर्म) और महत्वपूर्ण सोशल मीडिया मध्यस्थों (SSMI) के साथ-साथ उन प्लेटफार्मों के लिए उचित परिश्रम दायित्वों को मजबूत करना है जो कृत्रिम रूप से उत्पन्न सामग्री के निर्माण या संशोधन को सक्षम करते हैं।

नए नियमों के प्रमुख प्रावधान?

इसमें महत्वपूर्ण सोशल मीडिया प्लेटफार्म को निर्देश दिए गए हैं कि वे यूजर से वेरीफाई करें कि क्या अपलोड की गई जानकारी कृत्रिम रूप से उत्पन्न की गई है। इसको सत्यापित करने के लिए उचित और आनुपातिक तकनीकी उपाय अपनाएं, तथा यह सुनिश्चित करें कि कृत्रिम रूप से उत्पन्न जानकारी के साथ एक नोटिस हो जो इसे इंगित करता हो। प्रस्तावित संशोधन के अनुसार, फेसबुक, इंस्टाग्राम और एक्स जैसे बड़े सोशल मीडिया प्लेटफॉर्म्स को यह सुनिश्चित करना होगा कि यदि कोई कंटेंट एआई या कंप्यूटर-जनित है, तो उस पर लेबल या मार्कर लगाया जाए। यह लेबल विजुअल कंटेंट में कम से कम 10 फीसदी हिस्से पर दिखाई देना चाहिए

आईटी मंत्रालय ने कहा कि इन संशोधनों का उद्देश्य उपयोगकर्ता जागरूकता को बढ़ावा देना, पता लगाने की क्षमता को बढ़ाना और एआई-संचालित प्रौद्योगिकियों में नवाचार के लिए सक्षम वातावरण बनाए रखते हुए जवाबदेही सुनिश्चित करना है। इसने आईटी नियमों में संशोधन के मसौदे पर 6 नवंबर, 2025 तक प्रतिक्रिया/टिप्पणियां मांगी हैं।

आईटी मंत्रालय ने क्यों लिया ऐसा निर्णय?

आईटी मंत्रालय की वेबसाइट पर दिए गए स्पष्टीकरण में कहा गया है, "हाल ही में सोशल प्लेटफॉर्म पर वायरल हो रहे डीपफेक ऑडियो, वीडियो और सिंथेटिक मीडिया की घटनाओं ने जनरेटिव एआई की क्षमता को दर्शाया है, जिससे विश्वसनीय झूठ का निर्माण हो सकता है - जिसमें व्यक्तियों को ऐसे कार्यों या बयानों में चित्रित किया जा सकता है, जो उन्होंने कभी नहीं किए। इस तरह की सामग्री का इस्तेमाल गलत सूचना फैलाने, प्रतिष्ठा को नुकसान पहुंचाने, चुनावों में हेरफेर करने या उन्हें प्रभावित करने या वित्तीय धोखाधड़ी करने के लिए किया जा सकता है।"