सोशल मीडिया पर हेटस्पीच से निपटने को तैयार नया आर्टिफिशियल इंटेलिजेंस

न्यूयॉर्क, प्रेट्र। सोशल मीडिया पर फैली नकारात्मक और घृणात्मक टिप्पणियों के कारण वर्तमान में यह मुद्दा बहस में आ गया है। विभिन्न देशों की सरकारों द्वारा इसके लिए नियम बनाकर कार्रवाई भी की जा रही है। हालांकि, शोधकर्ता अब इससे निपटने के वैज्ञानिक तरीके भी खोज रहे हैं। वर्तमान में वैज्ञानिकों ने एक ऐसी आर्टिफिशियल इंटेलीजेंस (एआइ) प्रणाली विकसित की है जो किसी भी समुदाय के खिलाफ घृणात्मक भाषणों को रोक सकती है।

अमेरिका की कर्नेगी मेलॉन यूनिवर्सिटी के शोधकर्ताओं द्वारा विकसित यह एआइ प्रणाली सोशल मीडिया पर हजारों टिप्पणियों का तेजी से विश्लेषण कर सकती है। इसके साथ ही यह यह उन टिप्पणियों को पहचान भी सकती है जो सकारात्मक होती हैं।

शोधकर्ताओं ने कहा कि विभिन्न देशों में बसे अल्पसंख्यक समुदाय हों या फिर कोई जाति विशेष, वर्तमान में उनके खिलाफ सोशल मीडिया पर बहुत ही घृणात्मक टिप्पणियां लिखी जाती हैं। हालांकि, बहुत सी टिप्पणियां उनके पक्ष में या सकारात्मक भी होती हैं। यूनिवर्सिटी के लैंग्वेज टेक्नोलॉजीज इंस्टीट्यूट (एलटीआइ) में पोस्ट डाक्टरल शोधकर्ता आशिकुल आर खुदाबख्श ने कहा कि इन सकारात्मक टिप्पणियों को खोजकर उन्हें हाइलाइट करने से इंटरनेट को उसी तरह सुरक्षित और स्वस्थ्य बनाया जा सकता है जैसे नकारात्मक टिप्पणियों और ट्रोलर्स को खोजकर प्रतिबंधित करके।

शोधकर्ताओं ने इस एआइ प्रणाली का उपयोग करके यूट्यूब में समुदाय विशेष के खिलाफ एक लाख से अधिक टिप्पणियों की खोज की। एलटीआइ के निदेशक और इस अध्ययन के सह लेखक जेम कार्बोनल ने कहा कि भाषा के मॉडल में हाल में हुए बड़े सुधारों की वजह से इतनी बड़ी मात्रा में टिप्पणियों का विश्लेषण किया जा सका। इन मॉडल से यह अनुमान लगता है कि कोई शब्द के किसी जगह होने का क्या मतलब है। इसके माध्यम से एआइ को यह समझने में मदद मिलती है कि लिखने वाला क्या कहना चाहता है।

शोधकर्ताओं ने इस प्रणाली का परीक्षण दक्षिण एशिया में भी किया है। उन्होंने कहा कि दक्षिण एशिया के देशों के हिसाब से इस एआइ प्रणाली को विकसित करना और भी कठिन है, जहां पर लोग कई भाषाएं बोलते हैं और एक ही बयान को विभिन्न तरीके से लिखते हैं। शोधकर्ताओं ने अमेरिका के न्यूयॉर्क में आर्टिफिशियल इंटेलीजेंस के वार्षिक सम्मेलन में अपने निष्कर्ष प्रस्तुत किए।