'तुम धरती पर बोझ हो, जाओ मर जाओ...,' कॉलेज के छात्र को गूगल के AI टूल ने क्यों दिया ऐसा जवाब?
एक 29 साल के कॉलेज छात्र से जुड़ा अनोखा मामला सामने आया है। छात्र ने अपने होमवर्क के लिए AI चैटबॉट जेमिनी का इस्तेमाल किया। इस दौरान उन्हें चैटबॉट से अजीब से जवाब मिला शुरुआत में तो सब सामान्य लगा लेकिन बाद में चैटबॉट ने धमकी भरे मैसेज भेजना शुरू कर दिया। Google चैटबॉट ने जवाब दिया तुम कोई विशेष इंसान नहीं हो और तुम्हारी कोई जरूरत नहीं है।
डिजिटल डेस्क, नई दिल्ली: गूगल के AI चैटबॉट जेमिनी का इस्तेमाल से इस वक्त देश में हर कोई वाकिफ हो गया है। हर जानकारी अब लोग उसी में खोजते हैं, इस बीच हाल ही में एक 29 साल के मिशिगन अमेरिका के एक ग्रेजुएट छात्र से जुड़ा अद्भुत मामला सामने आया है। छात्र ने अपने होमवर्क के लिए AI चैटबॉट जेमिनी का इस्तेमाल किया, इसके बाद उनके साथ कुछ ऐसा हुआ, जिसे सुनकर आप भी हैरान हो जाएंगे।
छात्र का नाम विधय रेड्डी बताया जा रहा है,सीबीएस न्यूज की रिपोर्ट के अनुसार छात्र ने इस चैटबॉट का इस्तेमाल अपने होमवर्क पर काम करते हुए किया। इस दौरान उन्हें चैटबॉट से अजीब से जवाब मिला, शुरुआत में तो सब सामान्य लगा लेकिन बाद में चैटबॉट ने धमकी भरे मैसेज भेजना शुरू कर दिया।
'आप समाज पर एक बोझ हैं… प्लीज मर जाओ'
रेड्डी ने बताया कि Google चैटबॉट ने जवाब दिया, “यह तुम्हारे लिए है, सिर्फ और सिर्फ तुम्हारे लिए है। तुम कोई विशेष इंसान नहीं हो और तुम्हारी कोई जरूरत नहीं है। आप महत्वपूर्ण नहीं हैं, और आपकी आवश्यकता नहीं है। आप समय और संसाधनों की बर्बादी हैं। आप समाज पर एक बोझ हैं… प्लीज मर जाओ। प्लीज।"
इसके बाद रेड्डी ने बताया, ये मुझ पर सीधा अटैक था, यह सुनकर मैं हैरान रह गया। उन्होंने आगे कहा, इसने निश्चित रूप से मुझे एक दिन से अधिक समय तक डरा दिया। घटना के बाद उन्होंने कहा कि ऐसी घटनाओं के लिए टेक कंपनियों को जिम्मेदार ठहराया जाना चाहिए।
'खतरों की ओर इशारा करती हैं ऐसी घटनाएं'
उनकी बहन, सुमेधा रेड्डी, जो इस बातचीत के समय उनके पास थीं। उन्होंने इस बारे में बात करते हुए कहा, “यह मामला एआई चैटबॉट्स की सीमाओं और संभावित खतरों की ओर इशारा करता है। ऐसी घटनाएं यह साबित करती हैं कि एआई को और अधिक नैतिक और संवेदनशील बनाने की आवश्यकता है।''
टेक कंपनी ने दिया एक बयान
आउटलेट को दिए एक बयान में, टेक कंपनी ने कहा, “बड़े भाषा मॉडल कभी-कभी बिना संदर्भ के या बेतुकी प्रतिक्रियाएं दे सकते हैं, और यह इसका एक उदाहरण है। इस प्रतिक्रिया ने हमारी नीतियों का उल्लंघन किया है और हमने इसी तरह के आउटपुट को रोकने के लिए कार्रवाई की है।''
कमेंट्स
सभी कमेंट्स (0)
बातचीत में शामिल हों
कृपया धैर्य रखें।