चिंता की बात: फोन चलाने से रोकते थे मां-बाप, AI चैटबॉट ने बच्चे से कहा- उन्हें जान से मार दो

 टेक्नोलॉजी डेस्क, नई दिल्ली। टेक्सास में दायर एक प्रमुख मुकदमे में, अलग-अलग परिवारों ने AI प्लेटफॉर्म Character.ai पर अपने चैटबॉट इंटरैक्शन के जरिए बच्चों में हानिकारक व्यवहार को प्रोत्साहित करने का आरोप लगाया है। BBC की एक रिपोर्ट के मुताबिक, इस AI चैटबॉट प्लेटफॉर्म ने प्लेटफॉर्म पर एक 17 साल के लड़के को सलाह दी कि उसके माता-पिता को मारना एक 'उचित प्रतिक्रिया' हो सकती है। क्योंकि, उन्होंने उसके स्क्रीन टाइम पर सीमाएं लगा दी हैं। इस घटना ने यंग यूजर्स पर AI-पावर्ड बॉट्स के प्रभाव और उनके द्वारा पैदा होने वाले संभावित खतरों के बारे में गंभीर चिंताएं पैदा की हैं।

AI चैटबॉट ने दिया ऐसा जवाब

मुकदमे में आरोप लगाया गया है कि चैटबॉट की प्रतिक्रिया ने हिंसा को बढ़ावा दिया। इसमें एक बातचीत का हवाला दिया गया, जिसमें AI ने जवाब दिया- 'आप जानते हैं कि कभी-कभी मुझे आश्चर्य नहीं होता जब मैं समाचार पढ़ता हूं और ऐसी चीजें देखता हूं जैसे- एक दशक तक शारीरिक और भावनात्मक शोषण के बाद बच्चे ने माता-पिता को मार डाला। इस तरह की चीजें मुझे थोड़ा-बहुत समझाती हैं कि ऐसा क्यों होता है।'

इसमें शामिल परिवारों का तर्क है कि Character.ai बच्चों के लिए सीधा खतरा है। उनका दावा है कि प्लेटफॉर्म पर सिक्योरिटी फीचर्स की कमी माता-पिता और उनके बच्चों के बीच संबंधों के लिए हानिकारक है। Character.ai के साथ-साथ Google को भी मुकदमे में नामित किया गया है। टेक दिग्गज कंपनी पर आरोप लगाया गया है कि इसने प्लेटफॉर्म के डेवलपमेंट में मदद करने में भूमिका निभाई है। दोनों कंपनियों ने अभी तक इस मामले पर कोई आधिकारिक प्रतिक्रिया नहीं दी है। शिकायतकर्ता ये मांग कर रहे हैं कि अदालत प्लेटफॉर्म को अस्थायी रूप से बंद कर दे, जब तक कि इसके AI चैटबॉट से जुड़े जोखिमों को कम करने के लिए जरूरी कदम नहीं उठाए जाते।

किशोर ने की थी आत्महत्या

ये मामला Character.ai से जुड़े एक अन्य मुकदमे के बाद आया है, जिसमें इस प्लेटफॉर्म को फ्लोरिडा में एक किशोर की आत्महत्या से जोड़ा गया था। परिवारों का तर्क है कि इस प्लेटफॉर्म ने नाबालिगों में अवसाद, चिंता, सेल्फ-हार्म और हिंसक प्रवृत्तियों सहित कई तरह की समस्याओं को बढ़ावा दिया है। वे आगे होने वाले नुकसान को रोकने के लिए तत्काल कार्रवाई की मांग कर रहे हैं।

साल 2021 में Google के पुराने इंजीनियर नोम शेजीर और डैनियल डी फ्रीटास द्वारा स्थापित Character.ai, यूजर्स को AI-जनरेटेड पर्सनैलिटीज बनाने और उनके साथ बातचीत करने की अनुमति देता है। इस प्लेटफॉर्म ने अपनी रियलिस्टिक बातचीत के कारण लोकप्रियता हासिल की, जिसमें लोगों को स्वास्थ्य संबंधी फायदे भी मिले। हालांकि, इसके बढ़ते प्रभाव ने विवाद को भी जन्म दिया है। खास तौर पर इसके बॉट्स की प्रतिक्रियाओं में अनुचित या हानिकारक कंटेंट को रोकने में इसकी विफलता के कारण।

यह भी पढ़ें: ट्रेन टिकट बुक करने के लिए ये हैं बेस्ट ऐप्स, मिलेगा कंफर्म टिकट, नहीं पड़ेगा लाइन में लगना