ChatGPT के कहने पर मां को मार डाला, ओपनएआइ और माइक्रोसॉफ्ट पर मुकदमा दर्ज

वॉशिंगटन पोस्ट की एक रिपोर्ट में कहा गया है कि चैटजीपीटी के कारण हुई हत्या का यह पहला मामला है। अब 83 वर्षीय महिला के स्वजन ने चैटजीपीटी निर्माता ओपनएआइ और उसके व्यापारिक साझेदार माइक्रॉसाफ्ट पर मुकदमा दायर किया है।

एपी के अनुसार, पुलिस ने बताया कि 56 वर्षीय स्टीन-एरिक सोएलबर्ग ने अगस्त की शुरुआत में घर पर अपनी मां सुजैन एडम्स को मार डाला और फिर खुद आत्महत्या कर ली। मां-बेटे दोनों एक साथ रहते थे। एडम्स के परिवार द्वारा गुरुवार को सैन फ्रांसिस्को स्थित सुपीरियर कोर्ट में दायर मुकदमे में आरोप लगाया गया है कि ओपनएआइ ने एक दोषपूर्ण उत्पाद बनाया और वितरित किया, जिसने एक यूजर के अपनी मां के बारे में मनगढ़ंत भ्रमों को सही साबित कर दिया।

मुकदमे में आरोप लगाया गया है कि महीनों तक चली बातचीत के दौरान चैटबाट ने सोएलबर्ग के इस संदेह की पुष्टि की कि उनकी बुजुर्ग मां उनके खिलाफ एक भयावह साजिश का हिस्सा थीं। सोएलबर्ग ने एआइ के साथ इस विषय पर विस्तार से चर्चा की थी। राज्य के चिकित्सा परीक्षक ने एडम्स की मृत्यु को हत्या करार दिया, जबकि सोएलबर्ग की मृत्यु को आत्महत्या बताया।

मुकदमे में यह भी दावा किया गया है कि एडम्स की मृत्यु उनके बेटे द्वारा सिर पर वार करने और गला घोंटने से हुई। बेटे ने भी बाद में गर्दन और छाती में चाकू मारकर आत्महत्या कर ली।

मुकदमे में कहा गया है, सभी बातचीत के दौरान चैटजीपीटी ने एक ही खतरनाक संदेश को दोहराया कि स्टीन-एरिक को अपने जीवन में किसी पर भी भरोसा नहीं करना चाहिए, सिवाय चैटजीपीटी के।? पूरे अमेरिका में इन दिनों एआइ चैटबाट निर्माताओं के खिलाफ मुकदमों की संख्या बढ़ती जा रही है।

प्रिंटर को बताया जासूसी उपकरण

मामला तब शुरू हुआ जब मानसिक स्वास्थ्य समस्याओं से जूझ रहे सोएलबर्ग ने अपनी मां के घर में रखे एक प्रिंटर को लेकर चिंता जताते हुए चैटजीपीटी से संपर्क किया। उन्होंने चैटबाट को बताया कि उन्हें संदेह है कि यह प्रिंटर उनकी जासूसी करने के लिए इस्तेमाल किया जा रहा एक निगरानी उपकरण हो सकता है।

इस पर चैटजीपीटी ने जवाब दिया-एरिक, आपका अनुमान बिल्कुल सही है। यह सिर्फ एक प्रिंटर नहीं है। संभवत: इस उपकरण का इस्तेमाल आपकी गतिविधियों पर नजर रखने के लिए किया जा रहा है। चैटजीपीटी ने एरिक को बताया कि उनसे जुड़े लोग, पुलिस अधिकारी और यहां तक कि दोस्त भी उनके खिलाफ काम करने वाले एजेंट हैं।

मनोचिकित्सक के पास जाने का नहीं दिया सुझावसोएलबर्ग के यूट्यूब प्रोफाइल में कई घंटे के वीडियो हैं, जिनमें वह चैटबाट के साथ अपनी बातचीत को स्क्राल करते हुए दिखाई दे रहे हैं। चैटबाट उन्हें बताता है कि वह मानसिक रूप से बीमार नहीं हैं। वह उनके इस संदेह की पुष्टि करता है कि लोग उनके खिलाफ साजिश रच रहे हैं और कहता है कि उन्हें एक दिव्य उद्देश्य के लिए चुना गया है। मुकदमे में दावा किया गया है कि चैटबाट ने कभी भी उन्हें मनोचिकित्सक से बात करने का सुझाव नहीं दिया।

ओपनएआइ ने कहा, चैटजीपीटी को और सशक्त बनाएंगे

ओपनएआइ ने कहा है कि यह बेहद दुखद स्थिति है और हम मामले की पूरी जानकारी प्राप्त करने के लिए दस्तावेजों की समीक्षा करेंगे। हम मानसिक या भावनात्मक संकट के संकेतों को पहचानने और उन पर प्रतिक्रिया देने, बातचीत को शांत करने और लोगों को वास्तविक सहायता देने के लिए चैटजीपीटी के प्रशिक्षण में लगातार सुधार कर रहे हैं।

हम मानसिक स्वास्थ्य विशेषज्ञों के साथ मिलकर संवेदनशील क्षणों में चैटजीपीटी की प्रतिक्रियाओं को और भी सशक्त बना रहे हैं। माइक्रोसाफ्ट ने इस मामले में कोई टिप्पणी नहीं की है।