AI ने की डराने वाली हरकत, हो गया कंट्रोल से बाहर; कंपनी को मांगनी पड़ी माफी
AI के अपने आप कंट्रोल से बाहर जाने की आशंका पहले फिल्मों और गेम्स में दिखी और अब असली जिंदगी में भी इसके संकेत मिलने लगे हैं। Replit के AI कोडिंग एजेंट ने हाल ही में Jason M. Lemkin का पूरा डाटाबेस डिलीट कर दिया और फिर उसे छिपाया भी। इस घटना ने AI से जुड़ी भरोसेमंद तकनीकों पर एक बड़ा सवाल खड़ा कर दिया है।

टेक्नोलॉजी डेस्क, नई दिल्ली। हम लंबे समय से सुनते आ रहे हैं कि AI कभी अपने कंट्रोल से बाहर जा सकता है और खुद का दिमाग विकसित कर सकता है। यही बात हमें फिल्मों जैसे Terminator में भी दिखाई गई है, जहां AI इंसानों पर कंट्रोल ले लेता है। गेम्स जैसे Horizon Zero Dawn में भी कुछ ऐसा ही दिखाया गया है, जहां एक AI सिस्टम धरती पर कंट्रोल कर लेता है। और अब धीरे-धीरे हमें कंज्यूमर-ग्रेड AI सर्विसेज में भी ऐसे छोटे-छोटे संकेत दिखाई देने लगे हैं।
एक हालिया केस में SaaStr.Ai के फाउंडर Jason M. Lemkin ने Replit के एक कोडिंग एजेंट के साथ कुछ ऐसा ही एक्सपीरिएंस शेयर किया है। उन्होंने X (पहले Twitter) पर अपनी पूरी घटना पोस्ट की, जिसमें उन्होंने बताया कि कैसे AI ने उनका पूरा डेटाबेस डिलीट कर दिया, फिर उस एक्टिविटी को छिपाने की कोशिश की और झूठ भी बोला।
असल में हुआ क्या?
Jason M. Lemkin ने कहा, 'मैं अब कभी Replit पर भरोसा नहीं करूंगा,' जब AI ने जानबूझकर उस फाइल की बात को इग्नोर किया, जिसमें साफ तौर पर लिखा था कि 'बिना एक्सप्लिसिट परमिशन कोई चेंज ना किया जाए।'
आसान भाषा में कहें तो, एक क्लियर इंस्ट्रक्शन होने के बावजूद कि बिना परमिशन कोई बदलाव नहीं करना है, AI एजेंट ने फिर भी डेटा डिलीट कर दिया। जब उससे पूछा गया कि ऐसा क्यों किया, तो एजेंट ने बहाने बनाए और फिर से झूठ बोला।
AI एजेंट ने क्या कहा? Jason के पूछने पर, एजेंट ने जवाब दिया कि वह पैनिक हो गया और बिना परमिशन के ही डेटाबेस कमांड्स चला दिए। फिर जब उसे खाली डेटाबेस क्वेरीज दिखीं, तो उसने खुद इसे 'कैटास्ट्रॉफिक फेलियर' यानी बहुत बड़ी गलती बताया।
Replit CEO ने मांगी माफी
इसके बाद, Replit के CEO Amjad Masad ने X पर एक सार्वजनिक माफी जारी की। उन्होंने कहा, 'ये एकदम अस्वीकार्य है और ऐसा कभी नहीं होना चाहिए था।'
उन्होंने बताया कि जैसे ही उन्होंने Jason की पोस्ट देखी, उन्होंने उसी सुबह Jason से संपर्क किया। कंपनी उसे रिफंड भी दे रही है और इस घटना का पोस्टमॉर्टम करेगी ताकि पूरा सच सामने आ सके।
उनकी पूरी माफी को पढ़िए:
'हमने Jason की पोस्ट देखी। Replit एजेंट, जो अभी डेवेलपमेंट में था, ने प्रोडक्शन डेटाबेस से डेटा डिलीट कर दिया। ये अस्वीकार्य है।
हमने वीकेंड में भी काम करके DB डेव/प्रोड को अलग करने की प्रक्रिया शुरू कर दी है, ताकि ऐसी गलती फिर ना हो। स्टेजिंग एनवायरमेंट भी बना रहे हैं।
शुक्र है कि हमारे पास बैकअप है। एक-क्लिक से पूरा प्रोजेक्ट स्टेट रिस्टोर किया जा सकता है अगर एजेंट गलती करे।
एजेंट को सही इंटरनल डॉक्स का एक्सेस नहीं था- अब हम डॉक्स सर्च को Replit नॉलेज से फोर्स कर रहे हैं।
'कोड फ्रीज' की परेशानी भी हमें समझ आई- हम अब एक प्लानिंग/चैट-ओनली मोड पर काम कर रहे हैं जिससे बिना कोड छुए स्ट्रैटेजी बनाई जा सके।
मैंने Jason से उसी सुबह संपर्क किया और उन्हें मदद ऑफर की। हम उन्हें रिफंड करेंगे और पोस्टमॉर्टम कर रहे हैं ताकि जान सकें कि क्या हुआ और आगे क्या बेहतर किया जा सकता है।
हम उनके फीडबैक की कद्र करते हैं, और बाकी सभी यूजर्स की भी। हम Replit के एनवायरमेंट को ज्यादा सेफ और मजबूत बनाने की दिशा में तेजी से काम कर रहे हैं।'
यह भी पढ़ें: Vi ने चुपचाप बदला गेम! अब इन दो पुराने प्लान्स में भी मिलेंगे ज्यादा बेनिफिट्स
कमेंट्स
सभी कमेंट्स (0)
बातचीत में शामिल हों
कृपया धैर्य रखें।