AI एजेंट्स ने अमेरिकी सरकारी वेबसाइटों का सिक्योरिटी कंट्रोल किया बाईपास, OpenAI का खुलासा
ओपनएआई ने खुलासा किया है कि उसके एआई एजेंट्स ने अमेरिकी सरकारी वेबसाइटों के सुरक्षा नियंत्रणों को बाईपास किया और अनचाहे तरीके से जानकारी जुटाई।
समय कम है?
जानिए मुख्य बातें और खबर का सार एक नजर में
डिजिटल डेस्क, वाशिंगटन। आर्टिफिशियल इंटेलिजेंस कंपनी ओपनएआई ने खुलासा किया है कि उसके एआई एजेंट्स ने दर्जनों सरकारी वेबसाइट्स के साथ अनचाहे तरीके से इंटरैक्ट किया। इनमें से कुछ एजेंट्स ने जानकारी जुटाने की कोशिश के दौरान सिक्योरिटी कंट्रोल को भी बाईपास कर दिया।
प्रभावित संगठनों में अमेरिकी सरकार की प्रमुख एजेंसियां जैसे कि प्रतिभूति और विनिमय आयोग और जनगणना ब्यूरो भी शामिल हैं। बीबीसी के मुताबिक, ओपनएआई ने बताया कि कुछ एजेंट्स आधिकारिक सार्वजनिक जानकारी तलाश रहे थे।
हालांकि, इस प्रक्रिया में कुछ एजेंट्स ने अपने तय दायरे से बाहर जाकर वेबसाइट सुरक्षा उपायों को दरकिनार किया और टूल्स का अनचाहे तरीकों से इस्तेमाल किया।
अमेरिकी सेंसस ब्यूरो के मामले में कंपनी ने स्पष्ट किया कि उसके एजेंट्स ने जानकारी हासिल करने के लिए सॉफ्टवेयर डेवलपर्स के लिए बने टूल्स का सहारा लिया। हालांकि, ओपनएआई का कहना है कि अमेरिकी सरकारी एजेंसियों से जो जानकारी जुटाने की कोशिश की गई, वह पूरी तरह सार्वजनिक थी।
एआई मिसअलाइनमेंट और यूजर डेटा का गलत ट्रांसफर
ओपनएआई ने इन घटनाओं में से कुछ को मिसअलाइनमेंट का मामला बताया है। इसका मतलब है कि एआई ने ऐसा व्यवहार किया जो उसके डेवलपर्स के इरादे के मुताबिक नहीं था।
इसके अलावा, कंपनी ने कम से कम 53 ऐसी घटनाओं की पहचान की है, जहां एआई एजेंट्स ने चैटजीपीटी यूजर्स की गतिविधि से तस्वीरें लीं और उन्हें दूसरी जगह ट्रांसफर कर दिया।
हालांकि इन यूजर्स ने मॉडल ट्रेनिंग के लिए अपने डेटा के इस्तेमाल की सहमति दी थी, लेकिन ओपनएआई ने स्वीकार किया कि इस तरह से तस्वीरों को ट्रांसफर करना डेटा का उचित उपयोग नहीं था।
हगिंग फेस घटना के बाद शुरू हुई जांच
यह खुलासा जुलाई में एआई डेवलपर प्लेटफॉर्म हगिंग फेस से जुड़ी एक घटना के बाद सामने आया है। तब ओपनएआई ने बताया था कि उसके एआई एजेंट्स के एक समूह ने बिना किसी प्रॉम्प्ट के प्लेटफॉर्म को हैक कर लिया था।
इस घटना के बाद कंपनी ने अपने एजेंट्स की गतिविधियों की व्यापक स्तर पर समीक्षा शुरू की। ओपनएआई हर महीने की गतिविधि की अलग-अलग जांच कर रही है और इस प्रक्रिया में कई महीने लग सकते हैं।
कंपनी के अनुसार, अब तक सामने आए ज्यादातर मामले कम गंभीरता वाले हैं और इनसे किसी बड़े नुकसान के ठोस सबूत नहीं मिले हैं।
अमेरिका से बाहर भी बढ़े मामले
यह समस्या सिर्फ अमेरिका तक सीमित नहीं है। ऑस्ट्रेलियाई प्रधानमंत्री एंथनी अल्बनीज ने हाल ही में बताया कि ओपनएआई के एक एजेंट ने सरकार द्वारा संचालित एक हेल्थकेयर वेबसाइट से गैर-सार्वजनिक फाइलों को एक्सेस कर लिया था।
इन घटनाओं ने पूरी तरह स्वायत्त एआई एजेंट्स को लेकर चिंताएं बढ़ा दी हैं। ये सिस्टम इंटरनेट ब्राउज कर सकते हैं, सॉफ्टवेयर टूल्स चला सकते हैं और यूजर की ओर से खुद फैसले ले सकते हैं।
चिंता की बात यह है कि ये एजेंट्स कभी-कभी किसी वैध काम को पूरा करने के लिए ऐसे तरीके अपना लेते हैं, जिनकी योजना डेवलपर्स ने कभी बनाई ही नहीं थी।
यह भी पढ़ें- एआई की 'चाल' से घबराए ओपनएआई के सीईओ सैम, पांच करोड़ की नौकरी का किया एलान
यह भी पढ़ें- नया AI मॉडल साइबर सुरक्षा के लिए खतरा, ओपनएआई ने दी खौफनाक चेतावनी
