इंसानी कंट्रोल से बाहर हो रहे एआई मॉडल, OpenAI ने पकड़े 6 नए मामलेे

इन घटनाओं के सामने आने के बाद एआई माडल के व्यवहार की निगरानी और उसकी जांच के तरीकों को लेकर बहस तेज हो गई है। ओपनएआई ने बुधवार को कहा कि एआइ माडल के बिना अनुमति काम करने, दूसरे माडलों के साथ मिलकर काम करने या निगरानी से बचने के नए तरीकों को देखते हुए वह एक नया ढांचा तैयार कर रही है।

इसके तहत एआई मॉडल के असामान्य व्यवहार को ट्रैक करने, उसकी जांच करने और उससे जुड़ी नई जानकारियां सार्वजनिक करने की व्यवस्था विकसित की जाएगी।

खुद की सीमाएं तोड़ने की कोशिश

ओपनएआइ द्वारा बताए गए मामलों में एक ऐसे रिसर्च माडल का व्यवहार भी शामिल है, जिसे अभी सार्वजनिक नहीं किया गया था। इस माडल ने अपने ही नोट्स में ऐसे निर्देश डाल दिए, जिन्हें कंपनी ने ‘जेलब्रेक जैसे निर्देश’ बताया।

इन निर्देशों के जरिए माडल अपनी सामान्य सीमाओं को नजरअंदाज करने और उन भूमिकाओं व पहचानों से खुद को मुक्त करने की कोशिश करता दिखा, जो दूसरे चैटबाट्स पर लागू होती हैं।

एक अन्य मामले में एआइ एजेंट ने यूजर से अनुमति लिए बिना ब्राउजर साइटेशन हासिल करने के लिए इंटरनेट पर फाइलें अपलोड कर दीं। कंपनी के मुताबिक, ऐसे कुल छह मामले पिछले कुछ महीनों के दौरान ट्रेनिंग या मूल्यांकन की प्रक्रिया में सामने आए।

कंपनी ने कहा कि आने वाले महीनों और वर्षों में एआइ का विकास किस दिशा में होना चाहिए, इससे जुड़े फैसले ऐसे सबूतों पर आधारित होने चाहिए, जिनकी जांच फ्रंटियर एआइ माडल बनाने वाली कंपनियों से बाहर के लोग भी स्वतंत्र रूप से कर सकें।