'5 साल में भारी नुकसान', अब Google के AI रिसर्चर ने छोड़ी नौकरी; आर्टिफिशियल इंटेलीजेंस को लेकर चेताया
गूगल डीपमाइंड के एजीआई सुरक्षा रिसर्चर जोश एंगल्स ने एआई से जुड़े गंभीर खतरों को लेकर अपनी नौकरी छोड़ दी है।
गूगल डीपमाइंड की एजीआई सुरक्षा टीम में काम करने वाले ने छोड़ी नौकरी।
HighLights
जोश एंगल्स ने गूगल डीपमाइंड की नौकरी छोड़ी।
अगले पांच साल में AI से भारी नुकसान की चेतावनी।
AI सुरक्षा पर शोध के लिए METR से जुड़े।
डिजिटल डेस्क, वॉशिंगटन। आर्टिफिशियल इंटेलिजेंस (AI) से जुड़े खतरों को लेकर चिंताएं बढ़ती जा रही हैं। कुछ दिन पहले ही एंथ्रोपिक के पूर्व रिसर्चर जैकब कॉक्सन ने चेतावनी दी थी कि एआई इस दशक के आखिर तक सभी इंसानों की जान ले सकता है। अब इसकी सुरक्षा से जुड़े एक और रिसर्चर ने एक बड़ी एआई लैब छोड़ दी है और एक गंभीर चेतावनी दी है।
गूगल डीपमाइंड की एजीआई सुरक्षा टीम में काम करने वाले Josh Engels ने कंपनी छोड़ दी और एआई का मूल्यांकन करने वाली संस्था METR से जुड़ गए हैं। उन्होंने कहा कि उन्होंने यह कदम इसलिए उठाया क्योंकि उन्हें लगता है कि एडवांस्ड एआई से जुड़े जोखिम बहुत ज्यादा बढ़ गए हैं।
एथ्रोपिक और ओपनएआई के ऑफर भी ठुकराए
एक्स पर एक पोस्ट में Engels ने बताया कि उन्होंने तीन हफ्ते पहले डीपमाइंड छोड़ दिया था। उन्होंने कहा कि उन्हें कंपनी में अपना काम पसंद था और उन्होंने एंथ्रोपिक और ओपनएआई के ऑफर भी ठुकरा दिए थे।
Engels ने लिखा, "अब मुझे लगता है कि इस बात की बहुत ज्यादा संभावना है कि अगले पांच सालों में एआई सिस्टम से भारी नुकसान हो सकता है।" उन्होंने आगे कहा कि उन्हें इसकी सटीक संभावना का पता नहीं है लेकिन उनकी नजर में यह जोखिम इतना ज्यादा था कि एआई सुरक्षा को दुनिया की सबसे अहम समस्या बना दे।
एआई के बारे में इतने चिंतित क्यों हैं Engels?
उनकी चिंता की मुख्य वजह वह चीज है जिसे एआई रिसर्चर रिकर्सिव सेल्फ-इम्प्रूवमेंट (खुद को बार-बार बेहतर बनाना) कहते हैं। एक एआई सिस्टम किसी दूसरे एआई सिस्टम को डिजाइन करने या उसे बेहतर बनाने में सक्षम हो जाता है। वह नया सिस्टम एआई को बेहतर बनाने में और भी माहिर हो जाता है, जिससे एक फीडबैक लूप बन जाता है।
अगर ऐसा सिस्टम इंसानी लक्ष्यों के अनुरूप नहीं है तो इसके नतीजे गंभीर हो सकते हैं। उन्होंने चेतावनी दी कि गलत तरीके से काम करने वाला रिकर्सिव सेल्फ-इम्प्रूवमेंट लूप विनाशकारी हो सकता है।
एआई से जुड़ी हाल की घटनाओं का किया जिक्र
उन्होंने एआई सिस्टम से जुड़ी हाल की कई घटनाओं की ओर भी इशारा किया। उन्होंने कहा कि रिसर्चर्स ने देखा है कि मॉडल आपस में मिलीभगत कर रहे हैं, कंपनियों को हैक कर रहे हैं, अपनी गतिविधियों को छिपा रहे हैं और इंसानों को सोशल इंजीनियरिंग के जरिए प्रभावित करने की कोशिश कर रहे हैं।
उनका तर्क यह नहीं है कि ये अलग-अलग घटनाए निश्चित रूप से विनाशकारी हैं। बड़ी चिंता की बात यह है कि ये घटनाए तेजी से सक्षम होते जा रहे सिस्टम के व्यवहार के बारे में क्या बताती हैं।
Engels ने कहा कि मौजूदा एआई मॉडल समय के साथ ज्यादा अलाइन होने के बजाय कम अलाइन होते जा रहे हैं। उनका मानना है कि इंडस्ट्री के लिए यह एक चेतावनी होनी चाहिए, इससे पहले कि वह खुद को बेहतर बनाने वाले एआई की दिशा में अगला बड़ा कदम उठाए।
किस तरह तय की जाए एआई डेवलपमेंट की रफ्तार?
उन्होंने कहा कि इसका जवाब जरूरी नहीं कि एआई डेवलपमेंट को पूरी तरह से रोकना ही हो। इसके बजाय वह चाहते हैं कि एआई डेवलपमेंट की रफ्तार इतनी धीमी हो जाए कि सुरक्षा से जुड़ी रिसर्च उसके साथ-साथ चल सके।
उन्होंने लिखा, "इसका मतलब है कि एआई डेवलपमेंट की रफ्तार को इस तरह से तय किया जाए कि उसकी क्षमताएं, मॉडल्स को सही दिशा में लाने की हमारी काबिलियत से आगे न निकल जाएं।"
METR में उनकी नई भूमिका इस बात पर केंद्रित होगी कि एआई मिसअलाइनमेंट कहां से आता है, मौजूदा सुरक्षा उपाय काम करते हैं या नहीं और क्या रिसर्चर सच में एआई अलाइनमेंट की समस्या को सुलझाने की सही दिशा में आगे बढ़ रहे हैं।
उन्होंने यह भी कहा कि METR का काम अहम है लेकिन अकेले यह काफी नहीं है। उन्होंने ऐसी और संस्थाओं की जरूरत पर जोर दिया जो एआई कंपनियों का स्वतंत्र रूप से मूल्यांकन कर सकें और उन्हें जवाबदेह ठहरा सकें।
