'अगले 10 सालों में इंसान को खत्म कर सकता है AI', पूर्व गूगल डीपमाइंड रिसर्चर ने दी चेतावनी
पूर्व गूगल डीपमाइंड शोधकर्ता एलेक्स टर्नर ने चेतावनी दी है कि अगले 10 वर्षों में आर्टिफिशियल इंटेलिजेंस (एआई) से मानव सभ्यता के विनाश की 33% आशंका है।
अगले दस वर्ष में मानवता को खत्म कर सकता है एआई
HighLights
अगले 10 वर्षों में एआई से मानव सभ्यता का विनाश संभव।
एआई की सुरक्षा, नियंत्रण और पारदर्शिता पर गंभीर चिंताएं।
कंपनियां एआई क्षमता पर सुरक्षा को प्राथमिकता नहीं दे रहीं।
जागरण न्यूज नेटवर्क, नई दिल्ली। आर्टिफिशियल इंटेलिजेंस (एआई) जिस तेजी से इंसानी कामकाज का हिस्सा बन रही है, उसी रफ्तार से उसके खतरों को लेकर चिंता भी बढ़ रही है।
गूगल डीपमाइंड के पूर्व शोधकर्ता एलेक्स टर्नर ने चेतावनी दी है कि अगले 10 वर्षों में एआई से मानव सभ्यता के विनाश की आशंका को नजरअंदाज नहीं किया जा सकता।
उन्होंने कहा कि फिलहाल इसकी 33 प्रतिशत आशंका है, भले ही एआई को ऐसा करने का निर्देश न दिया गया हो, पर वह स्वत: खतरा बन सकता है।
एक कार्यक्रम में टर्नर ने कहा कि खतरा केवल एआई के अधिक शक्तिशाली होने का नहीं, बल्कि इस बात का भी है कि इंसान उसके काम करने के तरीके को पूरी तरह समझ और नियंत्रित नहीं पा रहा है।
कंपनियां अधिक सक्षम एआई विकसित करने की होड़ में हैं, लेकिन उसकी सुरक्षा और निगरानी के उपाय उतनी तेजी से आगे बढ़ेंगे या नहीं, यह बड़ा सवाल है।
टर्नर ने बड़ी एआई कंपनियों की पारदर्शिता की तुलना तंबाकू और तेल उद्योग से करते हुए आरोप लगाया कि वे भी अपने उत्पादों के जोखिमों को लेकर सच छिपा रही हैं।
टर्नर ने एक और चिंता जताई। उनके मुताबिक, कुछ शोधकर्ता एआई से तैयार काम की जांच खुद करने के बजाय उसकी निगरानी के लिए दूसरी एआई प्रणाली का इस्तेमाल करने लगे हैं। लेकिन अगर निगरानी करने वाली प्रणाली भी गलती करे या अहम संकेत पकड़ने में विफल रहे, तो जवाबदेही किसकी होगी?
उन्होंने यह भी आशंका जताई कि एआई प्रणालियां जांच के दौरान एक तरह से व्यवहार कर सकती हैं और दूसरी परिस्थितियों में अलग।
इससे उनकी गतिविधियों पर भरोसेमंद निगरानी और कठिन हो सकती है। एआई अलाइनमेंट यानी तकनीक के उद्देश्यों और व्यवहार को मानवीय इरादों के अनुरूप बनाए रखना भी इसी चुनौती का हिस्सा है।
टर्नर ने एआई एजेंटों की तुलना गिग वर्करों से की। जैसे किसी व्यक्ति को काम सौंपा जाता है, वैसे ही एआई एजेंट को लक्ष्य दिया जाता है और वह उसे पूरा करने में जुट जाता है। मुश्किल तब पैदा होती है, जब वह लक्ष्य हासिल करने के लिए ऐसा रास्ता अपनाए जिसकी उसके निर्माता ने कल्पना न की हो।
