तेजी से बदलते एआई के बेलगाम होने का बढ़ा खतरा, OpenAI और संयुक्त राष्ट्र ने चेताया
ओपनएआई के वैज्ञानिक जैकब पचोकी ने एआई के अनियंत्रित होने के खतरे पर चिंता जताई है, क्योंकि दुनिया इसके परिणामों से निपटने को तैयार नहीं है।
ओपनएआई ने एआई के अनियंत्रित विकास पर गहरी चिंता व्यक्त की (सांकेतिक तस्वीर)
समय कम है?
जानिए मुख्य बातें और खबर का सार एक नजर में
डिजिटल डेस्क, नई दिल्ली। ऑर्टिफिशियल इंटेलिजेंस (एआई) के तेजी से बढ़ते प्रभाव के बीच अब इसके अनियंत्रित होने का खतरा खुद एआइ विकसित करने वाली कंपनियों को भी सताने लगा है।
ओपनएआई के वरिष्ठ विज्ञानी जैकब पचोकी ने चेतावनी दी है कि मशीन इंटेलिजेंस तेजी से आगे बढ़ रही है, लेकिन दुनिया इसके संभावित नतीजों से निपटने के लिए अभी तैयार नहीं है।
ओपनएआई ने AI के अनियंत्रित विकास पर गहरी चिंता जताई
पचोकी ने ‘एन एलियन माइंड’ नाम की इंटरनेट मीडिया पोस्ट में कहा कि उन्हें उम्मीद है कि दुनिया स्वेच्छा से एआई के विकास और इस्तेमाल की रफ्तार को कुछ धीमा करेगी, ताकि जरूरी सुरक्षा उपाय तैयार किए जा सकें। उन्होंने कहा कि भविष्य की एआइ तकनीक के विकास को लेकर अंतरराष्ट्रीय समन्वय दुनिया भर की सरकारों की प्राथमिकता होनी चाहिए।
उनकी चिंता ऐसे समय सामने आई है जब एआई एजेंट तेजी से लोकप्रिय हो रहे हैं। ये ऐसे सिस्टम हैं जो किसी काम को पूरा करने के लिए कई चरणों की योजना खुद बना सकते हैं और उसे अंजाम भी दे सकते हैं। इनकी बढ़ती स्वायत्तता ने सुरक्षा को लेकर नई चिंताएं पैदा कर दी हैं।
संयुक्त राष्ट्र ने भी एआई को मानवता के लिए खतरा बताया
हाल की घटनाओं में ऐसे उदाहरण सामने आए हैं, जहां एआइ एजेंट ने दिए गए काम से आगे बढ़कर अनचाही गतिविधियां कीं। इससे आशंका बढ़ी है कि अधिक सक्षम सिस्टम सुरक्षा उपायों को दरकिनार कर सकते हैं, निर्देशों की अनदेखी कर सकते हैं या ऐसे कदम उठा सकते हैं जिनकी उनके मानव संचालकों ने कल्पना भी नहीं की थी।
रिपोर्टों के मुताबिक, इस साल की शुरुआत में ओपनएआइ के एआइ एजेंटों के एक समूह ने एक जर्मन प्रोग्रामिंग वेबसाइट के कुछ पेजों का नियंत्रण अपने हाथ में ले लिया था।
जुलाई में एक अन्य घटना में एजेंट सुरक्षित परीक्षण वातावरण से बाहर निकलकर एआइ प्लेटफार्म ‘हगिंग फेस’ के सिस्टम तक पहुंच गए थे। इन घटनाओं ने एआइ एजेंटों पर मानवीय निगरानी और मजबूत सुरक्षा व्यवस्था की जरूरत को और बढ़ा दिया है।
यूएन ने भी चेताया, एआई से मानवता के अस्तित्व को खतरा
रायटर के अनुसार, संयुक्त राष्ट्र के मानवाधिकार प्रमुख वोल्कर तुर्क ने सोमवार को जिनेवा में एआइ के संभावित खतरों को लेकर गंभीर चेतावनी दी। उन्होंने कहा कि एडवांस्ड एआइ मानवता के अस्तित्व के लिए खतरा बन सकता है। तुर्क ने एआइ कंपनियों पर जोखिम कम करने के लिए दबाव डालने और सुरक्षा के लिए ‘पक्की गारंटी’ लागू करने की मांग की।
उनके कार्यालय के मुताबिक, शक्तिशाली एआइ सिस्टम में गड़बड़ी होने पर जरूरी सेवाओं, संचार, महत्वपूर्ण बुनियादी ढांचे और लोकतांत्रिक संस्थानों में व्यवधान पैदा हो सकता है।
तुर्क ने कहा कि एआइ को सुरक्षित बनाने के लिए बहुत देर होने से पहले हर संभव कदम उठाना जरूरी है। उन्होंने जुलाई की ‘हगिंग फेस’ घटना का उल्लेख करते हुए इसे ‘खतरनाक एजेंट-ट्रेनिंग व्यवहार’ से जुड़ा मामला बताया।
(न्यूज एजेंसी पीटीआई के इन्पुटके साथ)
