'नियंत्रण से बाहर हुआ AI तो तबाही तय', UNHC की पहली बैठक में दिग्गजों ने दी गंभीर चेतावनी

बैठक में ओपनएआइ के सैम आल्टमैन और एंथ्रोपिक के डारियो अमोदेई ने चेताया कि एआइ से जुड़े जोखिमों को नजरअंदाज नहीं किया जा सकता। आल्टमैन ने कहा कि यह तकनीक रचनात्मकता और खोज के नए दौर की शुरुआत कर सकती है, लेकिन गलत दिशा में बढ़ी तो समाज में उथल-पुथल और अव्यवस्था भी पैदा कर सकती है।

उन्होंने कहा कि एआई से मानवता को तबाही का जोखिम एक प्रतिशत हो, 10 प्रतिशत हो या उससे भी कम—कोई भी स्तर स्वीकार्य नहीं है। उनके मुताबिक, एआई के विकास से होने वाले लाभ जितने स्पष्ट हो रहे हैं, उसके साथ जुड़े जोखिम भी उतनी ही तेजी से सामने आ रहे हैं।

अमोदेई ने इसे वैश्विक सुरक्षा के सबसे अहम मुद्दों में से एक बताते हुए एआइ के विकास की रफ्तार को नियंत्रित करने की जरूरत बताई। उन्होंने सुरक्षा परिषद से एआइ की मदद से जैविक हथियार बनाने पर रोक, एआई की क्षमताओं की जांच के साझा मानक और इसके दुरुपयोग की जानकारी साझा करने वाली वैश्विक व्यवस्था बनाने की अपील की।

दोनों ने कहा कि कोई नेता, कंपनी या देश अकेले एआइ से जुड़े जोखिमों से नहीं निपट सकता।

आल्टमैन ने कहा कि एआई को लोकतांत्रिक बनाना है तो महत्वपूर्ण फैसले केवल सैन फ्रांसिस्को की प्रयोगशालाओं में नहीं लिए जा सकते। संयुक्त राष्ट्र महासचिव एंटोनियो गुटेरस भी एआइ के लिए वैश्विक शासन व्यवस्था बनाने पर जोर दे चुके हैं।

अल्बनीज के मुताबिक, ओपनएआई ने घटना के करीब तीन महीने बाद 10 सितंबर को ऑस्ट्रेलिया को इसकी जानकारी दी। उन्होंने सैम आल्टमैन से मुलाकात कर घटना पर आपत्ति जताई और एआई एजेंटों पर कड़ी निगरानी की मांग की। हालांकि ओपनएआई ने कहा कि एजेंटों ने किसी मरीज का व्यक्तिगत डाटा एक्सेस नहीं किया और जिन सूचनाओं तक पहुंच बनी, वे गैर-संवेदनशील थीं।

फिर भी घटना को लेकर आस्ट्रेलिया में चिंता है, क्योंकि उसके मेडिकेयर सिस्टम में 2.7 करोड़ से अधिक लोग पंजीकृत हैं।