क्या AI अगले 10 साल में इंसानों को खत्म कर देगा? 'डूम्सडे' की चेतावनी का पूरा सच

दूसरी तरफ AI के कुछ शीर्ष शोधकर्ता और इसके विकास के बेहद करीब काम कर चुके लोग चेतावनी दे रहे हैं कि अगर अत्यधिक शक्तिशाली और खुद को लगातार बेहतर बनाने वाली AI विकसित हो गई, तो यह इंसानियत के अस्तित्व के लिए खतरा बन सकती है।

सबसे बड़ा सवाल यह है कि क्या AI अगले 10 वर्षों में इंसानों को खत्म कर सकती है? और अगर AI कंपनियों के कुछ विशेषज्ञ वास्तव में ऐसा मानते हैं तो वे इस तकनीक को और ज्यादा शक्तिशाली बनाने की दौड़ में शामिल क्यों हैं? क्या यह वही स्थिति है जिसमें हर देश को डर है कि अगर उसने विकास धीमा किया तो कोई दूसरा देश, खासकर चीन, उससे आगे निकल जाएगा?

यह मजाक भले ही हास्यास्पद लगे, लेकिन इसके पीछे AI उद्योग की एक गंभीर चिंता छिपी है। दुनिया की प्रमुख AI कंपनियां और उनके शोधकर्ता एक ओर संभावित अस्तित्वगत खतरे की बात कर रहे हैं, वहीं दूसरी ओर उनका मानना है कि AI के विकास की रफ्तार रोकना भी जोखिम भरा हो सकता है।

तर्क यह है कि अगर कोई कंपनी या देश आगे बढ़ना बंद करता है और दूसरा अधिक शक्तिशाली AI सिस्टम विकसित कर लेता है तो पहले वाले के पास उस तकनीक के जोखिमों को नियंत्रित करने का मौका भी कम हो सकता है।

AGI से आशय ऐसी AI से है जो इंसानों की तरह अलग-अलग क्षेत्रों में समझ, तर्क और समस्या समाधान की क्षमता दिखा सके। इसके आगे की कल्पना इससे भी अधिक शक्तिशाली AI की है, जो अपने से ज्यादा सक्षम अगली पीढ़ी के सिस्टम बनाने में मदद कर सके।

AI सुरक्षा के क्षेत्र में इसे लेकर बड़ा सवाल यह है कि आखिर ऐसी संभावना का अनुमान लगाया कैसे जाए? यहीं से p(doom) शब्द सामने आता है। इसका इस्तेमाल उस अनुमान के लिए किया जाता है कि भविष्य में AI के कारण मानव सभ्यता के खत्म होने की कितनी संभावना है।

कुछ AI विशेषज्ञों के लिए यह संभावना बेहद गंभीर है, जबकि दूसरे वैज्ञानिक इसे एक ऐसा आंकड़ा मानते हैं, जिसकी ठोस गणना करना फिलहाल संभव नहीं है।

50 प्रतिशत तक हो सकती है संभावना

AI के क्षेत्र में काम कर चुके ज्योफ्री इरविंग ने सुपरइंटेलिजेंस के कारण सभी इंसानों के मारे जाने की संभावना अगले कुछ वर्षों से एक दशक के भीतर करीब 50 प्रतिशत तक बताई है।

लेकिन उनकी सबसे महत्वपूर्ण बात यह है कि वह खुद स्वीकार करते हैं कि उन्हें नहीं पता कि वास्तविक आंकड़ा 10 प्रतिशत से कम होगा या 90 प्रतिशत से अधिक। इसका पता तब ही चलेगा जब इंसान या तो इस दौर से सुरक्षित निकल जाएंगे या फिर नहीं निकल पाएंगे।

यही p(doom) बहस की सबसे बड़ी समस्या है- इतने बड़े खतरे के बारे में अनुमान तो लगाए जा रहे हैं, लेकिन तुलना करने के लिए हमारे पास अतीत का कोई वास्तविक उदाहरण नहीं है।

AI से मानव विलुप्ति का 10% अनुमान अनुचित नहीं

AI के गॉडफादर कहे जाने वाले जेफ्री हिंटन ने भी AI से मानवता के अस्तित्व पर खतरे को गंभीर माना है। उन्होंने कहा है कि अगले एक दशक में AI के कारण सभी इंसानों के खत्म होने की 10 प्रतिशत संभावना को अनुचित अनुमान नहीं कहा जा सकता।

ऐसे बयान स्वाभाविक रूप से डर पैदा करते हैं। लेकिन इसका दूसरा पहलू भी है- अगर यह अनुमान किसी ऐतिहासिक आंकड़े या प्रयोग पर आधारित नहीं है तो इसकी विश्वसनीयता कितनी है?

प्रिंसटन के वैज्ञानिकों ने p(doom) पर उठाए सवाल

प्रिंसटन के कंप्यूटर वैज्ञानिक अरविंद नारायणन और AI शोधकर्ता सयाश कपूर जैसे विशेषज्ञ p(doom) की अवधारणा को लेकर काफी sceptical हैं। उनका सवाल सीधा है- अगर कोई व्यक्ति कहता है कि AI से मानवता के खत्म होने की संभावना 10 प्रतिशत है, तो वह संख्या आई कहां से?

मानव इतिहास में इससे पहले कभी सुपरइंटेलिजेंस नहीं बनी। इसलिए इसके आधार पर कोई बड़ा सांख्यिकीय नमूना उपलब्ध नहीं है। इसी वजह से आलोचकों का कहना है कि 10, 50 या 90 प्रतिशत जैसे आंकड़े वैज्ञानिक सटीकता का भ्रम पैदा कर सकते हैं, जबकि वास्तव में वे विशेषज्ञों के व्यक्तिगत अनुमान हैं।

AI के doomers का तर्क कुछ ऐसा ही है। उनका कहना है कि यदि मानव विलुप्ति की संभावना बेहद कम भी हो, तब भी संभावित परिणाम इतना भयावह है कि इसे नजरअंदाज नहीं किया जा सकता।

लेकिन इसके आलोचक इसे Pascal's Mugging से जोड़ते हैं- जहां बहुत छोटी संभावना को अत्यंत बड़े नुकसान के साथ जोड़कर किसी भी फैसले को तर्कसंगत बताया जा सकता है।

क्या Big Tech डूम्सडे बेच रहा है?

यहीं से इस पूरी बहस का दूसरा और ज्यादा असहज सवाल सामने आता है। क्या AI कंपनियां और AI सुरक्षा का पूरा इकोसिस्टम खतरे को जरूरत से ज्यादा बढ़ाकर पेश कर रहा है?

इसके पीछे आर्थिक तर्क भी है। AI कंपनियों में अरबों डॉलर का निवेश हो चुका है। अगर AI को मानव सभ्यता के लिए सबसे महत्वपूर्ण तकनीक बताया जाता है तो निवेशकों को इससे बाहर रह जाने का डर पैदा होता है। दूसरी ओर, अगर AI को बेहद खतरनाक बताया जाए तो सरकारों से कड़े नियम और सुरक्षा मानकों की मांग को भी मजबूती मिल सकती है।

लेकिन छोटी कंपनियों और नए स्टार्टअप के लिए यह मुश्किल हो सकता है। इस तरह सुरक्षा का नियम खुद बड़ी कंपनियों के लिए प्रतिस्पर्धात्मक दीवार यानी मोआट बन सकता है। हालांकि, इसका अर्थ यह नहीं है कि सुरक्षा चिंताएं झूठी हैं या नियमन की मांग सिर्फ व्यावसायिक हितों से प्रेरित है।

फंडिंग को लेकर भी कुछ दिलचस्प संबंध सामने रखे गए हैं। Survival and Flourishing Fund के रिकॉर्ड के मुताबिक Skype के सह-संस्थापक और AI existential-risk के प्रमुख समर्थक जान टालिन से जुड़े फंड ने 2025 में AI Futures Project, Encode AI और AI Policy Institute जैसी संस्थाओं को लाखों डॉलर दिए।

टालिन ने 2021 में Anthropic की शुरुआती 124 मिलियन डॉलर की फंडिंग में भी प्रमुख भूमिका निभाई थी। लेकिन इन संबंधों से अपने आप किसी साजिश का प्रमाण नहीं मिलता। सिर्फ नेटवर्क देखकर साजिश नहीं कही जा सकती

महत्वपूर्ण बिंदु

एक तरफ संगठन हैं, फंडिंग है, मीडिया कवरेज है और AI पर सख्त कानूनों की मांग करने वाले राजनीतिक प्रयास हैं। दूसरी तरफ AI के वास्तविक खतरों से जुड़े उदाहरण भी मौजूद हैं। इसलिए केवल इन कड़ियों को जोड़कर यह निष्कर्ष निकालना कि कोई सुनियोजित डूम्सडे कैंपेन चल रहा है, उचित नहीं होगा।

AI के आलोचक गैरी मार्कस का तर्क भी यही है कि व्यक्ति की पृष्ठभूमि या उसके साथ जुड़े लोगों पर ध्यान देने के बजाय यह देखना चाहिए कि उसकी बात सही है या नहीं।

फिर AI के खतरे के वास्तविक उदाहरण भी सामने हैं इसी बीच Anthropic की अपनी रिपोर्ट ने बहस को एक नया मोड़ दिया।

कंपनी ने बताया कि उसके AI मॉडल Claude का इस्तेमाल साइबर ऑपरेशन, हथियारों से जुड़े काम और संभावित रूप से खतरनाक जैविक अनुसंधान में करने की कोशिशें हुईं।

कंपनी के मुताबिक, उत्तरी यमन में एक हथियार विकास समूह ने Claude Code की मदद से एक निर्देशित रॉकेट, लंबी दूरी की बैलिस्टिक मिसाइल और हाइपरसोनिक ग्लाइड सिस्टम से जुड़े guidance, navigation and control सॉफ्टवेयर को विकसित करने की कोशिश की।

समूह ने निर्देशित रॉकेट का परीक्षण भी किया। परीक्षण में समस्या आने के बाद उसने Claude से यह समझने में मदद मांगी कि आखिर गड़बड़ी कहां हुई। ये घटनाएं कॉक्सन के इस्तीफे से पहले की हैं। लेकिन इनका सामने आना उसी समय हुआ जब AI के अस्तित्वगत खतरे को लेकर बहस तेज हो रही थी।

किसी व्यक्ति को यह बताने से फायदा हो सकता है कि उसके घर में आग लगी है, लेकिन इससे यह साबित नहीं होता कि घर में वास्तव में आग नहीं लगी है।

AI का आयरन केज

जर्मन समाजशास्त्री मैक्स वेबर ने आधुनिक संस्थाओं के उस जाल को Iron Cage कहा था, जिसमें लोग तर्कसंगत फैसले लेते-लेते खुद ऐसी व्यवस्था में फंस जाते हैं, जहां उससे बाहर निकलना मुश्किल हो जाता है।

क्या AI सच में 10 साल में इंसानों को खत्म कर देगी?

इसका ईमानदार जवाब फिलहाल है- किसी के पास इसका निश्चित उत्तर नहीं है। AI से मानव विलुप्ति की 10, 50 या 90 प्रतिशत जैसी संभावनाएं वैज्ञानिक रूप से प्रमाणित भविष्यवाणी नहीं हैं। वे विशेषज्ञों के अनुमान हैं। लेकिन दूसरी तरफ यह कहना भी जल्दबाजी होगी कि खतरा पूरी तरह काल्पनिक है।