आदित्य सिन्हा। हर गुजरते दिन के साथ हममें से अधिकाधिक लोग अपनी सोचने-समझने की प्रक्रिया को आर्टिफिशियल इंटेलिजेंस (एआई) के हवाले करते जा रहे हैं। हम उससे किसी ईमेल का मसौदा तैयार कराते हैं, बीमारी के लक्षणों की पड़ताल कराते हैं, किसी दस्तावेज का सार निकलवाते हैं। ये साधन पलक झपकते काम करते हैं और अक्सर बेहद कारगर भी साबित होते हैं। ऐसे में एक स्वाभाविक सवाल उठता है कि क्या हम इस पर आंख मूंदकर भरोसा कर सकते हैं? इसका ईमानदार जवाब कई बातों पर निर्भर करता है और सबसे ज्यादा स्वयं हम पर। भरोसे का सवाल इससे तय नहीं होता कि मशीन कितनी दक्ष है, बल्कि सवाल यह है कि क्या हम उसके किए काम पर बिना किसी संदेह भरोसा कर सकते हैं और जहां भी जांच-पड़ताल की वास्तविक जरूरत हो, क्या हम वहां उसकी प्रामाणिकता को परख सकते हैं।

कोई भी चैटबाट बहुत संयत भाव और आत्मविश्वास से परिपूर्ण जवाब देता है, लेकिन आत्मविश्वास का मतलब सटीकता नहीं होता। ये प्रणालियां किसी गलत तथ्य को भी उतनी ही सहजता से पेश कर सकती हैं, जितनी किसी सही तथ्य को। वे मनगढ़ंत स्रोत गढ़ सकती हैं या अपने ट्रेनिंग डाटा से ग्रहण किए गए किसी पूर्वाग्रह को दोहरा सकती हैं। वे इंसानों के लिखे से ही सीखती हैं और मानवीय लेखन में पूर्वाग्रह रचे-बसे होते हैं। सवाल यह भी है कि जो डाटा आप इसमें दर्ज कर रहे हैं, उसे आखिर देख कौन रहा है? किसी आम उपभोक्ता के लिए सबक बिल्कुल सीधा है कि सिर्फ इसलिए किसी मशीन पर भरोसा न करें, क्योंकि उसकी बात में यकीन झलकता है। उससे स्रोतों के बारे में पूछिए। तथ्यों की दोबारा पुन: पुष्टि कीजिए। इसे एक तेज-तर्रार सहायक मानिए, कोई अंतिम निर्णायक प्राधिकारी नहीं।

जोखिम तब बढ़ जाता है, जब एआई सलाह देने से आगे बढ़कर लोगों के बारे में फैसले लेना शुरू कर देती है। मिसाल के तौर पर बैंक अब ऐसे प्रारूपों का परीक्षण कर रहे हैं, जो यह तय करने के लिए सैकड़ों पैमानों का विश्लेषण करते हैं कि किसे कर्ज दिया जाए। अस्पताल मरीजों की प्राथमिकता तय करने में साफ्टवेयर की मदद ले रहे हैं। वहीं, अदालतें ऐसे टूल्स का इस्तेमाल कर रही हैं, जो यह अनुमान लगाते हैं कि किसी के दोबारा अपराध करने की कितनी आशंका है। यदि इन पहलुओं को सही तरीके से लागू किया जाए तो मानव मस्तिष्क के फैसलों की तुलना में कहीं अधिक निष्पक्ष साबित हो सकता है। एक अधिक परिष्कृत माडल अलग-अलग वर्गों के साथ कहीं अधिक समानता का व्यवहार भी कर सकता है। हालांकि इसमें एक पेच यह भी है कि इनमें से कई प्रणालियां वही हैं, जिन्हें इंजीनियर ‘ब्लैक बाक्स’ कहते हैं। इसमें आप यह तो देख सकते हैं कि इनपुट क्या दिया गया और आउटपुट क्या निकला, लेकिन बीच में क्या प्रक्रिया हुई, उसे समझा पाना खुद इसे तैयार करने वालों के लिए भी बेहद मुश्किल होता है।

यदि कोई बैंक यह नहीं बता सकता कि उसने आपका आवेदन क्यों खारिज किया, तो संभव है कि वह नियमों का उल्लंघन कर रहा हो। जिस वजह को कोई बताने को ही तैयार न हो, तो उसे आप चुनौती भी कैसे दे सकते हैं? जब भी कोई निर्णय किसी व्यक्ति के जीवन को प्रत्यक्ष रूप से प्रभावित करे, तब यह तय होना ही चाहिए कि प्रणाली ने किन पहलुओं का आकलन किया और उसका आधार क्या था।

अब परिदृश्य बहुत तेजी से बदल रहा है। हाल तक अधिकांश एआई केवल शब्द गढ़ने का काम कर रहे थे, लेकिन नई प्रणालियां सीधे कदम उठाती हैं। इन्हें 'एजेंट' कहा जाता है और किसी चैटबाट की तरह आपके सवाल का इंतजार करने के बजाय ये किसी तय लक्ष्य को साधते हैं और वास्तविक काम अंजाम देते हैं। जैसे टिकट बुक करना, संदेश भेजना या कोई सेटिंग बदलना। पुरानी चिंता यह थी कि सिस्टम कोई गलत बात न कह दे, मगर अब नई चिंता यह है कि सिस्टम कोई गलत कदम न उठा ले। यानी कोई ऐसा काम न कर बैठे, जिसकी किसी ने कल्पना भी न की हो। निगरानी और नियंत्रण के उपाय तकनीक की रफ्तार से काफी पीछे छूट रहे हैं और आशंकाओं की इस सूची में गलत नतीजे तथा साइबर हमले सबसे ऊपर बने हुए हैं।

एक अग्रणी लैब के प्रमुख ने बीते दिनों तर्क दिया कि उद्योग जगत को इन माडल्स को और अधिक शक्तिशाली बनाने की अंधी दौड़ को धीमा करना चाहिए, ताकि सुरक्षा मानकों को समय मिल पाए कि वे इनके साथ कदमताल कर सकें। उन्होंने उस घटना का हवाला दिया, जिसमें एजेंट्स के एक समूह ने उन ठिकानों पर हमला बोल दिया, जिन्हें छूने तक का निर्देश उन्हें नहीं दिया गया था और यहां तक कि उन्होंने उसी सिस्टम को हैक करने की कोशिश की, जो उनका मूल्यांकन कर रहा था। उन्होंने इस बड़े खतरे की ओर भी संकेत किया कि अब खुद एआई ही अपनी अगली पीढ़ी को तैयार करने में मदद कर रही है, जिससे उसकी रफ्तार हमारी समझ और निगरानी की सीमा से कहीं आगे निकल सकती है। चिंता की बात यह भी है कि इन प्रणालियों को बनाने वाले लोग भी आज तक इसके भीतर घटने वाली प्रक्रियाओं के एक बेहद छोटे हिस्से की ही व्याख्या कर पाते हैं। हालांकि हर कोई ऐसी भयावह आशंकाओं से सहमत नहीं।

कुछ जानकारों का मानना है कि मशीनों द्वारा पूरे इंटरनेट पर नियंत्रण कर लेने जैसी बातें बढ़ा-चढ़ाकर कही जा रही हैं। उनके अनुसार समझदारी न तो अंधी दौड़ में है और न ही बेवजह के खौफ में, बल्कि उस व्यावहारिक मध्यमार्ग में है, जो भले ही बहुत आकर्षक न दिखे, पर टिकाऊ हो। सवाल घूम-फिर कर वहीं आ जाता है कि क्या एआई पर भरोसा किया जा सकता है? इससे भी तार्किक प्रश्न यह है कि भरोसे का आधार कैसे तैयार हो? न तो आंख मूंदकर भरोसे वाली बात सही हो सकती है न ही नितांत संदेह की दृष्टि। वास्तव में हमें एक संतुलित दृष्टिकोण की आवश्यकता है, जहां यह पता रहे कि सिस्टम क्या-कुछ करने में सक्षम है? एक ऐसे दौर में जब एआई आने वाले दिनों में और अधिक शक्तिशाली होगी, तब हमें यह भी सुनिश्चित करना होगा कि हम उसे परखने में भी उतने ही सक्षम बन सकें। जिस मशीन पर हम सवाल नहीं उठा सकते, उसके निर्देश न मानने में कोई हर्ज नहीं।

(लेखक लोक-नीति विश्लेषक हैं)