'अब ट्रायल और एरर का समय खत्म', एआई के खतरे गिनाते हुए OpenAI के सेफ्टी रिसर्चर डेविड रॉबिन्सन ने दिया इस्तीफा
ओपनएआई के पूर्व सुरक्षा कर्मचारी डेविड रॉबिन्सन ने AI के तेजी से विकास से जुड़े गंभीर खतरों की चेतावनी देते हुए इस्तीफा दिया।
HighLights
पूर्व सुरक्षा कर्मचारी डेविड रॉबिन्सन ने OpenAI से इस्तीफा दिया।
उन्होंने AI के तेजी से विकास से जुड़े गंभीर खतरों की चेतावनी दी।
AI कंपनियों को सुरक्षा पर अधिक ध्यान देने की आवश्यकता है।
डिजिटल डेस्क, वाशिंगटन। ओपनएआई के पूर्व सुरक्षा कर्मचारी डेविड रॉबिन्सन ने कंपनी से इस्तीफा दे दिया है। उन्होंने चेतावनी दी है कि अधिक सक्षम एआई सिस्टम को तेजी से विकसित करने की होड़ बड़े और गंभीर खतरों को जन्म दे सकती है।
रॉबिन्सन का कहना है कि अब गलतियों से सीखने का समय खत्म हो चुका है और AI कंपनियों को नए ताकतवर सिस्टम लाने से पहले सुरक्षा पर कहीं अधिक ध्यान देने की जरूरत है।
कंपनी के वर्क कल्चर पर उठाए सवाल
द अटलांटिक के अनुसार, डेविड रॉबिन्सन ने लिखा कि OpenAI सहित अन्य AI कंपनियां जितनी सतर्क होनी चाहिए, उतनी नहीं हैं। उन्होंने लगभग साढ़े तीन साल OpenAI में बिताए, जहां उन्होंने कंपनी के प्रिपेयर्डनेस फ्रेमवर्क को तैयार करने में मदद की और 12 बड़े मॉडल्स के लॉन्च के दौरान सेफ्टी रिपोर्ट्स की निगरानी की।
रॉबिन्सन के मुताबिक, कंपनी एक के बाद एक नए AI मॉडल लॉन्च करने की जल्दबाजी में है। उन्होंने कहा कि कंपनी जिस तेजी से एक लॉन्च से दूसरे लॉन्च की तरफ भाग रही है, उसमें जरूरी सावधानी और सतर्कता पीछे छूट रही है।
गलतियों से सीखने का तरीका अब काम नहीं करेगा
OpenAI आमतौर पर नए सिस्टम पहले जारी करती है और फिर मिलने वाली कमियों के आधार पर उनकी सुरक्षा को मजबूत करती है। इस प्रक्रिया को कंपनी इटेरेटिव डिप्लॉयमेंट कहती है।
रॉबिन्सन ने तर्क दिया कि जैसे-जैसे AI सिस्टम अधिक शक्तिशाली हो रहे हैं, यह तरीका अब पर्याप्त नहीं है। उन्होंने कहा कि उन्नत AI सिस्टम के लिए परमाणु ऊर्जा और विमानन जैसे जोखिम भरे क्षेत्रों के समान कड़े सुरक्षा मानक होने चाहिए।
इंसानी तालमेल का संकट
उन्होंने यह भी चेतावनी दी कि AI की क्षमताएं उस गति से बढ़ रही हैं, जितनी गति से शोधकर्ता उनके अलाइनमेंट को समझ भी नहीं पा रहे हैं। AI अलाइनमेंट का अर्थ यह सुनिश्चित करना है कि सिस्टम हमेशा इंसानी मूल्यों और लक्ष्यों के अनुरूप ही काम करे।
अपने बचाव में OpenAI के प्रवक्ता ने कहा कि कंपनी सुरक्षा को प्राथमिकता देना जारी रखे हुए है। कंपनी ने बयान में कहा कि हम यह सुनिश्चित कर रहे हैं कि हमारे मॉडल सुरक्षित प्रबंधन और नियंत्रण की सीमा से बाहर न जाएं। जरूरत पड़ने पर हम ट्रेनिंग रोकते हैं और नए मॉडल्स की रिलीज को धीमा भी करते हैं।
