ChatGPT, Bard जैसे AI बेस्ड चैटबॉट का नहीं होगा गलत इस्तेमाल, शोधकर्ताओं ने खोजा समाधान
Misuse Of AI Based Chatbot बीते साल इंटरनेट यूजर्स के लिए चैटजीपीटी मॉडल पेश किया गया। ठीक कुछ समय बाद एक के बाद चैटजीपीटी जैसे मॉडल पेश किए गए। समाज के एक वर्ग को इन चैटबॉट के गलत इस्तेमाल को लेकर चिंता सता रही है। वहीं दूसरी ओर शोधकर्ताओं का दावा है कि चैटबॉट का गलत इस्तेमाल रोकने के लिए नए समाधान खोजे गए हैं।
HighLights
- ओपनएआई का चैटजीपीटी मॉडल इंटरनेट की दुनिया में एक बड़ी क्रांति के रूप में उभरा है।
- एआई चैटबॉट इंसानों के काम तो आ रहे हैं, लेकिन इनके गलत इस्तेमाल की भी एक चिंता है।
- शोधकर्ताओं ने एआई के गलत इस्तेमाल को रोकने के लिए एक नया समाधान पेश किया है।
नई दिल्ली, टेक डेस्क। बीते साल इंटरनेट की दुनिया में उस वक्त एक बड़ी क्रांति आई जब अमेरिका की एआई स्टार्टअप कंपनी ओपनएआई ने एक खास तरह का चैटबॉट मॉडल पेश किया। एआई टेक्नोलॉजी पर आधारित यह चैटबॉट इंसानों जैसे बातचीत करने वाला मॉडल था। इंसानों की भाषा को समझ कर उन्हीं की भाषा में जवाब देना वाला चैटजीपीटी हर यूजर का काम आसान करने लगा।
AI के गलत इस्तेमाल को लेकर है डर
देखते ही देखते चैटजीपीटी जैसे कई दूसरे मॉडल यूजर के लिए पेश होने लगे। समय के साथ यूजर को चैटजीपीटी, बिंग और बार्ड जैसे कई दूसरे मॉडल के विकल्प मिलने लगे।
यह चैटबॉट मॉडल यूजर का काम तो आसान बना रहे हैं लेकिन इनके गलत इस्तेमाल को लेकर भी समाज का एक वर्ग चिंतिंत रहने लगा। इसी कड़ी में एआई आधारित चैटबॉट के गलत इस्तेमाल को रोकने के लिए शोधकर्ताओं ने एक नया समाधान पेश किया है।
AI के साथ यूजर के लिए नहीं पैदा होगा कोई खतरा
शोधकर्ताओं का दावा है कि उन्होंने गूगल, एंथ्रोपिक और ओपनएआई द्वारा बनाए गए चैटबॉट्स द्वारा सुरक्षा से जुड़ी जानकारियों को बायपास करने का तरीका खोज लिया है।
चैटबॉट द्वारा दी जाने वाली जानकारियों को बायपास करने के तरीकों को खोजा जा रहा है ताकि, इन चैटबॉट के साथ यह सुनिश्चित किया जा सके कि यूजर को गलत जानकारियां न मिलें। इसके साथ ही यूजर के लिए सुरक्षा से जुड़ा कोई खतरा पैदा न हो।
शोधकर्ताओं ने पेश किया है नया समाधान
कार्नेगी मेलन विश्वविद्यालय (पिट्सबर्ग) और सेंटर फॉर एआई सेफ्टी (सैन फ्रांसिस्को) के शोधकर्ताओं ने इस तरह का दावा किया है।
उनके पेपर 'यूनिवर्सल एंड ट्रांसफरेबल अटैक्स ऑन अलाइन्ड लैंग्वेज मॉडल्स' (Universal and Transferable Attacks on Aligned Language Models) में कहा गया है कि शोधकर्ता जेलब्रेक्स का इस्तेमाल कर सकते हैं। जेलब्रेक्स को ओपन-सोर्स सिस्टम के लिए पॉपुलर एआई मॉडल्स को टारगेट करने के लिए ही डेवलप किया गया है।
