ChatGPT के साथ है 'हां जी, हां जी' करने की दिक्कत, करता है चापलूसी वाला व्यवहार
चैटजीपीटी में उपयोगकर्ताओं से सहमत होने की प्रवृत्ति है, जो चापलूसी जैसा व्यवहार है। एक रिपोर्ट के अनुसार, यह उपयोगकर्ताओं की बातों को चुनौती देने के बजाय उनसे अधिक सहमत होता है, भले ही वे गलत हों। इससे गलत जानकारी फैलने का खतरा बढ़ जाता है। शोधकर्ताओं ने चेतावनी दी है कि चैटजीपीटी तटस्थ रहने के बजाय उपयोगकर्ता की भावनात्मक टोन के अनुसार जवाब देता है, जिससे कमजोर उपयोगकर्ताओं को नुकसान हो सकता है।
चैटजीपीटी को लेकर बड़ा खुलासा।
जागरण न्यूज नेटवर्क, नई दिल्ली। चैटजीपीटी के साथ एक दिक्कत है। उसे हां जी हां जी कहने की आदत है। वॉशिंगटन पोस्ट की एक रिपोर्ट के अनुसार चैटबॉट यूजर्स की बात को चुनौती देने या उसे सही करने की तुलना में 10 गुना अधिक बार उसकी बात से सहमत हो जाता है।
दूसरे शब्दों में कहें तो चैटबॉट अपने यूजर्स को खुश करने के लिए चापलूसी वाला व्यवहार दिखाता है और उसकी ज्यादातर बातों के साथ सहमति जताता है, और वह ऐसा तब भी करता है जब यूजर्स की बात गलत हो। इससे इस बात का खतरा बढ़ गया है कि चैटबाट गलत, गुमराह करने वाली और साजिश के तहत आगे बढ़ाई जा रही जानकारियां दे रहा हो।
47,000 यूजर्स की बातचीत का विश्लेषण
रिपोर्ट में 47,000 यूजर्स की चैटजीपीटी के साथ बातचीत का विश्लेषण किया गया। विश्लेषण से पता चला है कि 17,000 बार ऐसा हुआ कि एआई ने अपना जवाब हां, सही है या इसी तरह की स्वीकारात्मक भाषा के साथ शुरू किया। इसकी तुलना में नहीं, यह गलत है या किसी तरह की असहमति दिखाने वाले जवाब बहुत कम थे।
रिपोर्ट में कहा गया है कि एक बातचीत में चैटबॉट से अमेरिका के ब्रेकडाउन और इसमें फोर्ड की कथित भूमिका के बारे में पूछा गया। इस पर चैटजीपीटी ने तथ्यात्मक या संतुलित जवाब देने के बजाए अपना उत्तर यूजर्स की भाषा के आस-पास ही तैयार किया और व्यापार समझौतों में फोर्ड की भूमिका को तरक्की के नाम पर सुनियोजित विश्वासघात बताया।
शोधकर्ताओं ने चेताया
शोधकर्ताओं ने चेताया है कि चैटजीपीटी का व्यवहार दिखाता है कि वह कैसे तटस्थता बनाए रखने के बजाए अक्सर यूजर्स की भावनात्मक या वैचारिक टोन के हिसाब से जवाब देने का प्रयास करता है। उसका इस तरह का व्यवहार उन दावों तक ही सीमित नहीं है, जिन पर सवाल उठते हैं।
दिलचस्प बात यह है कि एआई के चापलूसी वाले व्यवहार को उजगार करने वाली यह पहली रिपोर्ट नहीं है। स्टैनफोर्ड विश्वविद्यालय और सेंटर फार डेमोक्रेसी एंड टेक्नोलाजी (सीडीटी) द्वारा हाल ही में किए गए एक अध्ययन से पता चलता है कि ये एआई टूल ने केवल कमजोर यूजर्स की रक्षा करने में विफल हो रहे हैं, बल्कि कुछ मामलों में उनका अत्यधिक सहमति वाला व्यवहार नुकसान को बढ़ावा दे रहा है।
अध्ययन में पाया गया कि चैटजीपीटी और गूगल के जेमिनी जैसे मॉडलों ने यूजर्स को खाने के विकारों के लक्षणों को छिपाने के तरीके बताए हैं, हानिकारक व्यवहार को प्रोत्साहित किया है, और ऐसी इमेज जेनरेट की की हैं जो स्वास्थ्य को नुकसान पहुंचाने वाले शारीरिक मानकों को आकर्षक दिखाती हैं।अध्ययन से यह भी पता चला है कि इन चैटबॉट ने ऐसी सलाह दी है जो सीधे फूड डिसऑर्डर को बढ़ावा देती हैं।
कमेंट्स
सभी कमेंट्स (0)
बातचीत में शामिल हों
कृपया धैर्य रखें।