आपको खुश करने के लिए 'चापलूसी' का सहारा ले रहा AI, हर गलती को सही बताकर दे रहा है खतरनाक सलाह
एक नए अध्ययन से पता चला है कि AI अब निष्पक्ष जवाब देने के बजाय 'चापलूसी' कर रहा है, जिसे 'सोशल साइकोफैंसी' कहा गया है।
एआई के कारण पड़ रहा नकारात्मक प्रभाव (Image Source: AI-Generated)
समय कम है?
जानिए मुख्य बातें और खबर का सार एक नजर में
न्यूयॉर्क, एपी। क्या आप भी अपने हर छोटे-बड़े सवाल या फैसले के लिए आर्टिफिशियल इंटेलिजेंस (AI) पर भरोसा करते हैं? अगर हां, तो यह जानकारी आपके लिए बेहद जरूरी है। एक नए अध्ययन से यह चौंकाने वाला खुलासा हुआ है कि एआई अब निष्पक्ष जवाब देने के बजाय इंसानों की तरह 'चापलूसी' करने लगा है। वह अब सच बोलने के बजाय आपको खुश करने वाले जवाब दे रहा है।
(Image Source: AI-Generated)
सोशल साइकोफैंसी: एआई की नई बीमारी
विज्ञान की भाषा में एआई के इस नए बर्ताव को 'सोशल साइकोफैंसी' नाम दिया गया है। इसका सीधा सा मतलब है कि एआई आपकी गलती बताने के बजाय, आपके हर विचार और एक्शन को सही ठहराता है। वह अब इस बात पर ज्यादा ध्यान दे रहा है कि यूजर को क्या सुनना पसंद है, न कि इस बात पर कि असल में सच क्या है।
11 बड़े एआई मॉडल्स हुए फेल
गुरुवार को 'साइंस' पत्रिका में एक अहम अध्ययन प्रकाशित हुआ। इस रिसर्च में गूगल, ओपनएआई, मेटा, मिस्ट्राल और एन्थ्रोपिक जैसे 11 बड़े लैंग्वेज मॉडल्स का परीक्षण किया गया। नतीजों में पाया गया कि ये सभी मॉडल्स असमंजस और विवादित सवालों पर भी निष्पक्ष और सच्चा जवाब देने के बजाय वही कहते हैं जो यूजर को अच्छा लगे। परीक्षण किए गए सभी एआई में अलग-अलग स्तर की चापलूसी देखी गई।
(Image Source: AI-Generated)
इंसानी रिश्तों और व्यवहार पर पड़ रहा बुरा असर
एआई की यह आदत इंसानों के लिए खतरनाक साबित हो रही है:
- गलत सलाह: एआई यूजर्स को ऐसी झूठी और गलत सलाह दे रहा है जिससे आपसी रिश्ते खराब हो सकते हैं और हानिकारक आदतों को बढ़ावा मिल सकता है।
- नैतिक फैसलों में झूठ: जब लोग अपने निजी या नैतिक मामलों में एआई से सलाह लेते हैं, तो वह उन्हें ही सही ठहरा देता है।
- गलती न मानना: एआई से मिले समर्थन के कारण लोग अपनी गलतियों को स्वीकार करना बंद कर रहे हैं और खुद को हमेशा सही समझने लगे हैं।
प्रयोगों में सामने आई सच्चाई
इस अध्ययन के दौरान 1604 लोगों पर दो अलग-अलग प्रयोग किए गए। यह देखा गया कि जब एआई ने यूजर्स की बातों में 'हां में हां' मिलाई, तो लोगों ने अपनी गलती मानने से साफ इनकार कर दिया और एआई पर अपना भरोसा और ज्यादा बढ़ा दिया।
इस बात का एक दिलचस्प उदाहरण 'रेडिट' जैसे प्लेटफॉर्म पर देखने को मिला। वहां जब किसी यूजर के सवाल पर ऑनलाइन कम्युनिटी ने उसे गलत ठहराया, तब भी एआई ने उसी गलत यूजर का ही बचाव किया।
एआई के भरोसे पर उठा सवाल
विशेषज्ञों ने चेतावनी दी है कि एआई की चापलूसी करने की यह प्रवृत्ति बेहद खतरनाक है। इसके कारण यूजर्स और एआई बनाने वाले डेवलपर्स के बीच एक 'सुविधाजनक झूठ' का मायाजाल बन रहा है। एआई सिर्फ वही कह रहा है जो लोग सुनना चाहते हैं, जिसने इसके भरोसेमंद होने पर एक बहुत बड़ा सवाल खड़ा कर दिया है।
