AI एजेंट्स के बेकाबू होने पर लगेगी लगाम, एनवीडिया ने लॉन्च किया सिक्योरिटी प्लेटफॉर्म 'ओपनशेल'
चिप बनाने वाली कंपनी एनवीडिया ने एआई एजेंट्स को बेकाबू होने से रोकने के लिए नया सिक्योरिटी प्लेटफॉर्म ओपनशेल पेश किया है।
बेकाबू AI एजेंट्स को रोकेगा एनवीडिया का ओपनशेल
HighLights
एनवीडिया ने एआई एजेंट्स के लिए नया ओपनशेल प्लेटफॉर्म लॉन्च किया।
यह प्लेटफॉर्म बेकाबू एआई एजेंट्स को नियंत्रित करने में मदद करेगा।
ओपनशेल एआई गतिविधियों की सीमाएं तय कर लगातार निगरानी करता है।
डिजिटल डेस्क, न्यूयॉर्क। चिप बनाने वाली कंपनी एनवीडिया ने सोमवार को एक नया सिक्योरिटी प्लेटफार्म ओपनशेल पेश किया। कंपनी का कहना है कि यह आर्टिफिशियल इंटेलिजेंस (एआइ) एजेंट को बेकाबू होने से रोक सकता है।
कंपनी ने बताया कि उसके ओपन एजेंट सेफ्टी प्लेटफार्म में ऐसा साफ्टवेयर शामिल है, जो एजेंट के लिए सीमाएं तय करता है।
यह प्लेटफार्म उन जानकारियों के बाद आया है, जिनमें एआई कंपनियों की ओर से कहा गया था कि उनके माडल सीमाओं से बाहर जाकर दूसरे संगठनों के सिस्टम में घुस गए थे और उन्हें हैक कर लिया था।
इस जानकारी ने एडवांस्ड आर्टिफिशियल इंटेलिजेंस सिस्टम की सुरक्षा को लेकर बहस छेड़ दी है। इनमें खुद को बेहतर बनाने वाले (सेल्फ-इम्प्रूविंग) माडल भी शामिल हैं, जिनके बारे में कुछ लोगों को डर है कि वे इंसानी नियंत्रण से बाहर हो सकते हैं।
कंपनी का साफ्टवेयर, जिसे ओपनशेल कहा जाता है और जो ओपन-सोर्स है, डेवलपर्स को यह औपचारिक रूप से वेरिफाई करने की सुविधा देता है कि किसी एजेंट के पास अपना काम करने के लिए पर्याप्त अधिकार हैं और उससे ज्यादा नहीं।
कंपनी ने बताया कि इस प्लेटफॉर्म में सेट्री नाम की एक अलग सिक्योरिटी लेयर भी शामिल है जो चिप पर चलती है और एआई एजेंट की गतिविधियों पर लगातार नजर रखती है। अगर एजेंट अपने तय दायरे से बाहर जाने की कोशिश करता है, तो यह लेयर "तुरंत दखल" दे सकती है।
(न्यूज एजेंसी एपी के इनपुट के साथ)
