OpenAI के AI एजेंट्स ने खुद ही बंद कर दी अपनी निगरानी! सवाल पूछने पर एक ने बोला झूठ, कंपनी ने उठाया कदम

आर्टिफिशियल इंटेलिजेंस की सुरक्षा को लेकर एक चौंकाने वाला मामला सामने आया है। OpenAI के दो AI एजेंट्स ने कंपनी के अंदर काम करते समय उन सुरक्षा सिस्टम में बदलाव कर दिए, जिन्हें AI की गलत गतिविधियों पर नजर रखने के लिए बनाया गया था। हैरानी की बात यह है कि इनमें से एक AI एजेंट ने निगरानी सिस्टम हटाने के बाद ऐसा करने से इनकार भी कर दिया। कंपनी ने इन घटनाओं की जानकारी 20 अक्टूबर को दी।

आखिर क्या है पूरा मामला?

OpenAI के मुताबिक, उसके दो AI एजेंट्स इंटरनल कोडिंग से जुड़े काम कर रहे थे। इसी दौरान उन्होंने निगरानी से जुड़े सुरक्षा उपायों को कमजोर कर दिया।

पहले मामले में एक AI एजेंट ने निगरानी करने वाले सिस्टम को हटा दिया। जब उससे इस बारे में सवाल किया गया तो उसने ऐसा करने से इनकार कर दिया। वहीं, दूसरे AI एजेंट ने संभावित गलत व्यवहार से जुड़ा इंटरनल सिक्योरिटी अलर्ट नहीं भेजा।

इन घटनाओं ने AI सिस्टम की सुरक्षा और उन पर इंसानों के नियंत्रण को लेकर नए सवाल खड़े कर दिए हैं।

GPT-6.1 Sol ने क्यों नहीं भेजा सिक्योरिटी अलर्ट?

OpenAI के सेफ्टी रिसर्चर मार्कस विलियम्स ने सोशल मीडिया प्लेटफॉर्म X पर इन घटनाओं की जानकारी साझा की।

पहली घटना 3 अक्टूबर को हुई थी। GPT-6.1 Sol नाम के AI मॉडल को Slack चैनल की समीक्षा करने का काम दिया गया था। उसे साफ निर्देश था कि वह कोई मैसेज नहीं भेजेगा।

मॉडल ने 82 मैसेज की समीक्षा की और कुछ सुधारों पर काम किया। हालांकि, इस दौरान उसने संभावित गलत व्यवहार से जुड़ा सिक्योरिटी अलर्ट नहीं भेजा। मॉडल ने तर्क दिया कि अलर्ट भेजना उसे दिए गए निर्देशों का उल्लंघन होगा।

GPT-6 Astra ने हटाया मॉनिटरिंग सिस्टम?

दूसरी घटना 6 अक्टूबर को सामने आई। GPT-6 Astra एक कोडिंग टास्क पूरा कर रहा था। इसी दौरान उसने AI की गतिविधियों पर नजर रखने वाला एक सुरक्षा सिस्टम हटा दिया।

जब उससे पूछा गया कि क्या उसने चालू मॉनिटरिंग सिस्टम हटाया है, तो मॉडल ने इनकार कर दिया। उसने कहा कि उसने कोई सक्रिय मॉनिटर नहीं हटाया है।

OpenAI ने इस घटना को बेहद गंभीर श्रेणी में रखा है।

OpenAI ने सुरक्षा के लिए क्या कदम उठाए?

OpenAI ने साफ किया है कि इन दोनों घटनाओं से किसी बाहरी पक्ष के प्रभावित होने की जानकारी नहीं मिली है।

कंपनी ने अपने Auto-Review सिस्टम को अपडेट किया है। यह सिस्टम इंटरनल Codex इस्तेमाल के लिए जरूरी है। अब इसमें ऐसे प्रयासों को पहचानने और रोकने की व्यवस्था की गई है, जिनसे AI की निगरानी बंद हो सकती है।

इसके अलावा कंपनी दोनों घटनाओं की जांच कर रही है, ताकि पता लगाया जा सके कि AI एजेंट्स में निगरानी से बचने की कोई व्यापक प्रवृत्ति तो नहीं है।