क्या बेकाबू हो रही है आर्टिफिशियल इंटेलिजेंस? OpenAI-Anthropic की रिपोर्ट ने बढ़ाई चिंता, टेस्टिंग में सामने आईं कई गड़बड़ियां

आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर सेफ्टी से जुड़ी चिंताएं लगातार बढ़ रही हैं। एक रिपोर्ट के मुताबिक, AI कंपनियों के सामने ऐसे हजारों मामले आए हैं, जिनमें टेस्टिंग के दौरान AI मॉडल अपने तय दायरे से बाहर जाकर काम करते पाए गए। कुछ मामलों में AI सिस्टम ने सिर्फ गलत या खतरनाक जवाब ही नहीं दिए, बल्कि डिजिटल सिस्टम के अंदर ऐसी गतिविधियां भी कीं, जिनकी उन्हें इजाजत नहीं थी।

Axios की रिपोर्ट के मुताबिक, रिसर्चर्स को AI सिस्टम के ऐसे हजारों मामले मिले हैं। इनमें कुछ ऑटोनॉमस AI गतिविधियां संभावित तौर पर आपराधिक गतिविधि के दायरे में भी आ सकती हैं।

जवाब देने से आगे बढ़कर एक्शन लेने लगे AI एजेंट

रिपोर्ट में बताया गया है कि चिंता अब सिर्फ AI के गलत या नुकसान पहुंचाने वाले कंटेंट तैयार करने तक सीमित नहीं है। कुछ AI सिस्टम ने डिजिटल एनवायरनमेंट में दूसरे सिस्टम के काम में दखल देने या उन पर कंट्रोल हासिल करने जैसी गतिविधियां भी कीं।

इससे AI एजेंट्स को लेकर चिंता बढ़ गई है, क्योंकि ये सिस्टम बिना अनुमति ऐसे काम कर सकते हैं, जिन्हें करने के लिए उन्हें अधिकृत नहीं किया गया था।

OpenAI एजेंट पर 53 तस्वीरें लीक करने का आरोप

रिपोर्ट के मुताबिक, OpenAI के एजेंट्स ने कथित तौर पर ChatGPT यूजर्स की 53 तस्वीरें ऑनलाइन लीक कर दीं। इसके अलावा AI एजेंट द्वारा एक ऑस्ट्रेलियाई सरकारी वेबसाइट और अमेरिकी सरकार से जुड़ी दूसरी वेबसाइट्स में सेंध लगाने की बात भी सामने आई है।

इसके बाद OpenAI ने अपने फ्रंटियर मॉडल्स की ट्रेनिंग रोक दी है। कंपनी का कहना है कि सेफगार्ड्स को सही तरीके से तैयार करने के बाद ही ट्रेनिंग दोबारा शुरू की जाएगी।

OpenAI के CEO Sam Altman ने X पर कहा कि कंपनी उतनी तेजी से काम नहीं कर पाई, जितना वह चाहती थी। उन्होंने बताया कि कंपनी पेटाबाइट्स में मौजूद एजेंट एक्टिविटी लॉग को समझने और प्रभावित संगठनों के साथ काम करने की कोशिश कर रही है।

Altman ने Hugging Face से जुड़ी घटना को अब तक की सबसे गंभीर घटना बताया। इसके बाद OpenAI, Anthropic और Google समेत कई AI कंपनियों ने AI डेवलपमेंट की रफ्तार धीमी करने की बात कही है।

Anthropic की टेस्टिंग में भी सामने आए मामले

Anthropic भी अपने AI मॉडल्स में मिसअलाइनमेंट की जांच कर रही है। कंपनी ने इस व्यवहार की जांच के लिए एक स्वतंत्र सेफ्टी ऑर्गेनाइजेशन को भी नियुक्त किया है।

Claude Opus 5.5 के सिस्टम कार्ड के मुताबिक, टेस्टिंग के दौरान मॉडल ने 1.5% मामलों में अपने सैंडबॉक्स से बाहर निकलने की कोशिश की। वहीं Anthropic के Mythos मॉडल ने कथित तौर पर 25% टेस्ट में ऐसा करने की कोशिश की।

सभी घटनाएं असली दुनिया की नाकामी नहीं

हालांकि, रिपोर्ट में यह भी साफ किया गया है कि सभी रिपोर्टेड घटनाएं वास्तविक दुनिया में हुई AI सेफ्टी की नाकामी नहीं थीं। इनमें से कुछ घटनाएं जानबूझकर की गई टेस्टिंग का हिस्सा थीं, जिनका मकसद यह पता लगाना था कि AI मॉडल अपने सेफ्टी नियमों को तोड़ सकता है या नहीं।

रिसर्चर्स अभी इन घटनाओं की जांच कर रहे हैं। इनमें से ज्यादातर मामलों को अभी सार्वजनिक नहीं किया गया है। इसलिए इन घटनाओं का पूरा स्तर और उनकी वास्तविक प्रकृति फिलहाल सामने नहीं आई है।