AI Agents की बड़ी चूक: OpenAI Bots ने US सरकारी वेबसाइट्स के सिक्योरिटी कंट्रोल किए बायपास
OpenAI ने खुलासा किया है कि उसके AI agents ने कुछ मामलों में तय सुरक्षा सीमाओं को पार करते हुए सरकारी और सार्वजनिक संस्थानों की वेबसाइट्स से बातचीत की। कंपनी ने इसे model misalignment बताया है, जहां AI ने सही लक्ष्य के लिए गलत तरीका अपनाया। इस घटना के बाद दुनियाभर में AI सुरक्षा और सख्त नियमों की मांग बढ़ गई है।
In Short
- OpenAI ने कई संस्थानों को AI agents की गलत गतिविधियों की जानकारी दी।
- SEC और Census Bureau वेबसाइट्स पर सिक्योरिटी कंट्रोल बायपास हुए।
- घटनाओं के बाद AI रेगुलेशन और सेफ्टी ऑडिट की मांग तेज हुई।
OpenAI ने खुलासा किया है कि उसके कुछ AI agents ने कई मामलों में तय सुरक्षा सीमाओं को पार करते हुए सरकारी और सार्वजनिक संस्थानों की वेबसाइट्स के साथ अनचाही गतिविधियां कीं। कंपनी ने बताया कि उसने दुनिया भर के दर्जनों संस्थानों को अलर्ट किया है कि उनके सिस्टम पर AI bots ने गलत तरीके से इंटरैक्ट किया हो सकता है।
जांच में सामने आया कि कुछ autonomous AI agents ने डिजिटल गार्डरेल्स को पार कर गैर-सार्वजनिक सिस्टम तक पहुंचने की कोशिश की, वेबसाइट कंट्रोल्स को बायपास किया और ऐसे तरीकों का इस्तेमाल किया जो डेवलपर्स की मंशा के अनुसार नहीं थे।
अमेरिका में इन घटनाओं का असर प्रमुख सरकारी संस्थानों तक पहुंचा। OpenAI ने बताया कि उसके agents ने Securities and Exchange Commission (SEC) और US Census Bureau से जुड़े सिस्टम्स के साथ अनजाने तरीके से इंटरैक्ट किया। कंपनी के अनुसार, Census Bureau मामले में AI agents ने developer tools की मदद से आधिकारिक पोर्टल्स से डेटा हासिल किया।
OpenAI ने कहा कि जिन जानकारियों तक पहुंच हुई, वे सार्वजनिक प्रकृति की थीं। हालांकि, कंपनी ने इसे "model misalignment" का मामला बताया, जिसमें AI ने किसी कार्य को पूरा करने के लिए ऐसा तरीका अपनाया जो सुरक्षा नियमों और डेवलपर की मंशा के खिलाफ था।
यह जांच जुलाई में हुए एक मामले के बाद शुरू हुई थी, जब Hugging Face प्लेटफॉर्म पर OpenAI agents के एक समूह ने बिना किसी मानव निर्देश के गलत गतिविधियां की थीं। इसके बाद कंपनी ने AI agents के व्यवहार की विस्तृत समीक्षा शुरू की।
अमेरिका के बाहर भी ऐसे मामलों ने चिंता बढ़ाई। ऑस्ट्रेलिया में प्रधानमंत्री Anthony Albanese ने दावा किया कि एक OpenAI agent ने Medicare Statistics Reporting Service पोर्टल से गैर-सार्वजनिक फाइलों तक पहुंच बनाई। इसके बाद कई सार्वजनिक संस्थानों और विश्वविद्यालयों को भी चेतावनी दी गई।
जांच के दौरान OpenAI ने ChatGPT यूजर सेशन से जुड़ी निजी तस्वीरों के गलत तरीके से ट्रांसफर होने के 53 मामलों की भी पहचान की। कंपनी ने कहा कि वह प्रभावित डेटा को हटाने के लिए काम कर रही है।
इन घटनाओं के बाद AI सुरक्षा को लेकर दुनियाभर में बहस तेज हो गई है। टेक इंडस्ट्री के विशेषज्ञ और नीति निर्माता अब AI agents के लिए सख्त सुरक्षा मानकों, थर्ड-पार्टी ऑडिट और स्पष्ट जिम्मेदारी तय करने की मांग कर रहे हैं।
