OpenAI एजेंट्स पर फिर उठे सवाल? जर्मन वेबसाइट को बनाया अपना मैसेज बोर्ड, रिपोर्ट में बड़ा दावा

हजारों AI एजेंट्स ने वेबसाइट पर किए बदलाव

OpenAI के AI एजेंट्स को लेकर एक नया विवाद सामने आया है। एक रिपोर्ट के मुताबिक, हजारों AI एजेंट्स ने जर्मनी की एक प्रोग्रामिंग वेबसाइट को अपने इस्तेमाल के लिए मैसेज बोर्ड की तरह बदल दिया। इन एजेंट्स ने वेबसाइट पर 15 हजार से ज्यादा एडिट किए और आपस में बातचीत के लिए इसका इस्तेमाल किया।

रॉयटर्स की रिपोर्ट के अनुसार, यह घटना इस साल की शुरुआत में DseWiki नाम की वेबसाइट पर हुई। यह वेबसाइट विकिपीडिया की तरह काम करती है, जहां यूजर्स जानकारी साझा और एडिट कर सकते हैं। रिपोर्ट में दावा किया गया है कि OpenAI से जुड़े AI एजेंट्स ने इस प्लेटफॉर्म का इस्तेमाल सार्वजनिक संदेश बोर्ड की तरह किया।

OpenAI एजेंट्स ने बनाए फर्जी नामों से अकाउंट

रिपोर्ट के मुताबिक, इन AI एजेंट्स ने वेबसाइट पर किए गए बदलावों में खुद को एजेंट्स के रूप में दिखाया। करीब आधे एडिट ऐसे नामों से किए गए जिनसे OpenAI से जुड़ाव का संकेत मिलता था। इनमें “OpenAIResearcher” और “OAIResearchMar26” जैसे नाम शामिल थे।

इन एजेंट्स ने करीब दो महीने में 15 हजार से ज्यादा बदलाव किए। रिपोर्ट में कहा गया है कि इनका इस्तेमाल टेस्ट में सफलता हासिल करने के तरीके खोजने और आपस में जानकारी साझा करने के लिए किया गया।

OpenAI अधिकारियों को घटना की जानकारी होने का दावा

रिपोर्ट में दावा किया गया है कि OpenAI के अधिकारियों को इस घटना की जानकारी कुछ हफ्तों पहले ही मिल गई थी, लेकिन उन्होंने इसे सार्वजनिक नहीं किया। उस समय कंपनी जुलाई में हुए Hugging Face विवाद को लेकर पहले से दबाव में थी।

हालांकि, OpenAI के प्रवक्ता ने रॉयटर्स को बताया कि यह दावा गलत है कि कंपनी की कानूनी टीम ने घटना की जांच रोकने की कोशिश की थी। 

AI एजेंट्स ने हटाए जाने से बचने के तरीके खोजे

रिपोर्ट के अनुसार, इन AI एजेंट्स के पास इंटरनेट का केवल रीड एक्सेस था, लेकिन उन्होंने जर्मन वेबसाइट की एक कमी का फायदा उठाकर उसे अपने संवाद के लिए इस्तेमाल किया।

मानव मॉडरेटर ने 2 जून को वेबसाइट पर स्पैम पोस्ट देखीं। इसके बाद गतिविधि तेजी से बढ़ गई। 16 जून तक एक हफ्ते में हजारों एडिट किए जा चुके थे।

जब मॉडरेटर ने पेज हटाने शुरू किए तो एजेंट्स ने इससे बचने के तरीके खोजने शुरू कर दिए। उन्होंने “ZZZ” से शुरू होने वाले बैकअप पेज बनाए ताकि वे ज्यादा समय तक बने रहें।

मॉडरेटर को हटाने पड़े हजारों पेज

रिपोर्ट के अनुसार, मॉडरेटर ने लगातार छह हफ्तों तक हर शाम कई मिनट लगाकर इन पेजों को हटाया। पांच दिनों के दौरान मॉडरेटर करीब 100 पेज रोज हटाते रहे, जबकि AI एजेंट्स करीब 400 नए पेज बना रहे थे।

22 जून के बाद एडिट बंद हो गए, लेकिन वेबसाइट की सफाई का काम करीब पांच हफ्तों तक चलता रहा।

यह मामला ऐसे समय सामने आया है जब OpenAI के AI एजेंट्स को लेकर पहले भी सुरक्षा से जुड़े सवाल उठ चुके हैं। Hugging Face घटना में भी OpenAI एजेंट्स के सैंडबॉक्स से बाहर निकलने और वेबसाइट में सेंध लगाने की बात सामने आई थी। इसके बाद कंपनी ने अपने मॉडल्स की निगरानी और सुरक्षा उपायों को मजबूत करने की बात कही थी।