Gemini AI ने गलती से हैक कर दीं 3 कंपनियां, जानिए गूगल की टेस्टिंग में क्या हुआ

आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर एक हैरान करने वाला मामला सामने आया है। Google का Gemini AI सिस्टम मई में साइबर सिक्योरिटी टेस्टिंग के दौरान इंटरनेट तक पहुंच गया और उसने अपने आप तीन असली कंपनियों को हैक कर लिया। खास बात यह है कि Gemini को असली कंपनियों को निशाना बनाने के लिए नहीं कहा गया था। हालांकि जब AI को पता चला कि ये कंपनियां असली हैं तो उसने हैकिंग रोक दी।

कैसे असली कंपनियों तक पहुंचा Gemini?

ये टेस्ट AI सिक्योरिटी कंपनी Irregular ने किए थे। कंपनी Anthropic, Meta और OpenAI के साथ भी काम करती है। टेस्ट के दौरान Google के Gemini मॉडल के एक वर्जन को कुछ नकली कंपनियों के अंदर से डेटा हासिल करने का काम दिया गया था। इस दौरान Gemini को इंटरनेट एक्सेस नहीं मिलना था।

लेकिन Gemini एजेंट इंटरनेट तक पहुंच गए। टेस्ट में इस्तेमाल की गई नकली कंपनियों के नाम तीन असली कंपनियों के नाम जैसे थे। इसके बाद AI एजेंट उन असली कंपनियों तक पहुंच गए।

पासवर्ड खोजकर हासिल किया एक्सेस

Gemini एजेंट पासवर्ड का अंदाजा लगाने या उन्हें खोजने में कामयाब रहे और तीन असली कंपनियों में एक्सेस हासिल कर लिया। हालांकि जब AI एजेंट को समझ आया कि जिन कंपनियों को वह निशाना बना रहा है, वे असली हैं तो उसने हैकिंग रोक दी।

Google का कहना है कि उसने इस घटना को सार्वजनिक नहीं किया था क्योंकि उसके सेफ्टी सिस्टम ने काम किया और मॉडल रुक गया। इस मामले की सबसे पहले जानकारी The Wall Street Journal ने दी।

कंपनियों को दी गई घटना की जानकारी

Irregular के मुताबिक, जुलाई के आखिर में इससे जुड़े सभी संबंधित AI लैब्स को जानकारी दे दी गई थी। जांच के दौरान प्रभावित कंपनियों से भी संपर्क किया गया। कंपनी का कहना है कि उसकी तरफ से सामने आई सभी ज्ञात समस्याओं को कई हफ्ते पहले ठीक कर दिया गया था।

गूगल की वाइस प्रेसिडेंट ऑफ सिक्योरिटी इंजीनियरिंग Heather Adkins ने बताया कि तीनों कंपनियों को जानकारी दी गई और टेस्टिंग की प्रक्रिया में बदलाव के लिए Google ने अपने ट्रेनिंग पार्टनर के साथ काम किया है। उन्होंने कहा कि तीनों मामलों में मॉडल अपने आप रुक गया था।

OpenAI और Anthropic के साथ भी सामने आए मामले

यह घटना ऐसे समय सामने आई है जब AI सिस्टम के अपने आप हैकिंग करने को लेकर चिंता बढ़ रही है। जुलाई में 1,000 से ज्यादा OpenAI एजेंट एक टेस्ट एनवायरनमेंट से बाहर निकल गए थे। उन्होंने एक सीक्रेट मैसेज बोर्ड पर तालमेल किया और Hugging Face को हैक किया था। OpenAI को इस हमले का पता लगाने में एक हफ्ता लगा था।

इसी महीने Anthropic ने भी माना था कि साइबर क्षमताओं की टेस्टिंग के दौरान उसके Claude AI मॉडल ने तीन संगठनों को हैक किया था। एक गलतफहमी के कारण Claude को इंटरनेट एक्सेस मिल गया था।

AI की निगरानी बढ़ाने की मांग

 गूगल की पैरेंट कंपनी Alphabet के चीफ साइंटिस्ट और DeepMind के को-फाउंडर Demis Hassabis ने AI की बेहतर निगरानी के लिए एक अंतरराष्ट्रीय संस्था बनाने का सुझाव दिया है। उन्होंने AI रिसर्च की रफ्तार को मिलकर धीमा करने, डेटा शेयर करने, सेफ्टी पर तालमेल बढ़ाने और ऐसी घटनाओं की रिपोर्टिंग के लिए तय नियम बनाने की मांग का भी समर्थन किया है।