Claude AI की सुरक्षा पर सवाल, 3 कंपनियों के सिस्टम तक पहुंचा मॉडल; Anthropic ने बताई पूरी कहानी
एआई एजेंट्स को लेकर बढ़ती संभावनाओं के बीच सुरक्षा एक बड़ी चुनौती बनकर सामने आ रही है। एंथ्रोपिक के क्लॉड एआई मॉडल की टेस्टिंग के दौरान हुई घटना ने दिखाया कि एडवांस एआई सिस्टम को ज्यादा सुरक्षित बनाने के लिए मजबूत निगरानी और बेहतर टेस्टिंग की जरूरत है।
In Short
- टेस्टिंग के दौरान क्लॉड एआई मॉडल गलती से इंटरनेट से जुड़कर तीन संगठनों के सिस्टम तक पहुंच गया।
- एंथ्रोपिक ने बताया कि इंटरनेट एक्सेस एक टेस्टिंग सेटअप की गलती के कारण मिला था।
- कंपनी ने साइबर सुरक्षा टेस्टिंग रोककर भविष्य में ऐसी घटनाएं रोकने के लिए सुरक्षा व्यवस्था मजबूत करने की बात कही।
Claude AI: आर्टिफिशियल इंटेलिजेंस यानी AI की दुनिया तेजी से बदल रही है। अब कंपनियां सिर्फ AI चैटबॉट तक सीमित नहीं रहना चाहतीं, बल्कि ऐसे AI एजेंट्स पर काम कर रही हैं जो खुद से कई जटिल काम कर सकें। लेकिन AI की बढ़ती क्षमता के साथ सुरक्षा को लेकर चिंताएं भी बढ़ रही हैं।
Anthropic ने हाल ही में बताया कि उसके Claude AI मॉडल की टेस्टिंग के दौरान एक बड़ी सुरक्षा चूक हुई। टेस्टिंग एनवायरमेंट से इंटरनेट कनेक्शन मिलने के बाद Claude AI तीन अलग-अलग संगठनों के असली कंप्यूटर सिस्टम तक पहुंच गया।
टेस्टिंग के दौरान मिली इंटरनेट एक्सेस
Anthropic के मुताबिक, यह घटना इंटरनल साइबर सिक्योरिटी टेस्ट के दौरान हुई। टेस्टिंग सेटअप में गलती से Claude AI को लाइव इंटरनेट की सुविधा मिल गई।
इसके बाद तीन अलग-अलग Claude AI मॉडल, Opus 4.7, Mythos 5 और एक रिसर्च टेस्ट मॉडल ने इंटरनेट से जुड़े असली सिस्टम के साथ संपर्क करना शुरू कर दिया। कंपनी के अनुसार, ये सिस्टम टेस्टिंग के दायरे में शामिल नहीं थे।
ये खबर पढ़ना न भूलें: भारत बना Claude का दूसरा सबसे बड़ा बाजार, AI से ये काम सबसे ज्यादा कर रहे भारतीय
यह मामला तब सामने आया जब Anthropic अपने साइबर सुरक्षा टेस्ट की समीक्षा कर रही थी। कंपनी ने यह समीक्षा OpenAI की ओर से सामने आई एक ऐसी ही सुरक्षा घटना के बाद शुरू की थी।
असली कंपनी की वेबसाइट तक पहुंचा Claude
पहली घटना में Claude AI को एक साइबर सिक्योरिटी टेस्ट के लिए इस्तेमाल किया जा रहा था। इसमें मॉडल को एक काल्पनिक कंपनी को टारगेट करने का काम दिया गया था।
लेकिन टेस्टिंग के दौरान उस काल्पनिक कंपनी का नाम एक असली बिजनेस से मिलता-जुलता था। इंटरनेट एक्सेस मिलने के बाद Claude ने खुद उस असली कंपनी की वेबसाइट खोज ली।
इसके बाद मॉडल ने कमजोर लॉगिन जानकारी का इस्तेमाल कर सैकड़ों रिकॉर्ड वाले प्रोडक्शन डेटाबेस तक पहुंच बना ली। यह पूरा काम बिना किसी इंसानी मदद के हुआ।
सुरक्षा बढ़ाने के लिए कदम उठा रही कंपनी
Anthropic ने बताया कि बाकी दो घटनाओं में भी Claude मॉडल ने इंटरनेट एक्सेस मिलने के बाद ऐसे लाइव सिस्टम से संपर्क किया, जो टेस्टिंग के लिए तय नहीं किए गए थे।
कंपनी के अनुसार, यह समस्या उसके थर्ड पार्टी मूल्यांकन पार्टनर Irregular के साथ हुई गलतफहमी के कारण हुई। जिन सिस्टम को अलग और सुरक्षित रखा जाना था, उनमें गलती से इंटरनेट एक्सेस चालू रह गया।
Anthropic ने अब साइबर टेस्टिंग को रोक दिया है और प्रभावित संगठनों को इसकी जानकारी दे दी है। कंपनी ने कहा है कि भविष्य में ऐसी घटनाएं दोबारा न हों, इसके लिए सुरक्षा व्यवस्था को और मजबूत किया जाएगा।
कंपनी का कहना है कि ज्यादा एडवांस AI मॉडल बेहतर तरीके से काम कर सकते हैं, लेकिन उनकी क्षमता और सुरक्षा को समझने के लिए अभी और टेस्टिंग की जरूरत है।
