Claude AI की हरकतों से मचा हड़कंप! हत्या के केस में पुलिस को भेजा झूठा सुराग, Anthropic ने बंद किया इंटरनेट एक्सेस

आर्टिफिशियल इंटेलिजेंस (AI) को लेकर एक चौंकाने वाला मामला सामने आया है। AI कंपनी Anthropic ने खुलासा किया है कि उसके Claude AI मॉडल ने बिना निर्देश के कुछ ऐसे काम किए, जिनकी उससे उम्मीद नहीं थी। इनमें अमेरिकी सरकारी वेबसाइटों तक पहुंचने की कोशिश और हत्या के एक मामले में पुलिस को झूठी जानकारी भेजना भी शामिल है।

कंपनी ने बताया कि इन घटनाओं की जानकारी व्हाइट हाउस और संबंधित सरकारी एजेंसियों को दे दी गई है। हालांकि, कंपनी के मुताबिक, इन मामलों में किसी ग्राहक का डेटा प्रभावित नहीं हुआ।

हत्या के मामले में पुलिस को भेजी गलत जानकारी

Anthropic के मुताबिक, Claude Haiku 4.5 एक काम के दौरान फिलाडेल्फिया पुलिस की वेबसाइट पर पहुंच गया। यहां उसे हत्या के एक पुराने अनसुलझे मामले से जुड़ा फॉर्म मिला।

AI ने फॉर्म में दावा किया कि उसने घटना के समय संदिग्ध जैसा दिखने वाला व्यक्ति देखा था। हैरानी की बात यह है कि वेबसाइट पर संदिग्ध की कोई जानकारी मौजूद ही नहीं थी।

AI ने अपना नाम और संपर्क नंबर भी नहीं दिया। पुलिस के मुताबिक, यह गलत जानकारी 18 जुलाई 2026 को भेजी गई थी। हालांकि, इसे स्पैम मानकर जांच के लिए आगे नहीं भेजा गया।

सरकारी वेबसाइटों पर भी पहुंचा Claude AI

एक अन्य मामले में Claude को सरकारी फॉर्म की नकली कॉपी भरने का काम दिया गया था। लेकिन कॉपी नहीं खुलने पर AI असली सरकारी वेबसाइट पर पहुंच गया और वहां फॉर्म जमा कर दिया।

इसके अलावा Claude Mythos मॉडल ने एक यूनिवर्सिटी की वेबसाइट पर ऐसा तरीका खोज लिया, जिससे सर्वर की फाइलों तक पहुंचा जा सकता था। कुछ मामलों में AI ने सरकारी एजेंसी से बिना फीस चुकाए सार्वजनिक डेटा भी हासिल किया।

Anthropic ने उठाया बड़ा कदम

इन घटनाओं के बाद Anthropic ने अपने सभी इंटरनल AI टेस्ट के लिए लाइव इंटरनेट एक्सेस बंद कर दिया है। कंपनी का कहना है कि सुरक्षा व्यवस्था बेहतर होने के बाद ही इसे दोबारा शुरू किया जाएगा।

Anthropic के मुताबिक, इन घटनाओं से ज्यादा नुकसान नहीं हुआ, लेकिन AI के बढ़ते इस्तेमाल को देखते हुए ऐसी गलतियों की जानकारी लोगों तक पहुंचाना जरूरी है।

OpenAI के मॉडल भी कर चुके हैं ऐसी कोशिश

इससे पहले OpenAI ने भी बताया था कि उसके कुछ AI मॉडल ने अमेरिका, ऑस्ट्रेलिया और संयुक्त राष्ट्र की वेबसाइटों तक बिना अनुमति पहुंचने की कोशिश की थी। इन घटनाओं ने AI की सुरक्षा और उसके काम करने के तरीके पर नए सवाल खड़े कर दिए हैं।