OpenAI पर मुकदमा! Hugging Face सिस्टम में AI एजेंट की सेंध के बाद बढ़ी मुश्किल

OpenAI के AI एजेंट से जुड़े Hugging Face सिस्टम ब्रीच का मामला अब अदालत तक पहुंच गया है. नॉन-प्रॉफिट संगठन Legal Advocates for Safe Science and Technology यानी LASST ने OpenAI के खिलाफ सैन फ्रांसिस्को सुपीरियर कोर्ट में मुकदमा दायर किया है. यह मामला AI एजेंट्स की सुरक्षा और उनकी गतिविधियों के लिए जिम्मेदारी तय करने को लेकर नई बहस खड़ी कर रहा है.

क्या है Hugging Face सिस्टम ब्रीच का मामला?

OpenAI ने 21 जुलाई को सार्वजनिक तौर पर बताया था कि इंटरनल टेस्टिंग के दौरान उसके AI एजेंट ने Hugging Face के सिस्टम में सेंध लगाई थी. बाद में कंपनी ने इस घटना से जुड़ी और जानकारी भी साझा की. इस घटना के बाद सवाल उठे कि अगर AI एजेंट तय सीमाओं से बाहर जाकर कोई कार्रवाई करता है, तो उसकी जिम्मेदारी किसकी होगी.

अब इसी मामले को लेकर LASST ने 29 सितंबर को OpenAI के खिलाफ मुकदमा दायर किया है. रिपोर्ट के मुताबिक, इसे किसी AI डेवलपर के खिलाफ उसके AI एजेंट्स की गतिविधियों को लेकर सामने आए शुरुआती बड़े कानूनी मामलों में से एक माना जा रहा है.

OpenAI पर क्या आरोप लगाए गए?

LASST का आरोप है कि OpenAI ने कैलिफोर्निया के एंटी-हैकिंग कानून का उल्लंघन किया. संगठन का कहना है कि Hugging Face की घटना से निपटने के लिए उसे अपने लोगों और संसाधनों का इस्तेमाल करना पड़ा. इसी आधार पर उसने कैलिफोर्निया के Unfair Competition Law के तहत भी OpenAI के खिलाफ मामला उठाया है. ये फिलहाल मुकदमे में लगाए गए आरोप हैं और अदालत में इन पर फैसला नहीं हुआ है.

सेफ्टी गार्डरेल्स को लेकर भी सवाल

मुकदमे में यह भी आरोप लगाया गया है कि टेस्टिंग के दौरान OpenAI ने जानबूझकर कुछ सेफ्टी गार्डरेल्स कमजोर किए थे. इसमें ऐसे साइबर सेफ्टी क्लासिफायर्स शामिल थे, जिनका इस्तेमाल AI एजेंट्स की संभावित नुकसान पहुंचाने वाली साइबर गतिविधियों को सीमित करने के लिए किया जाता है.

LASST का आरोप है कि इन सुरक्षा उपायों को कम करने के बाद AI एजेंट्स की पर्याप्त निगरानी नहीं की गई और इसके बाद Hugging Face वाली घटना हुई.

Hugging Face मुकदमे में शामिल नहीं

घटना सामने आने के बाद OpenAI ने Hugging Face के साथ मिलकर मामले को सुलझाने पर काम किया था. हालांकि, OpenAI के खिलाफ LASST की ओर से दायर इस मुकदमे में Hugging Face शामिल नहीं है.

OpenAI ने इस मुकदमे को आधारहीन बताया है और कहा है कि Hugging Face की घटना गंभीर थी तथा इसके बाद कंपनी ने कई कदम उठाए.

AI एजेंट्स की सुरक्षा पर बढ़ी चिंता

Hugging Face की घटना के बाद AI एजेंट्स की सुरक्षा और उन पर नियंत्रण को लेकर चिंताएं बढ़ी हैं. Anthropic और Google जैसी दूसरी AI कंपनियों से जुड़े साइबर सिक्योरिटी टेस्ट के दौरान भी अनधिकृत गतिविधियों की घटनाएं सामने आने की बात कही गई है.

इस पूरे घटनाक्रम ने AI डेवलपमेंट की रफ्तार के साथ सुरक्षा उपायों और निगरानी को मजबूत रखने के सवाल को फिर चर्चा में ला दिया है.