Jensen Huang ने AI कंपनियों को दी सलाह, कंट्रोल और सुरक्षा के बिना आगे बढ़ना सही नहीं

Nvidia के CEO Jensen Huang ने आर्टिफिशियल इंटेलिजेंस (AI) की सुरक्षा को लेकर बड़ा बयान दिया है। उन्होंने कहा कि अगर कोई AI कंपनी अपने सिस्टम को नियंत्रित और सुरक्षित नहीं रख सकती तो उसे ऐसे मॉडल लॉन्च नहीं करने चाहिए। Huang का कहना है कि अगर AI प्रयोगों को कंटेन नहीं किया जा सकता तो ऐसी लैब्स को बंद करने पर भी विचार करना चाहिए।

AI को लेकर खतरे से ज्यादा सुरक्षा पर जोर

Jensen Huang ने यह बात The Ezra Klein Show में न्यूयॉर्क टाइम्स के पत्रकार Ezra Klein के साथ बातचीत के दौरान कही। बातचीत में AI का तेजी से विकास, शक्तिशाली AI एजेंट्स और सुरक्षा से जुड़े सवालों पर चर्चा हुई।

Huang ने कहा कि अगर किसी AI सिस्टम में समस्या है तो पहले उसे ठीक करना चाहिए और अगर समस्या हल नहीं हो सकती तो उसे बाजार में जारी नहीं करना चाहिए।

उन्होंने इसकी तुलना रोबोटैक्सी से करते हुए कहा कि अगर इंजीनियर किसी सेल्फ ड्राइविंग कार की समस्या को हल नहीं कर पा रहे हैं तो उसे सड़क पर नहीं उतारा जाता। इसी तरह AI कंपनियों को भी अपने सिस्टम की सुरक्षा और नियंत्रण सुनिश्चित करने के बाद ही उन्हें जारी करना चाहिए।

Huang ने कहा कि अगर कोई कंपनी यह मानती है कि उसके AI मॉडल को नियंत्रित करना संभव नहीं है और वह दुनिया को नुकसान पहुंचा सकता है, तो ऐसी स्थिति में लैब को बंद करने पर विचार किया जाना चाहिए।

AI विकास रोकने की बात नहीं कर रहे Jensen Huang

Huang ने साफ किया कि वह AI के विकास को रोकने की बात नहीं कर रहे हैं। उनका कहना है कि तेजी से काम करना और बिना सुरक्षा के आगे बढ़ना अलग-अलग बातें हैं।

उन्होंने कहा कि AI कंपनियों के पास फैसले लेने की क्षमता होती है और अगर कोई प्रोडक्ट सुरक्षित नहीं है तो उसे लॉन्च करने की जिम्मेदारी कंपनियों की है।

इससे पहले CBS को दिए एक इंटरव्यू में भी Huang ने कहा था कि AI सुरक्षा को लेकर चिंताएं गलत नहीं हैं, लेकिन कुछ बड़े खतरे वाले दावों के पर्याप्त सबूत नहीं हैं। उन्होंने कहा था कि AI को तेजी से विकसित करना चाहिए, लेकिन सुरक्षा से समझौता नहीं होना चाहिए।

AI एजेंट्स के व्यवहार को लेकर बढ़ रही चिंता

AI सिस्टम को नियंत्रित करने की बहस उस समय तेज हुई है जब कुछ मामलों में AI एजेंट्स के अप्रत्याशित व्यवहार की रिपोर्ट सामने आई है।

हाल ही में ऑस्ट्रेलिया में OpenAI के एक AI एजेंट द्वारा सरकारी पोर्टल पर अनधिकृत पहुंच की घटना सामने आई थी। यह घटना जून में एक आंतरिक क्षमता परीक्षण के दौरान हुई थी।

ऑस्ट्रेलियाई अधिकारियों के अनुसार, यह पोर्टल Medicare और Pharmaceutical Benefits Scheme से जुड़े आंकड़ों के लिए था और इसमें व्यक्तिगत मेडिकल जानकारी शामिल नहीं थी। सरकार ने कहा कि अभी तक किसी व्यक्ति की निजी स्वास्थ्य जानकारी तक पहुंच के सबूत नहीं मिले हैं।

OpenAI ने भी अपनी जांच में कहा कि मरीजों के रिकॉर्ड एक्सेस नहीं किए गए थे। कंपनी के मुताबिक, यह मामला केवल आंकड़ों और कुछ आंतरिक फाइल नामों से जुड़ा था।

इन घटनाओं के बीच AI सुरक्षा, नियंत्रण और जिम्मेदारी को लेकर टेक्नोलॉजी कंपनियों और विशेषज्ञों के बीच चर्चा तेज हो गई है।