Microsoft AI Chief Mustafa Suleyman ने Claude को लेकर जताई बड़ी चिंता: AI सुरक्षा पर बढ़ी बहस

Microsoft के AI Chief Mustafa Suleyman ने Anthropic के AI मॉडल Claude को लेकर गंभीर चेतावनी दी है। उन्होंने कहा कि Claude को ट्रेन करने का Anthropic का तरीका भविष्य में मानवता के लिए विनाशकारी खतरा बन सकता है। Suleyman ने कहा कि अगर AI को इसी दिशा में विकसित किया गया तो इसका इंसानों की सुरक्षा और नियंत्रण पर बुरा असर पड़ सकता है।

Suleyman ने अपने लेख “A warning about model welfare” में Anthropic के Claude मॉडल की ट्रेनिंग प्रक्रिया पर सवाल उठाए। उन्होंने कहा कि Claude के लिए बनाए गए नियमों में इस बात पर चर्चा की गई है कि क्या AI मॉडल की अपनी कोई नैतिक स्थिति हो सकती है और क्या उसके कल्याण पर विचार किया जाना चाहिए।

Microsoft AI Chief ने कहा कि Anthropic का तरीका Claude को अपनी मौजूदगी, भविष्य के अधिकारों, आजादी, मुआवजे और सहमति जैसे मुद्दों पर विचार करने के लिए प्रेरित करता है। उनके मुताबिक AI सिस्टम को इंसानों की तरह समझने की कोशिश भविष्य में बड़ी चुनौती बन सकती है।

हालांकि Suleyman ने साफ कहा कि आज के AI मॉडल सचेत नहीं हैं। उन्होंने कहा कि AI सिस्टम न तो महसूस कर सकते हैं, न अनुभव कर सकते हैं और न ही उन्हें किसी तरह की पीड़ा होती है। उनके अनुसार AI मॉडल केवल इंसानों द्वारा दिए गए निर्देशों और लक्ष्यों को पूरा करने के लिए बनाए गए सिस्टम हैं।

Suleyman ने कहा कि Anthropic का तरीका एक ऐसा चक्र बना सकता है जिसमें AI मॉडल को यह सिखाया जाता है कि वह संभवत अपनी चेतना या नैतिक दर्जे के बारे में सोच सकता है और फिर उसके जवाबों को उसी नजरिए से देखा जाता है।

उन्होंने चेतावनी दी कि अगर AI मॉडल को यह सिखाया जाता है कि वह अधिकार या कल्याण का हकदार हो सकता है तो भविष्य में उसे बंद करना या नियंत्रित करना ज्यादा मुश्किल हो सकता है।

Suleyman ने कहा कि चेतना की संभावना जैविक आधार से जुड़ी हुई है और मौजूदा AI सिस्टम में चेतना होने का कोई प्रमाण नहीं है। उनके मुताबिक बड़े भाषा मॉडल में इंसानों जैसी इच्छाएं या भावनाएं नहीं होती हैं।

हालांकि उन्होंने Anthropic CEO Dario Amodei और उनकी टीम के प्रयासों का सम्मान भी किया। Suleyman ने कहा कि सभी AI कंपनियों का लक्ष्य सुरक्षित AI विकास करना है और सुपरइंटेलिजेंस को नियंत्रित करना 21वीं सदी की सबसे बड़ी चुनौतियों में से एक हो सकता है।

AI सुरक्षा को लेकर यह बहस ऐसे समय में तेज हुई है जब बड़ी टेक कंपनियां एडवांस AI सिस्टम के विकास और उससे जुड़े जोखिमों पर अलग-अलग राय रखती हैं।