AI के खुद से बेहतर बनने पर OpenAI ने जताई चिंता, कहा- इंसानों का कंट्रोल और सुरक्षा सबसे जरूरी

OpenAI ने ऐसी आर्टिफिशियल इंटेलिजेंस (AI) को लेकर चिंता जताई है, जो खुद में सुधार करने की क्षमता रखती हो। कंपनी ने कहा है कि अगर AI सिस्टम बिना सुरक्षा उपायों के खुद को बेहतर बनाने लगते हैं, तो इसके लिए खतरे बढ़ सकते हैं। OpenAI ने AI के सुरक्षित विकास के लिए वैश्विक स्तर पर नियम और तकनीकी मानक बनाने की जरूरत बताई है।

AI के विकास के लिए वैश्विक सहयोग की जरूरत

यह बयान उस समय आया है जब Anthropic के CEO डारियो अमोडेई ने ऑटोनॉमस AI के बढ़ते जोखिमों पर एक लेख साझा किया था। इसके बाद OpenAI ने AI सुरक्षा, रिसर्च में प्रगति और भविष्य के लिए जरूरी तकनीकी मानकों पर अपना नजरिया सामने रखा।

OpenAI ने अपने ब्लॉग पोस्ट “Building standards for the next phase of AI” में एडवांस AI सिस्टम को लेकर कंपनी के लक्ष्य बताए हैं। कंपनी ने कहा कि उसका उद्देश्य AI की प्रगति को सही दिशा में आगे बढ़ाना, ऑटोमेटेड AI रिसर्चर तैयार करना, एडवांस AI से वैज्ञानिक और आर्थिक फायदे पहुंचाना और सभी लोगों के लिए पर्सनलाइज्ड AGI उपलब्ध कराना है।

खुद को सुधारने वाली AI को लेकर चिंता

OpenAI ने AI की Recursive Self-Improvement (RSI) क्षमता को लेकर चिंता जताई है। कंपनी ने कहा कि AI में तेजी से प्रगति हो रही है और सुरक्षा से जुड़ी रिसर्च भी आगे बढ़ रही है, लेकिन पूरी तरह ऑटोनॉमस RSI को बिना सुरक्षा उपायों के आगे नहीं बढ़ाया जाना चाहिए।

OpenAI के अनुसार, अगर AI बिना पर्याप्त सुरक्षा के खुद को बेहतर बनाने लगे तो उसकी क्षमता इंसानों की समझ और निगरानी से ज्यादा तेजी से बढ़ सकती है। ऐसे में AI के विकास की प्रक्रिया को नियंत्रित करना मुश्किल हो सकता है।

कंपनी ने कहा कि अगर AI ज्यादा रिसर्च और डेवलपमेंट का काम खुद करने लगे तो इंसानों के लिए उसकी दिशा को समझना और उसे नियंत्रित करना चुनौतीपूर्ण हो सकता है। इससे AI ज्यादा खतरनाक और मानव हितों के अनुरूप नहीं रहने का खतरा बढ़ सकता है।

इंटरनेशनल AI स्टैंडर्ड बनाने पर जोर

OpenAI ने एडवांस AI के विकास को सुरक्षित रखने के लिए अंतरराष्ट्रीय स्तर पर नियम और मानक बनाने की मांग की है। कंपनी का कहना है कि वैश्विक मानक बनने से अलग-अलग देशों के नियमों में अंतर कम होगा और AI सुरक्षा के लिए एक समान आधार तैयार किया जा सकेगा।

OpenAI के मुताबिक, ऐसे मानक उच्च गुणवत्ता वाले सबूतों की परिभाषा तय करने और तकनीकी सुरक्षा उपायों के लिए जरूरी स्तर निर्धारित करने में मदद करेंगे।

कंपनी ने कहा कि CAISI, राज्य स्तर के AI कानून और फेडरल AI फ्रेमवर्क जैसी व्यवस्थाएं AI विकास को नियंत्रित करने में मदद कर सकती हैं। OpenAI का मानना है कि सभी देशों को मिलकर सामान्य सुरक्षा मानकों पर काम करना चाहिए और इसमें ओपन व क्लोज्ड दोनों तरह के AI मॉडल शामिल होने चाहिए।