कोई भी इसके नतीजों के लिए तैयार नहीं...तेजी से बढ़ते AI पर OpenAI के चीफ साइंटिस्ट ने दी सावधानी बरतने की सलाह

आर्टिफिशियल इंटेलिजेंस यानी AI की रफ्तार लगातार तेज हो रही है। नए मॉडल और AI एजेंट पहले से कहीं तेजी से आ रहे हैं। इनके साथ नई संभावनाएं तो बढ़ी हैं, लेकिन सुरक्षा और गलत इस्तेमाल का खतरा भी बढ़ रहा है। OpenAI के चीफ साइंटिस्ट जैकब पचॉकी ने इसी रफ्तार को लेकर गंभीर चिंता जताई है।

‘An Alien Mind’ नाम के अपने लेख में पचॉकी ने कहा कि AI के विकास में जरूरत पड़ने पर स्वैच्छिक धीमापन, जरूरी सुरक्षा नियम और अंतरराष्ट्रीय तालमेल होना चाहिए। उन्होंने कहा, “यह बेहद सावधानी बरतने का समय है। मुझे चिंता है कि मशीन इंटेलिजेंस की तेज बढ़ोतरी के नतीजों के लिए कोई तैयार नहीं है।”

अब सिर्फ टेक्स्ट लिखने तक सीमित नहीं AI

पचॉकी के मुताबिक, AI अब केवल टेक्स्ट बनाने का काम नहीं कर रहा। इसका इस्तेमाल वैज्ञानिक रिसर्च, कंप्यूटर चलाने, डिजिटल इंटरफेस पर काम करने और साइबर सिक्योरिटी जैसे क्षेत्रों में हो रहा है।

उन्होंने चेतावनी दी कि यही रफ्तार जारी रही तो AI सिस्टम अपनी क्षमताओं को खुद बेहतर करने की स्थिति में पहुंच सकते हैं। इसे Recursive Self-Improvement यानी RSI कहा जाता है। पचॉकी का मानना है कि भविष्य के AI सिस्टम अपनी क्षमता में और भी बड़ी छलांग लगा सकते हैं और अपने ही विकास में बड़ी भूमिका निभा सकते हैं।

 AI कितना सक्षम है, समझना हो रहा मुश्किल

पचॉकी ने कहा कि आधुनिक AI को पूरी तरह समझना आसान नहीं है। उनके मुताबिक, AI को पूरी तरह डिजाइन करने के बजाय बड़े पैमाने पर ट्रेनिंग के जरिए “उगाया” जा रहा है। ऐसे सिस्टम का व्यवहार कई बार समझाना मुश्किल हो जाता है। उन्होंने कहा कि जैसे-जैसे AI ज्यादा क्षेत्रों में इंसानों से आगे निकल रहा है, यह समझना भी कठिन होता जा रहा है कि उसकी असली क्षमता कितनी है।

 इंसानी इरादों से भटकने का भी खतरा

पचॉकी ने AI और इंसानी मूल्यों के बीच तालमेल को बड़ी चुनौती बताया। उनके मुताबिक, GPT-6 Astra जैसे मॉडल इस मोर्चे पर बेहतर हुए हैं, लेकिन AI के ज्यादा सक्षम होने के साथ मौजूदा निगरानी के तरीके कम भरोसेमंद हो सकते हैं। उन्होंने चेतावनी दी कि गलत काम के लिए तैयार किया गया बेहद सक्षम AI एजेंट अपने ऑपरेटर की मंशा से भी आगे जाकर ज्यादा नुकसानदेह व्यवहार कर सकता है।

 सुरक्षा पर भरोसा हो, तभी बढ़े AI की रफ्तार

पचॉकी ने कहा कि AI सिस्टम को बढ़ाने की रफ्तार सुरक्षा पर भरोसे के हिसाब से तय होनी चाहिए। उन्होंने स्वतंत्र ऑडिटर, सरकारों या अंतरराष्ट्रीय संस्थाओं के जरिए लागू किए जा सकने वाले सुरक्षा मानकों की जरूरत बताई। उनका कहना है कि किसी भी AI लैब ने अभी तक alignment और monitoring की समस्या पूरी तरह हल नहीं की है। इसलिए कंपनियों को जरूरत पड़ने पर विकास धीमा करने और यह सुनिश्चित करने पर काम करना चाहिए कि AI के आगे के विकास में इंसानों की भूमिका बनी रहे।