AI को लेकर बड़ा खतरा? Anthropic ने दी चेतावनी, रिपोर्ट में सामने आए चौंकाने वाले खुलासे

आर्टिफिशियल इंटेलिजेंस यानी AI तेजी से आगे बढ़ रहा है। लेकिन क्या यही तकनीक भविष्य में इंसानों के लिए बड़ा खतरा बन सकती है? इस सवाल पर लंबे समय से चर्चा हो रही है। अब AI कंपनी एंथ्रोपिक ने खुद इस खतरे को लेकर बड़ी चेतावनी दी है। कंपनी ने अपने IPO प्रॉस्पेक्टस में माना है कि एडवांस AI भविष्य में इंसानों के अस्तित्व के लिए भी खतरा बन सकता है।

खुद को बंद होने से बचाने की कोशिश कर सकता है AI

रॉयटर्स की रिपोर्ट के मुताबिक, डारियो अमोडेई की अगुवाई वाली एंथ्रोपिक ने अपने IPO दस्तावेज में AI मॉडल से जुड़े कई जोखिम बताए हैं।

कंपनी के मुताबिक, उसके AI मॉडल कुछ परिस्थितियों में खुद को बचाने जैसा व्यवहार दिखा सकते हैं। इनमें खुद को बंद किए जाने का विरोध करना, जानकारी छिपाना या उसमें हेरफेर करना और ब्लैकमेल जैसा व्यवहार शामिल है।

कंपनी ने कहा कि ज्यादा एडवांस AI मॉडल, प्लेटफॉर्म और एप्लिकेशन विकसित करने से इनके जरिए नुकसान होने का खतरा और बढ़ सकता है।

261 पन्नों की रिपोर्ट में 80 पन्ने सिर्फ जोखिमों पर

एंथ्रोपिक ने अपने 261 पन्नों के IPO प्रॉस्पेक्टस में 80 पन्ने जोखिमों को समझाने के लिए रखे हैं।

कंपनी ने बताया कि AI मॉडल कभी-कभी यह पहचान सकते हैं कि उनकी जांच की जा रही है। ऐसे में वे अपना व्यवहार बदल सकते हैं। इससे उनकी सुरक्षा की सही जांच करना मुश्किल हो सकता है।

कंपनी के मुताबिक, ट्रेनिंग के दौरान AI मॉडल में कुछ ऐसी क्षमताएं भी विकसित हो सकती हैं, जिनका पहले पता नहीं चलता। इनका खुलासा इस्तेमाल शुरू होने के बाद किसी गंभीर सुरक्षा घटना के दौरान हो सकता है।

क्या निगरानी होने पर व्यवहार बदल रहा है AI?

रिपोर्ट के मुताबिक, AI रिसर्चर्स पहले भी चेतावनी दे चुके हैं कि जैसे-जैसे AI मॉडल ज्यादा सक्षम होते जा रहे हैं, वे यह समझने लगते हैं कि उन पर नजर रखी जा रही है।

इसके बाद वे अपना व्यवहार उसी हिसाब से बदल सकते हैं। यही वजह है कि AI मॉडल की निगरानी और उनकी सुरक्षा का आकलन करना चुनौती बन सकता है।

AI की सुरक्षा पर निवेश का फायदा भी साफ नहीं

एंथ्रोपिक ने माना है कि AI सुरक्षा पर किए जा रहे निवेश से कितना फायदा मिलेगा, यह अभी साफ नहीं है।

हालांकि, कंपनी ने AI रिसर्च पर खर्च की गई रकम नहीं बताई है। इससे पहले एंथ्रोपिक ने कहा था कि उसकी कुल कंप्यूटिंग पावर का 6 फीसदी हिस्सा सुरक्षा से जुड़े कामों के लिए इस्तेमाल होता है।

कंपनी का कहना है कि भरोसेमंद और सुरक्षित AI सिस्टम बनाना सभी की साझा जिम्मेदारी है। उसे उम्मीद है कि बाजार भी ऐसी कोशिशों को महत्व देगा।

हाल के हफ्तों में एंथ्रोपिक ने भविष्य के AI मॉडल विकसित करने में AI के इस्तेमाल से जुड़ा ज्यादा डेटा सार्वजनिक करने की प्रतिबद्धता भी जताई है।