OpenAI ने AI ट्रेनिंग धीमी की, नए मॉडल की साइबर क्षमता ने बढ़ाई सुरक्षा की चिंता
OpenAI ने घोषणा की है कि वह AI की ट्रेनिंग धीमी कर रहा है और अपनी सुरक्षा नीतियों में बदलाव कर रहा है. यह कदम तब उठाया गया है जब पता चला कि उसका आने वाला मॉडल 'Astra' साइबर सुरक्षा के अहम स्तरों (critical thresholds) तक पहुँच गया है.
In Short
- OpenAI ने नए स्तर की AI क्षमता के लिए कुछ बड़े ट्रेनिंग रन रोक दिए हैं।
- आने वाला मॉडल साइबर सिक्योरिटी से जुड़े कामों में अहम स्तर तक पहुंच गया है।
- OpenAI मॉडल की निगरानी बढ़ा रहा है और 30 मिनट के भीतर चिंताजनक गतिविधि पर अलर्ट देने का लक्ष्य है।
AI मॉडल जैसे-जैसे ज्यादा ताकतवर हो रहे हैं, उनके इस्तेमाल से फायदे बढ़ रहे हैं, लेकिन गलत इस्तेमाल का खतरा भी बढ़ रहा है। इसी चिंता के बीच OpenAI ने अपने AI ट्रेनिंग को धीमा करने का फैसला किया है। कंपनी के मुताबिक, उसका आने वाला मॉडल Astra साइबर सिक्योरिटी से जुड़े कामों में एक अहम स्तर तक पहुंच गया है। इसके बाद OpenAI ने अपनी सुरक्षा और निगरानी की प्रक्रिया को और सख्त करने का फैसला किया है।
सैम ऑल्टमैन ने X पर दी जानकारी
OpenAI के CEO सैम ऑल्टमैन ने X पर बताया कि कंपनी ने कुछ बड़े Frontier Reinforcement Learning ट्रेनिंग रन रोक दिए हैं। उनका कहना है कि OpenAI पहले यह सुनिश्चित करना चाहता है कि नए स्तर की AI क्षमता के लिए सही सुरक्षा, अलाइनमेंट और निगरानी व्यवस्था मौजूद हो।
Reinforcement Learning एक ऐसा तरीका है जिसमें AI मॉडल को अलग-अलग काम दिए जाते हैं और उसके प्रदर्शन के आधार पर उसे इनाम मिलता है। इससे मॉडल धीरे-धीरे उन कामों को बेहतर तरीके से करना सीखता है जिनमें उसे ज्यादा अच्छा प्रदर्शन मिलता है।
Astra की बढ़ती क्षमता बनी चिंता
OpenAI ने एक ब्लॉग पोस्ट में बताया कि ट्रेनिंग धीमी करने का फैसला Astra की साइबर क्षमता को देखते हुए लिया गया। इससे पहले ऑल्टमैन यह भी कह चुके हैं कि Astra इतना ताकतवर हो सकता है कि उसे अभी रिलीज नहीं किया जा सकता।
कंपनी ने यह भी बताया कि एक दूसरे रिलीज न किए गए मॉडल के जरिए Hugging Face के सिस्टम में सेंध लगाने की घटना के बाद सुरक्षा उपायों को और मजबूत किया गया है।
AI की रेस को लेकर ऑल्टमैन ने जताई चिंता
OpenAI और Anthropic जैसी AI कंपनियों के बीच ज्यादा ताकतवर मॉडल बनाने की होड़ चल रही है। लेकिन ऑल्टमैन का मानना है कि सिर्फ इस वजह से तेजी से आगे बढ़ना कि कोई दूसरी कंपनी भी ऐसा कर रही है, खतरनाक हो सकता है।
पिछले महीने Frontier AI कंपनियों के 1,300 से ज्यादा कर्मचारियों ने भी व्हाइट हाउस से एडवांस्ड AI टूल्स के विकास को धीमा करने की अपील की थी।
बड़े मॉडल की ट्रेनिंग रुकी, छोटे मॉडल पर काम जारी
OpenAI ने कहा कि उसका सबसे बड़ा प्लान किया गया Frontier Reinforcement Learning रन अभी रुका हुआ है। हालांकि, छोटे स्तर पर ट्रेनिंग और टेस्टिंग जारी है। कंपनी मॉडल के व्यवहार, सुरक्षा उपायों और अलाइनमेंट को जांच रही है।
OpenAI अपने Preparedness Framework को भी अपडेट कर रहा है। नए सुरक्षा उपायों में कोड चलाने के लिए बेहतर वर्कलोड आइसोलेशन, सख्त नेटवर्क आइसोलेशन और लगातार सुरक्षा टेस्टिंग शामिल हैं। कंपनी का लक्ष्य चिंताजनक गतिविधि सामने आने के 30 मिनट के भीतर अलर्ट जारी करना है।
