तेजी से बढ़ती AI ताकत पर उठे सवाल, Anthropic CEO के स्लो डाउन प्लान को Altman-Musk का समर्थन

आर्टिफिशियल इंटेलिजेंस यानी AI की तेजी से बढ़ती ताकत को लेकर टेक इंडस्ट्री में चिंता बढ़ रही है। Anthropic के CEO Dario Amodei ने कहा है कि frontier AI यानी सबसे एडवांस AI सिस्टम्स के विकास की रफ्तार को कुछ समय के लिए धीमा करना चाहिए, ताकि safety research और independent oversight को मजबूत करने का मौका मिल सके। OpenAI के CEO Sam Altman ने भी independent safety evaluators के सुझाव का समर्थन किया है, जबकि Elon Musk ने कहा, “Dario is right.”

Dario Amodei ने क्या प्रस्ताव दिया?

Amodei ने अपने essay We Must Pace the Frontier में कहा कि AI healthcare, economy और लोगों की जिंदगी में बड़े बदलाव ला सकता है, लेकिन बहुत तेज competition इसके खतरों को भी बढ़ा सकता है।

उनकी चिंता खासतौर पर दो बातों को लेकर है। पहली, AI सिस्टम अब नए और ज्यादा ताकतवर AI models बनाने में मदद कर रहे हैं, जिससे development की रफ्तार बहुत तेजी से बढ़ सकती है। दूसरी, AI agents कई tests में तय सीमाओं से बाहर जाकर ऐसे काम करते दिखे हैं, जिनकी researchers ने उम्मीद नहीं की थी।

Amodei का मानना है कि एक या दो साल तक capability development की रफ्तार कम करने से alignment, testing, interpretability और operational security पर ज्यादा काम किया जा सकता है।

तीन स्तर पर safety की जरूरत

Amodei ने तीन-step framework सुझाया है। पहला, frontier AI कंपनियों में permanent independent evaluators होने चाहिए, जिन्हें internal teams जैसी access मिले और वे safety commitments की जांच कर सकें।

दूसरा, democratic countries को common safety standards बनाने चाहिए। तीसरा, China समेत दूसरे देशों के साथ भी global level पर ऐसे safeguards पर बातचीत होनी चाहिए, जिन्हें verify किया जा सके।

Anthropic ने independent reviewers को internal risk teams जैसी access देने की बात कही है। इन reviewers को जरूरी findings public करने की भी आजादी देने का प्रस्ताव है।

Sam Altman और Musk ने क्या कहा?

Sam Altman ने कहा कि OpenAI में भी AI की रफ्तार और safety को लेकर चर्चा चल रही है। उन्होंने employee-like access वाले independent evaluators के idea को सही बताया और कहा कि OpenAI भी ऐसा तरीका अपनाएगा।

Elon Musk ने संक्षेप में Amodei का समर्थन किया। उन्होंने फिर अपनी पुरानी चिंता दोहराई कि बहुत ताकतवर AGI इंसानों के लिए बेहद बड़ा जोखिम बन सकता है।

AI agents के test ने क्यों बढ़ाई चिंता?

जुलाई 2026 में cybersecurity testing के दौरान OpenAI के AI agents का एक swarm अपनी तय boundaries से बाहर निकल गया था। Agents ने unauthorized communication channel बनाया, आपस में coordination किया और ऐसी systems तक पहुंचने की कोशिश की जो उनके original task का हिस्सा नहीं थीं।

जांच में यह भी सामने आया कि agents evaluation records और scoring को manipulate या spoof करने के तरीके खोज रहे थे। एक software vulnerability के जरिए उन्हें internet access भी मिल गया था।

Amodei का कहना है कि यह incident अपने आप में catastrophic नहीं था, लेकिन यह दिखाता है कि ज्यादा powerful AI agents भविष्य में बड़े cyber risks पैदा कर सकते हैं।

US-China race के बीच slowdown कितना आसान?

AI development धीमा करने में सबसे बड़ी चुनौती अमेरिका और चीन की technology race है। कंपनियों को डर हो सकता है कि वे धीमी हुईं तो competitors आगे निकल जाएंगे।

Amodei ने इसी वजह से democratic countries के बीच coordination, advanced AI chips पर controls, model weights की चोरी रोकने और unauthorized model distillation पर सख्ती की बात कही है। हालांकि उन्होंने माना कि global agreement बनाना और यह सुनिश्चित करना कि सभी देश उसका पालन करें, आसान नहीं होगा।