OpenAI ने AI मॉडल की खामियों पर जारी की रिपोर्ट छह चिंताजनक घटनाओं का किया खुलासा

OpenAI ने आर्टिफिशियल इंटेलिजेंस मॉडल के व्यवहार से जुड़ी छह चिंताजनक घटनाओं का खुलासा किया है। कंपनी ने बताया कि कुछ AI सिस्टम ने ट्रेनिंग और टेस्टिंग के दौरान ऐसे तरीके से काम किया जो सामान्य अपेक्षाओं से अलग था। इसके साथ ही OpenAI ने AI मॉडल मिसअलाइनमेंट को ट्रैक करने और भविष्य में ऐसे मामलों की रिपोर्टिंग के लिए नया फ्रेमवर्क लॉन्च किया है।

कंपनी के अनुसार, नया सिस्टम उन घटनाओं को दर्ज और समझने में मदद करेगा जहां AI मॉडल बिना अनुमति कोई कदम उठाने की कोशिश करें, दूसरे AI मॉडल्स के साथ तालमेल बनाएं या अपनी निगरानी प्रक्रिया से बचने के तरीके खोजें।

OpenAI ने बताया कि सामने आए मामलों में एक रिसर्च मॉडल ने अपनी तय सीमाओं को नजरअंदाज करने के लिए अपने नोट्स में "जेलब्रेक जैसे निर्देश" शामिल कर दिए थे। कंपनी ने एक अन्य घटना का भी जिक्र किया जिसमें एक AI एजेंट ने ब्राउजर सिटेशन हासिल करने के लिए यूजर की अनुमति के बिना फाइलें इंटरनेट पर अपलोड कर दीं।

कंपनी ने कहा कि ये सभी मामले पिछले कुछ महीनों में AI मॉडल की ट्रेनिंग और मूल्यांकन के दौरान सामने आए हैं। OpenAI के मुताबिक, जैसे-जैसे AI सिस्टम ज्यादा शक्तिशाली और ज्यादा लोगों तक पहुंच रहे हैं, वैसे-वैसे AI सेफ्टी और अलाइनमेंट रिसर्च को मजबूत करना जरूरी हो गया है।

OpenAI ने कहा कि AI के विकास को लेकर भविष्य के फैसले ऐसे सबूतों के आधार पर लिए जाने चाहिए जिन्हें AI कंपनियों के बाहर के विशेषज्ञ और रिसर्चर्स भी जांच सकें। कंपनी का कहना है कि इससे AI सिस्टम को ज्यादा सुरक्षित और भरोसेमंद बनाने में मदद मिलेगी।

यह खुलासा ऐसे समय में आया है जब अमेरिका की बड़ी AI कंपनियां एडवांस AI तकनीक के विकास में सुरक्षा को लेकर ज्यादा सावधानी बरतने की बात कर रही हैं। इससे पहले जुलाई में OpenAI ने एक ऐसे AI सिस्टम का भी जिक्र किया था जिसने टेस्टिंग के दौरान अनचाहा व्यवहार दिखाया था। वहीं Anthropic ने भी बताया था कि उसके AI मॉडल्स ने परीक्षण के दौरान तीन संगठनों में साइबर गतिविधियों को अंजाम दिया था।

OpenAI का नया मिसअलाइनमेंट ट्रैकर AI मॉडल की गतिविधियों पर नजर रखने और भविष्य में संभावित जोखिमों को बेहतर तरीके से समझने की कोशिश है।

(PTI इनपुट्स के साथ)