ChatGPT यूजर्स हो जाएं सावधान! OpenAI के CEO सैम ऑल्टमैन ने कहा - आंख बंद करके ना करें भरोसा, ऐसा क्या हुआ?
ऑल्टमैन की यह टिप्पणी उन लाखों यूजर्स के लिए अहम है जो ChatGPT का उपयोग आर्टिकल लिखने, रिसर्च करने, पेरेंटिंग सलाह और कई अन्य कार्यों में करते हैं।
OpenAI के CEO सैम ऑल्टमैन ने ChatGPT यूजर्स को आगाह किया है कि वे इस शक्तिशाली लेकिन अधूरे AI टूल पर आंख बंद करके विश्वास न करें। OpenAI के आधिकारिक पॉडकास्ट के पहले एपिसोड में ऑल्टमैन ने कहा कि लोग ChatGPT पर बहुत ज्यादा भरोसा करते हैं, जो दिलचस्प है। लेकिन चूंकी यह एक सिर्फ टेक्नोलॉजी है इसलिए इसपर ज्यादा भरोसा नहीं करना चाहिए। सैम ऑल्टमैन ने कहा कि
ऑल्टमैन की यह टिप्पणी उन लाखों यूजर्स के लिए अहम है जो ChatGPT का उपयोग आर्टिकल लिखने, रिसर्च करने, पेरेंटिंग सलाह और कई अन्य कार्यों में करते हैं। उनका सीधा मैसेज था कि ChatGPT, और इस जैसे अन्य बड़े भाषा मॉडल, कभी-कभी आत्मविश्वास से भरी लेकिन गलत या भ्रामक जानकारी दे सकते हैं- इसलिए इसका उपयोग सतर्कता के साथ किया जाए।
ChatGPT शब्दों के पैटर्न के आधार पर अगला शब्द अनुमानित करता है, लेकिन यह इंसानों की तरह दुनिया को नहीं समझता। यह एक “हेल्यूसिनेशन” प्रवृत्ति का है जिसका मतलब है कि यह कई बार पूरी तरह से काल्पनिक जानकारी भी बना सकता है।
ऑल्टमैन ने स्वीकार किया कि ChatGPT की लोकप्रियता लगातार बढ़ रही है, लेकिन साथ ही उन्होंने चेताया कि इसका अति-निर्भरता खतरनाक हो सकता है, खासकर जब यूजर इसकी बातों को बिना जांचे-सोचे मान लेते हैं। उन्होंने यह भी कहा, “यह सुपर रिलायबल नहीं है। हमें इस बारे में ईमानदार रहना होगा।”
AI समुदाय में यह चेतावनी पहले भी गूंज चुकी है। AI के “गॉडफादर” कहे जाने वाले जेफ्री हिंटन ने भी हाल में स्वीकार किया कि वह खुद GPT-4 पर जरूरत से ज्यादा भरोसा कर लेते हैं। एक सरल पहेली में जब GPT-4 ने गलत उत्तर दिया, तब हिंटन ने कहा कि यह हैरानी की बात है कि यह अब भी गलती करता है।
ऑल्टमैन ने यह भी बताया कि ChatGPT में नई सुविधाएं जैसे पर्सिस्टेंट मेमोरी और विज्ञापन-आधारित मॉडल आ सकते हैं। ये बदलाव निजीकरण और राजस्व बढ़ाने के लिहाज से किए जा रहे हैं, लेकिन इनसे प्राइवेसी और डेटा सुरक्षा को लेकर नई चिंताएं भी उठी हैं।