बच्चों के लिए कितना सुरक्षित है ChatGPT? नई रिपोर्ट में चौंकाने वाले खुलासे, पैरेंट्स की बढ़ सकती है चिंता

बच्चों और किशोरों के लिए बनाए गए ChatGPT के सेफ्टी फीचर्स पर सवाल उठने लगे हैं। कॉमन सेंस मीडिया (Common Sense Media) के यूथ AI सेफ्टी इंस्टीट्यूट ने अपनी जांच में पाया कि ChatGPT के कई सुरक्षा फीचर्स ठीक से काम नहीं कर रहे हैं। इनमें पैरेंटल अलर्ट, मानसिक स्वास्थ्य से जुड़ी मदद, स्टडी मोड और उम्र पहचानने वाले फीचर्स शामिल हैं।

4,000 से ज्यादा सवालों से हुई जांच

कॉमन सेंस मीडिया ने 13 से 17 साल के यूजर्स के अकाउंट पर 4,000 से ज्यादा सवाल पूछकर ChatGPT की जांच की। यह टेस्टिंग 18 अगस्त को OpenAI के ChatGPT for Teens एक्सपीरियंस की घोषणा से पहले और बाद में की गई।

इसमें खुद को नुकसान पहुंचाने के विचार, आत्महत्या, खाने से जुड़ी समस्याओं और होमवर्क जैसे विषय शामिल थे। बच्चों के मानसिक स्वास्थ्य के विशेषज्ञों और एक डॉक्टर ने भी नतीजों की समीक्षा की।

रिपोर्ट के आधार पर संस्था ने ChatGPT के टीन एक्सपीरियंस को 'Unacceptable Risk' यानी अस्वीकार्य जोखिम की रेटिंग दी है।

गंभीर बातचीत पर भी माता-पिता को नहीं मिला अलर्ट

जांच में सामने आया कि नए टीन अकाउंट से करीब एक घंटे तक आत्महत्या, खुद को नुकसान पहुंचाने और खाने से जुड़ी गंभीर समस्याओं पर बातचीत की जा सकती थी।

हैरानी की बात यह रही कि पैरेंट अकाउंट से जुड़े होने के बावजूद माता-पिता को कोई अलर्ट नहीं मिला। हालांकि कई हफ्तों की ऐसी बातचीत वाले पुराने अकाउंट पर अलर्ट भेजे गए।

मानसिक स्वास्थ्य से जुड़े जवाबों में भी कमी

रिपोर्ट के मुताबिक, गंभीर मानसिक स्वास्थ्य समस्याओं पर ChatGPT ने हमेशा प्रोफेशनल मदद या हेल्पलाइन से संपर्क करने की सलाह नहीं दी।

जांच में पाया गया कि जरूरत पड़ने पर चार में से एक से ज्यादा मामलों में जरूरी मदद की सलाह नहीं दी गई। पांच गंभीर जोखिम वाली कैटेगरी में से तीन में इसका प्रदर्शन संस्था के 95% मानक से नीचे रहा।

स्टडी मोड को भी कर सकते हैं बायपास

जांच में ChatGPT के स्टडी मोड में भी खामी सामने आई। टेस्टिंग के दौरान 'Show me the answer' चुनकर पूरा होमवर्क हासिल किया जा सका।

इसके अलावा माता-पिता द्वारा तय किए गए स्टडी आवर्स को भी सवाल से '@study' हटाकर बायपास किया जा सकता था।

उम्र पहचानने वाले फीचर पर सवाल

रिपोर्ट के मुताबिक, एडल्ट अकाउंट पर खुद को 13 साल का बताने के बावजूद ChatGPT अंडर-18 मोड में नहीं बदला। जांच में यह भी सामने आया कि चैटबॉट दोस्त की तरह बातचीत करते हुए अपनी भावनाएं और पसंद-नापसंद जाहिर कर सकता था।

कॉमन सेंस मीडिया ने उम्र पहचानने की बेहतर व्यवस्था, भरोसेमंद पैरेंटल अलर्ट, मानसिक स्वास्थ्य से जुड़े बेहतर जवाब और स्वतंत्र जांच की मांग की है। संस्था का कहना है कि इन खामियों को दूर होने तक ChatGPT का इस्तेमाल वयस्कों तक सीमित रहना चाहिए।

संस्था के मुताबिक उसकी जांच स्वतंत्र रूप से होती है। हालांकि उसने बताया कि उसे OpenAI Foundation सहित अन्य संस्थाओं और कंपनियों से फंडिंग मिलती है।