ChatGPT की चैट पढ़ रहे इंसान? OpenAI के Project Lily को लेकर रिपोर्ट ने उठाए प्राइवेसी पर सवाल

आर्टिफिशियल इंटेलिजेंस कंपनी OpenAI को लेकर एक रिपोर्ट ने यूजर्स की प्राइवेसी पर नई बहस शुरू कर दी है। रिपोर्ट के मुताबिक, कंपनी ChatGPT की प्रतिक्रियाओं को बेहतर बनाने के लिए कुछ वास्तविक यूजर चैट्स की समीक्षा इंसानी कर्मचारियों से करवा रही है।

रिपोर्ट में दावा किया गया है कि यह काम Project Lily नाम के एक इंटरनल प्रोजेक्ट के तहत किया जा रहा है, जिसमें कॉन्ट्रैक्ट वर्कर्स को ChatGPT की बातचीत देखने और उसका मूल्यांकन करने का काम दिया जाता है।

कैसे होती है ChatGPT चैट की समीक्षा?

रिपोर्ट के अनुसार, रिव्यू करने वाले कर्मचारियों को यूजर का सवाल यानी प्रॉम्प्ट और ChatGPT का जवाब दिखाया जाता है। इसके बाद वे यह जांचते हैं कि AI ने यूजर की जरूरत को सही तरीके से समझा या नहीं और उसका जवाब कितना बेहतर था।

रिव्यूर्स से कहा जाता है कि वे ChatGPT के जवाबों को रेट करें और बताएं कि कौन से हिस्से सही हैं और कहां सुधार की जरूरत है। उन्हें अलग-अलग जवाबों को 1 से 7 तक स्कोर देने होते हैं, जहां 1 का मतलब खराब या उपयोग के लायक नहीं और 7 का मतलब बेहद बेहतर जवाब होता है।

रिपोर्ट के मुताबिक, कुछ मामलों में रिव्यूर्स को पूरी बातचीत दिखाई जा सकती है, जिसमें यूजर की निजी या संवेदनशील जानकारी भी शामिल हो सकती है।

क्यों पढ़ी जा रही है यूजर्स की चैट?

रिपोर्ट के अनुसार, OpenAI इन चैट्स की समीक्षा इसलिए कर रहा है ताकि ChatGPT के जवाबों को बेहतर बनाया जा सके। कंपनी यह सुनिश्चित करना चाहती है कि AI जरूरत से ज्यादा सहमति देने वाला यानी sycophantic न हो।

इसके अलावा, AI के जवाबों को ज्यादा स्पष्ट, स्वाभाविक और उपयोगी बनाने के लिए भी इनका मूल्यांकन किया जाता है। कंपनी यह भी देखती है कि AI बहुत ज्यादा इमोजी, बनावटी भाषा या इंसानों जैसी भावनाएं दिखाने से बचे।

क्या यूजर्स की पहचान दिखाई जाती है?

रिपोर्ट के मुताबिक, रिव्यूर्स को आमतौर पर यूजर का नाम नहीं दिखाया जाता। हालांकि, बातचीत में मौजूद जानकारी के आधार पर निजी विवरण सामने आ सकते हैं।

OpenAI का कहना है कि चैट्स रिव्यू से पहले Privacy Filter से गुजरती हैं, जिसका उद्देश्य निजी जानकारी हटाना है। लेकिन कंपनी ने यह भी माना है कि यह सिस्टम हर बार संवेदनशील जानकारी को पूरी तरह हटाने में सफल नहीं हो सकता।

ChatGPT यूजर्स कैसे रोक सकते हैं चैट का इस्तेमाल?

यूजर्स अपनी चैट्स को AI मॉडल सुधारने के लिए इस्तेमाल होने से रोक सकते हैं। इसके लिए ChatGPT की सेटिंग्स में जाकर Data Controls विकल्प में "Improve the model for everyone" सेटिंग को बंद करना होगा।

यह सेटिंग Free, Plus और Pro यूजर्स के लिए डिफॉल्ट रूप से ऑन रहती है और इसे बंद करने के बाद नई बातचीत मॉडल सुधारने के लिए इस्तेमाल नहीं की जाती।

सिर्फ OpenAI नहीं, दूसरे AI प्लेटफॉर्म भी करते हैं समीक्षा

रिपोर्ट के मुताबिक, OpenAI अकेली कंपनी नहीं है जो AI चैट्स की समीक्षा के लिए इंसानी रिव्यूर्स का इस्तेमाल करती है। Anthropic ने भी Claude AI को बेहतर बनाने के लिए मानव समीक्षा की बात स्वीकार की है, जबकि Google Gemini भी कुछ सेव्ड चैट्स की मानव समीक्षा की संभावना के बारे में जानकारी देता है।

AI कंपनियों के लिए इंसानी समीक्षा मॉडल को बेहतर बनाने का एक तरीका है, लेकिन इससे यूजर डेटा और प्राइवेसी को लेकर सवाल भी लगातार उठ रहे हैं।