ओपनएआई कर्मचारियों को चैटजीपीटी चैट पढ़ने और उनका मूल्यांकन करने देता है
404 मीडिया को उपलब्ध आंतरिक दस्तावेज़ों के अनुसार, ओपनएआई ने सैकड़ों बाहरी कर्मचारियों को नियुक्त किया है जो असली चैटजीपीटी बातचीत पढ़ते और उनका मूल्यांकन करते हैं।
मुफ्त, प्लस और PRO खातों वाले उपयोगकर्ता प्रभावित हैं, क्योंकि इनमें मॉडल सुधार के लिए डेटा उपयोग डिफ़ॉल्ट रूप से सक्रिय होता है। व्यवसायिक और शिक्षा खाते इससे बाहर हैं।
‘Lily’ कोडनेम वाले इस प्रोजेक्ट के तहत, बाहरी जांचकर्ताओं को डैशबोर्ड के माध्यम से प्रॉम्प्ट और कभी-कभी पिछले चैट के सारांश तक पहुंच मिलती है। वे KI द्वारा उत्पन्न चार उत्तरों का 1 से 7 के पैमाने पर मूल्यांकन करते हैं और अनुचित फॉर्मूलेशन को चिह्नित करते हैं।
ओपनएआई पहले से ही एक गोपनीयता फ़िल्टर का उपयोग करता है ताकि व्यक्तिगत जानकारी को हटाया जा सके। हालांकि, कंपनी स्वीकार करती है कि दुर्लभ पहचानकर्ता या निजी विवरण जैसे स्थान की जानकारी कभी-कभी छूट सकती है।
दूसरे प्रदाता भी मानव नियंत्रण पर भरोसा करते हैं: Anthropic अपने अनुसार, केवल उन उपयोगकर्ताओं के लिए इसे सक्रिय करता है जिन्होंने ऑप्ट-इन फ़ंक्शन को सक्रिय किया है, और पहले से ही खाता पहचान को हटा देता है। Google, Gemini के मामले में भी यह बताता है कि मनुष्य कुछ संग्रहीत चैट की जांच करते हैं।
404 मीडिया द्वारा पूछे गए एक कर्मचारी, जो प्रॉम्प्ट के साथ काम करता है, का मानना है कि अधिकांश उपयोगकर्ता नहीं जानते कि असली लोग उनके चैट पढ़ सकते हैं।
अभी यह स्पष्ट नहीं है कि गोपनीय डेटा फ़िल्टर के बावजूद कितनी बार जांचकर्ताओं के पास पहुंचता है और उपयोगकर्ताओं को इसके बारे में कितनी पारदर्शिता से सूचित किया जाता है।
यह क्यों महत्वपूर्ण है
लाखों लोग चैटजीपीटी के साथ व्यक्तिगत और कभी-कभी बहुत निजी जानकारी साझा करते हैं, बिना यह जाने कि इन जानकारियों को असली मनुष्य पढ़ सकते हैं।
अब आप क्या कर सकते हैं
- मॉडल सुधार के लिए डेटा उपयोग बंद करें चैटजीपीटी में सेटिंग खोलें और डेटा कंट्रोल पर जाएं। वहां सभी उपयोगकर्ताओं के लिए मॉडल सुधार विकल्प को बंद कर दें।
- संवेदनशील जानकारी न डालें चैटबॉट के साथ स्वास्थ्य, कानूनी या वित्तीय डेटा साझा न करें। अपनी इनपुट को इस तरह से मानें जैसे वे किसी और द्वारा पढ़े जा सकते हैं।
- व्यवसायिक या शिक्षा खाता उपयोग करें इन खातों में डेटा साझा करने की सुविधा डिफ़ॉल्ट रूप से बंद होती है। अगर संभव हो तो अधिक गोपनीयता के लिए ऐसा खाता उपयोग करें।
- नियमित रूप से गोपनीयता सेटिंग की जांच करें एप में समय-समय पर गोपनीयता विकल्पों को फिर से देखें। प्रदाता कभी-कभी बिना किसी बड़ी घोषणा के डिफ़ॉल्ट सेटिंग बदल देते हैं।