ओवरसाइट बोर्ड ने मेटा के डीपफेक से निपटने के तरीके को अपर्याप्त बताया
मेटा का स्वतंत्र पर्यवेक्षण बोर्ड, ओवरसाइट बोर्ड, ने कंपनी को फेसबुक प्लेटफॉर्म से दो KI-जनरेटेड वीडियो हटाने का निर्देश दिया है।
एक वीडियो में एक स्कॉटिश लेबर स्थानीय राजनीतिज्ञ को शरणार्थियों के बारे में उकसाने वाले बयान देते हुए दिखाया गया था। दूसरे वीडियो में एक मुस्लिम कार्यकर्ता, जो मासिक धर्म स्वास्थ्य के बारे में जागरूकता फैलाती हैं, को बेतुके खेल खेलते और जंक फूड खाते हुए मजाक उड़ाया गया था।
बोर्ड के अनुसार, दोनों वीडियो KI से बनाए गए थे। राजनीतिज्ञ के मामले में, बोर्ड ने यह पहचाना कि आवाज़ और होंठों की हिलने में पूर्ण मेल नहीं था। कार्यकर्ता के वीडियो को इंटरनेट पर करोड़ों बार देखा गया।
मेटा ने राजनीतिज्ञ के वीडियो को पहले नहीं हटाया था, क्योंकि कंपनी के अनुसार इसे भरोसेमंद पार्टनर संगठनों द्वारा रिपोर्ट नहीं किया गया था। साथ ही, KI-लेबल भी नहीं था, क्योंकि वीडियो अपलोड करने वाले व्यक्ति ने इसे नहीं बताया था।
बोर्ड ने मेटा की सुरक्षा उपायों को "लगातार और मूलभूत रूप से अपर्याप्त" बताया, खासकर KI-नकली सामग्री के तेजी से बढ़ते उपयोग को देखते हुए। बोर्ड की अध्यक्ष पामेला सैन मार्टिन ने कहा कि डीपफेक का इस्तेमाल महिलाओं को सार्वजनिक बहस से बाहर करने के लिए किया जा रहा है।
बोर्ड ने मेटा को नौ बदलाव सुझाए, जैसे जोखिम भरे KI सामग्री के लिए सख्त लेबल, फीड में ऐसे पोस्ट की कम दृश्यता और दोहराए गए उल्लंघनों के लिए अधिक सज़ा। मेटा के पास प्रतिक्रिया देने के लिए 60 दिन हैं।
यह क्यों महत्वपूर्ण है
यह मामला दिखाता है कि मेटा जैसी बड़ी प्लेटफॉर्म भी अब तक लोगों को लक्षित KI-नकली सामग्री से बचाने के लिए विश्वसनीय नियम नहीं बना पाई हैं।
अब आप क्या कर सकते हैं
- चौंकाने वाले वीडियो सामग्री पर संदेह करें अगर कोई वीडियो बहुत चरम या आश्चर्यजनक बातें दिखाता है, तो ध्यान से देखें। अगर मुंह की हिलने और आवाज़ में पूरी तरह मेल नहीं है, तो यह नकली होने का संकेत हो सकता है।
- संदिग्ध वीडियो को प्लेटफॉर्म को रिपोर्ट करें अगर आपको लगता है कि कोई वीडियो KI-नकली है, तो रिपोर्ट फीचर का इस्तेमाल करें। संक्षेप में बताएं कि आप वीडियो को नकली क्यों मानते हैं, ताकि जांच तेजी से हो सके।
- केवल KI-लेबल पर भरोसा न करें KI-लेबल जैसे संकेत अक्सर गायब होते हैं, भले ही वीडियो स्पष्ट रूप से नकली हो। इसलिए, जांच लें कि क्या विश्वसनीय समाचार स्रोत उस सामग्री के बारे में रिपोर्ट कर रहे हैं।
- अस्पष्ट सामग्री को बिना जांचे आगे न भेजें कोई परेशान करने वाला वीडियो आगे भेजने से पहले, उसके मूल स्रोत या किसी जाने-माने मीडिया द्वारा पुष्टि की तलाश करें। इससे नकली सामग्री के फैलने से रोकथाम होगी।