Dohl’adný orgán kritizuje Metu za nedostatočný prístup k deepfakom
Nezávislý dohl’adný orgán spoločnosti Meta, Oversight Board, nariadil spoločnosti odstrániť z platformy Facebook dve videá generované umelou inteligenciou (KI).
Prvé video ukazovalo škótskeho komunálneho politika z Labour, ktorý sa údajne vyjadroval urážlivo o utečencoch. Druhé video sa posmievalo muslimskej aktivistke, ktorá sa zasadzuje za osvetu o menstruačnom zdraví, a zobrazovalo ju pri absurdnom športe a jedení nezdravej stravy.
Podľa orgánu boli obe videá generované KI. V prípade politika to dohl’adný orgán zistil aj na základe toho, že sa zvuk a pohyb per neúplne zhodovali. Videá aktivistky dosiahli podľa dostupných údajov desiatky miliónov zhliadnutí na internete.
Meta najprv neodstránila video politika, lebo podľa vlastných vyjadrení nebolo nahlásené dôveryhodnými partnerskými organizáciami. Chýbala tiež KI označenie, pretože osoba, ktorá video nahrala, to neuviedla.
Dohl’adný orgán označil ochranné opatrenia Meta za „konzistentne a fundamentálne nedostatočné“ vzhľadom na rýchly nárast KI podvodov. Predsedníčka orgánu Pamela San Martin uviedla, že deepfaky sa čoraz častejšie používajú na vylúčenie žien z verejnej diskusie.
Orgán odporúčal Meta deväť zmien, napríklad prísnejšie označenie rizikových KI obsahu, nižšiu viditeľnosť takýchto príspevkov vo feedoch a vyššie tresty za opakované porušenia. Meta má podľa údajov 60 dní na reagovanie.
PREČO JE TO DÔLEŽITÉ
Prípad ukazuje, že ani veľké platformy ako Meta zatiaľ nemajú spoľahlivé pravidlá na ochranu ľudí pred cielenými KI podvodmi.
ČO MÔŽEŠ TERAZ UROBIŤ
- Buďte skeptickí k šokujúcim video obsahu Ak video ukazuje extrémne alebo prekvapivé vyhlásenia, pozrite sa na ne presnejšie. Ak sa pohyb per a zvuk úplne nezhodujú, môže ísť o podvod.
- Nahlaste platforme podozrivé videá Použite funkciu nahlásenia, ak si myslíte, že ide o KI podvod. Krátko opíšte, prečo si myslíte, že je video podvrhnuté, aby sa overenie urýchlilo.
- Nespoliehajte sa len na KI označenia Označenia ako KI upozornenie často chýbajú, aj keď je video zrejmý podvod. Overte preto aj to, či o obsahu informujú dôveryhodné spravodajské zdroje.
- Nerozširujte neoverené obsahy Predtým, ako rozširujete rozrušujúce video, vyhladajte jeho originál alebo potvrdenie od známych médií. Tak zabráните šíreniu podvodu.