Google, OpenAI a Anthropic vyjednávajú o bezpečnosti KI
OpenAI potvrdilo, že sa od niekoľkých týždňov s konkurentmi Anthropic a Google DeepMind dohaduje o bezpečnostných otázkach pri vývoji KI. Informáciu zverejnil podľa TechCrunch v utorok politik OpenAI Chris Lehane.
Podľa interných informácií časopisu The Information prebiehajú tieto diskusie už od júla. Mala by ísť o vytvorenie spoločnej organizácie, ktorá by dohľadala nad bezpečnostnými štandardmi KI systémov.
Verejnú diskusiu spustil v sobotu esej šéfa Anthropic Dario Amodeiho, v ktorom vyzval k spomaleniu tempa vývoja KI, aby sa dali lepšie riešiť bezpečnostné riziká. Podľa heise predtým opustil Anthropic jeden zamestnanec a verejne kritizoval, že sa bezpečnostným aspektom venuje málo pozornosti.
Výzvu Amodeiho podporilo viacero šéfov KI firiem, vrátane Sama Altmana z OpenAI a Demisa Hassabisa z Google. Altman podľa TechCrunch oznámil, že OpenAI chce zapojiť nezávislých overovateľov do svojich bezpečnostných procesov.
Podľa správ nie je jasné, či takéto spolupráce by mohla porušiť súťažné právo. Amodei navrhol pre to štátnu výnimku, Lehane však povedal, že podľa neho nie je taká výnimka potrebná.
Americká vláda pod prezidentom Trumpom sa podľa TechCrunch vyjadril skepticky k bezpečnostným obavam a varovala, že spomalenie by mohlo dať Číne výhodu. Podľa heise je k národnému dozornému orgánu kriticky naladený aj Meta.
Neurčité ostáva, či a kedy plánovaná bezpečnostná organizácia skutočne vznikne, pretože viacero informácií pochádza z anonymných zdrojov a zapojené firmy sa k tomu zatiaľ len čiastočne verejne vyjadrujú.
PREČO JE TO DÔLEŽITÉ
Ukazuje, ako sa najväčšie KI firmy vyrovnávajú s rizikami svojich technológií a či by mohla vzniknúť nezávislá kontrola.
ČO MÔŽEŠ TERAZ UROBIŤ
- Buď kritický k správam o KI Porovnaj správy o bezpečnosti KI z viacerých serióznych zdrojov. Tak zistíš, či je správa skutočne potvrdená alebo ide len o dohady.
- Dávaj pozor na nezávislé overenia Skontroluj, či poskytovateľ KI využíva nezávislých kontrolórov alebo overovacích organizácií. To ti ukáže, ako vážne sa firma bezpečnosti venuje.
- Sleduj skutočnú reguláciu, nie len oznámenia Informuj sa u úradov alebo serióznych médií, ktoré zákony alebo štandardy pre KI boli skutočne schválené. Nespoliehaj sa len na vyhlásenia firiem.
- Používaj KI služby vedome a striedmo Vyber si poskytovateľov, ktorí otvorene informujú o svojich bezpečnostných opatreniach. Pred použitím sa zamysli, aké dáta zadáváš a ako s nimi firma nakladá.