Google, OpenAI in Anthropic pogajajo o varnosti KI
OpenAI je potrdil, da se podjetje že več tednov z konkurentoma Anthropic in Google DeepMind dogovarja o varnostnih vprašanjih pri razvoju KI. To je v torek sporočil politiki direktor OpenAI Chris Lehane, kot poroča TechCrunch.
Po poročilih notranjih virov revije The Information ti pogovori potekajo že od julija. Gre najverjetneje za ustanovitev skupne organizacije, ki bi nadzorovala varnostne standardi za sisteme KI.
Javna razprava se je začela ob eseju direktorja Anthropic Darioja Amodeija, objavljenem v soboto, v katerem je zahteval upočasnitev razvoja KI, da bi se lahko bolje soočili s tveganji. Pred tem je po poročilu heise en od zaposlenih pri Anthropic podjetje zapustil in javno kritiziral, da se varnostnim vidikom ne posveča dovolj pozornosti.
Več direktorjev KI-podjetij, med drugim Sam Altman iz OpenAI in Demis Hassabis iz Google, so podprli Amodeijev klic. Altman je po TechCrunchu napovedal, da bo OpenAI v svoje varnostne postopke vključil neodvisne preverjalce.
Odprto je vprašanje, ali bi takšno sodelovanje kršilo konkurenčno pravo. Amodei je predlagal državno izjemno določbo, Lehane pa je povedal, da takšna po njegovem mnenju ni potrebna.
Ameriška vlada pod predsednikom Trumpom je po TechCrunchu izrazila skepticizem glede varnostnih pomislekov in opozorila, da bi upočasnitev lahko Chini dala prednost. Po poročilu heise naj bi tudi Meta kritičen do nacionalne nadzorne agencije.
Nejasno je, ali in kdaj bo načrtovana varnostna organizacija res nastala, saj so mnoge informacije temeljile na anonimnih virov in so udeležena podjetja doslej le delno javno komentirala.
ZAKAJ JE TO POMEMBNO
Prikaže, kako največja podjetja na področju KI same ravnajo z tveganji svojih tehnologij in ali bi lahko nastala neodvisna kontrola.
KAJ LAHKO NARDIŠ ZDAJ
- Ostani kritičen pri novicah o KI Primerjaj poročila o varnosti KI z več zanesljivimi viri. Tako ugotoviš, ali je obvestilo res potrjeno ali temeljijo le na govoricah.
- Pazite na neodvisne preglede Preveri, ali ponudnik KI uporablja neodvisne preverjalce ali preverjalne organizacije. To ti pokaže, kako resno podjetje jemlje varnost.
- Sledi resnični regulativi, ne le napovedim Informiraj se pri organih ali zanesljivih medijih, katere zakoni ali standardi za KI so res sprejeti. Ne zanašaj se le na izjave podjetij.
- Uporabljaj storitve KI zavedno in zmerom Izberi ponudnike, ki odprto poročajo o svojih varnostnih ukrepih. Pred uporabo razmisli, katere podatke vnašaš in kako podjetje ravna z njimi.