Google, OpenAI i Anthropic pregovaraju o sigurnosti KI
OpenAI je potvrdio da se poduzeće već nekoliko tjedana razmjenjuje s konkurentima Anthropicom i Google DeepMindom o pitanjima sigurnosti pri razvoju KI. To je, prema TechCrunchu, u utorak izjavio Chris Lehane, šef politike OpenAI-a.
Prema izvještajima unutarnjih izvora časopisa The Information, ovi razgovori traju još od srpnja. Navodno se radi o osnivanju zajedničke organizacije koja bi nadzirala sigurnosne standarde za KI sustave.
Javna rasprava pokrenuta je esejom Dario Amodeija, šefa Anthropica, objavljenim u subotu, u kojem je zatražio usporavanje razvoja KI kako bi se bolje moglo pratiti sigurnosni rizici. Prema heiseu, jedan je zaposlenik Anthropica napustio poduzeće i javno kritizirao da se sigurnosnim aspektima ne posvećuje dovoljno pažnje.
Amodeijev poziv podržali su nekoliko šefova KI poduzeća, uključujući Sam Altmana iz OpenAI-a i Demisa Hassabisa iz Googlea. Altman je, prema TechCrunchu, najavio da OpenAI želi uključiti neovisne provjeritelje u svoje sigurnosne procese.
Prema izvještajima, još je nejasno hoće li takva suradnja kršiti zakon o natjecanju. Amodei je predložio državnu iznimku za to, ali je Lehane izjavio da, po njegovom mišljenju, to nije potrebno.
Vlada Sjedinjenih Država pod predsjednikom Trumpom izrazila je, prema TechCrunchu, skepticizam prema sigurnosnim zabrinutostima i upozorila da bi usporavanje moglo dati prednost Kini. Prema heiseu, i Meta je kritična prema nacionalnom nadzornom tijelu.
Nije jasno hoće li i kada će planirana organizacija za sigurnost zaista biti osnovana, jer se nekoliko navoda temelji na anonimnim izvorima, a uključena poduzeća dosad su se samo djelomično javno izjasnila o tome.
ZAŠTO JE TO VAŽNO
Pokazuje kako najveća KI poduzeća sama upravljaju rizicima svojih tehnologija i može li nastati neovisna kontrola.
ŠTO MOŽEŠ SAD UČINITI
- Budi kritičan prema vijestima o KI Usporedi izvještaje o sigurnosti KI s nekoliko pouzdanih izvora. Tako ćeš prepoznati je li vijest zaista potvrđena ili se temelji samo na glasinama.
- Obazi se na neovisne provjere Provjeri hoće li davatelj KI usluga koristiti neovisne kontrole ili provjerne organizacije. To će ti pokazati koliko poduzeće zaista mari za sigurnost.
- Prati prave regulative, a ne samo najave Informiraj se kod vlasti ili pouzdanih medija koje zakone ili standarde za KI su zaista doneseni. Ne oslanjaj se samo na izjave poduzeća.
- Koristi KI usluge svjesno i umjereno Odaberi davatelje koji otvoreno izvještavaju o svojim sigurnosnim mjerama. Razmislite prije uporabe koje podatke unosiš i kako poduzeće s njima postupa.