A Google, az OpenAI és az Anthropic a KI-biztonságról tárgyal
Az OpenAI megerősítette, hogy a vállalat több hete óta biztonsági kérdésekről cserél információt a versenytársaival, az Anthropic és a Google DeepMinddel. Erről Chris Lehane, az OpenAI politikai igazgatója a TechCrunch-nak kedden jelentette be.
A The Information magazin belülről származó információi szerint ezek a tárgyalások már július óta folynak. Eszerint egy közös szervezet felállításáról lenne szó, amely felügyelné a KI-rendszerek biztonsági szabványait.
A nyilvános vitát Dario Amodei, az Anthropic vezérigazgató szombati esszéje indította el, amelyben arra szólította fel, hogy lassítsák le a KI-fejlesztés ütemét, hogy jobban utolhassák a biztonsági kockázatokat. Korábban, a heise szerint egy Anthropic-alkalmazott otthagyta a céget, és nyilvánosan kritizálta, hogy a biztonsági szempontokat nem veszik eléggé figyelembe.
Több KI-vezér, köztük Sam Altman az OpenAI-tól és Demis Hassabis a Googletól, támogatja Amodei felhívását. Altman a TechCrunch szerint bejelentette, hogy az OpenAI független ellenőröket kíván bevonni a biztonsági folyamatokba.
A jelentések szerint nyitott kérdés, hogy egy ilyen együttműködés sértheti-e a versenyjogot. Amodei erre egy állami kivételes szabályozást javasolt, de Lehane szerint erre nincs szükség.
A Trump elnöki adminisztráció a TechCrunch szerint szkeptikusan nyilatkozott a biztonsági aggodalmakkal kapcsolatban, és figyelmeztetett, hogy a lassítás előnyt adhatna Kínának. A heise szerint a Meta is kritikusan áll egy nemzeti ellenőrző hatóság létrehozása iránt.
Nincs tisztázva, hogy a tervezett biztonsági szervezet valójában megvalósul-e, és ha igen, mikor, mivel több információ is névtelen forrásokra támaszkodik, és a részt vevő cégek eddig csak részben nyilatkoztak nyilvánosan.
MIÉRT FONTOS EZ
Mutatja, hogyan kezelik a legnagyobb KI-cégek a saját technológiáik kockázatait, és hogyan jöhetne létre egy független ellenőrzés.
MIT TEHETSZ MOST
- Maradj kritikus a KI-hírekkel szemben Hasonlítsd össze a KI-biztonságról szóló jelentéseket több megbízható forrásból. Így felismerheted, hogy egy hír valóban megerősített-e, vagy csak pletykán alapul.
- Figyelj a független ellenőrzésekre Ellenőrizd, hogy a KI-szolgáltató független ellenőröket vagy vizsgáló szervezeteket alkalmaz-e. Ez mutatja, mennyire komolyan veszi a cég a biztonságot.
- Kövesd a valódi szabályozást, ne csak a bejelentéseket Tájékozódj a hatóságoknál vagy megbízható médiában, hogy milyen törvényeket vagy szabványokat fogadtak el valójában a KI-re vonatkozóan. Ne támaszkodj kizárólag a cégek kijelentéseire.
- Használd a KI-szolgáltatásokat tudatosan és mértékkel Válaszd ki azokat a szolgáltatókat, akik nyíltan beszámolnak biztonsági intézkedéseikről. Gondold át a használat előtt, milyen adatokat adsz meg, és hogyan kezelik azokat a cégek.