Google, OpenAI och Anthropic förhandlar om KI-säkerhet
OpenAI har bekräftat att företaget sedan flera veckor utbyter information om säkerhetsfrågor inom KI-utveckling med konkurrenterna Anthropic och Google DeepMind. Det meddelade OpenAIs politiske chef Chris Lehane enligt TechCrunch på tisdagen.
Enligt insiderrapporter från tidskriften The Information har dessa samtal pågått sedan juli. Det handlar enligt uppgifter om att bygga upp en gemensam organisation som ska övervaka säkerhetsstandarder för KI-system.
Den offentliga debatten utlöstes av en essä av Anthropics vd Dario Amodei på lördagen, där han krävde att takten i KI-utvecklingen bör saktas ner för att säkerhetsrisker ska kunna hanteras bättre. Tidigare hade enligt heise en medarbetare på Anthropic lämnat företaget och offentligt kritiserat att säkerhetsaspekter inte beaktades tillräckligt.
Flera KI-chefer, däribland Sam Altman från OpenAI och Demis Hassabis från Google, stödde Amodeis uppmaning. Altman meddelade enligt TechCrunch att OpenAI avser att inkludera oberoende granskare i sina säkerhetsprocesser.
Det är enligt rapporterna oklart om ett sådant samarbete skulle strida mot konkurrenslagen. Amodei föreslog en statlig undantagsregel för detta, men Lehane förklarade att han inte anser att en sådan är nödvändig.
USA:s regering under president Trump uttryckte enligt TechCrunch skepsis inför säkerhetsbekymren och varnade för att en nedgång i utvecklingstakten kunde ge Kina en fördel. Enligt heise ska också Meta stå kritiskt till en nationell kontrollmyndighet.
Det är fortfarande oklart om och när den planerade säkerhetsorganisationen kommer att bildas, eftersom flera uppgifter bygger på anonyma källor och de inblandade företagen hittills endast delvis har kommenterat frågan offentligt.
VARFÖR DET ÄR VIKTIGT
Det visar hur de största KI-företagen själva hanterar riskerna med sina teknologier och om en oberoende kontroll kan uppstå.
VAD DU KAN GÖRA NU
- Var kritisk till KI-nyheter Jämför rapporter om KI-säkerhet med flera seriösa källor. Så ser du om en nyhet verkligen är bekräftad eller bara bygger på rykten.
- Uppmärksamma oberoende granskningar Kolla om en KI-leverantör använder oberoende kontrollanter eller granskande organisationer. Det visar hur allvarligt företaget tar säkerhet.
- Följ verklig reglering, inte bara tillkännagivanden Informera dig hos myndigheter eller seriösa medier om vilka lagar eller standarder för KI som verkligen har beslutats. Lita inte enbart på företagens egna uttalanden.
- Använd KI-tjänster medvetet och sparsamt Välj leverantörer som öppet redogör för sina säkerhetsåtgärder. Fundera innan användning på vilka data du matar in och hur företaget hanterar dem.