Google, OpenAI og Anthropic forhandler om KI-sikkerhed
OpenAI har bekræftet, at virksomheden i flere uger har udvekslet synspunkter med konkurrenterne Anthropic og Google DeepMind om sikkerhedsspørgsmål i forbindelse med KI-udvikling. Det oplyser OpenAI’s politiske direktør, Chris Lehane, ifølge TechCrunch tirsdag.
Ifølge insideroplysninger fra magasinet The Information har disse samtaler været i gang siden juli. Her skal det angiveligt handle om oprettelsen af en fælles organisation, der skal overvåge sikkerhedsstandarder for KI-systemer.
Den offentlige debat blev udløst af et essay af Anthropic’s direktør, Dario Amodei, lørdag, hvor han opfordrede til at bremse udviklingen af KI for bedre at kunne håndtere sikkerhedsrisici. Tidligere havde en medarbejder fra Anthropic ifølge heise forladt virksomheden og offentligt kritiseret, at sikkerhedsaspekter ikke blev taget alvorligt nok.
Flere KI-chefer, heriblandt Sam Altman fra OpenAI og Demis Hassabis fra Google, støttede Amodeis opfordring. Altman meddelte ifølge TechCrunch, at OpenAI ønsker at inddrage uafhængige revisorer i sine sikkerhedsprocesser.
Ifølge rapporterne er det stadig uklart, om et sådant samarbejde ville stride mod konkurrenceloven. Amodei foreslog en statslig undtagelsesregel, men Lehane udtalte, at en sådan ifølge ham ikke er nødvendig.
Den amerikanske regering under præsident Trump udtrykte ifølge TechCrunch skepsis over for sikkerhedsbekymringerne og advarede om, at en afmatning kunne give Kina en fordel. Ifølge heise skal også Meta stå kritisk over for en national kontrolmyndighed.
Det forbliver uklart, om og hvornår den planlagte sikkerhedsorganisation faktisk vil blive oprettet, da flere oplysninger stammer fra anonyme kilder, og de involverede virksomheder indtil videre kun delvist har udtalt sig offentligt herom.
HVORFOR DET ER VIGTIGT
Det viser, hvordan de største KI-virksomheder selv håndterer risiciene ved deres teknologier, og om der kan opstå uafhængig kontrol.
HVAD DU KAN GØRE NU
- Vær kritisk over for KI-nyheder Sammenlign rapporter om KI-sikkerhed med flere pålidelige kilder. Sådan kan du se, om en meddelelse virkelig er bekræftet, eller om den kun bygger på rygter.
- Hold øje med uafhængige revisioner Tjek, om en KI-udbyder bruger uafhængige kontrollører eller revisionsorganisationer. Det viser, hvor alvorligt virksomheden tager sikkerhed.
- Følg ægte regulering, ikke kun meddelelser Undersøg hos myndigheder eller pålidelige medier, hvilke love eller standarder for KI der faktisk bliver vedtaget. Stol ikke kun på virksomheders udtalelser.
- Brug KI-tjenester bevidst og sparsomt Vælg udbydere, der åbent rapporterer om deres sikkerhedsforanstaltninger. Overvej, inden du bruger dem, hvilke data du indtaster, og hvordan virksomheden håndterer dem.