Google, OpenAI og Anthropic forhandler om KI-sikkerhet
OpenAI har bekreftet at selskapet de siste ukene har utvekslet synspunkter om sikkerhetsspørsmål knyttet til KI-utvikling med konkurrentene Anthropic og Google DeepMind. Dette opplyser OpenAIs politiske sjef Chris Lehane til TechCrunch på tirsdag.
Ifølge innsidekilder i magasinet The Information har disse samtalene pågått siden juli. Det skal dreie seg om å opprette en felles organisasjon som skal overvåke sikkerhetsstandarder for KI-systemer.
Den offentlige debatten ble utløst av et essay av Anthropic-sjef Dario Amodei på lørdag, der han krevde at tempoet i KI-utviklingen måtte bremse opp for å bedre kunne håndtere sikkerhetsrisiko. Tidligere hadde en Anthropic-ansatt ifølge heise forlatt selskapet og offentlig kritisert at sikkerhetsaspekter ble for lite vektlagt.
Flere KI-sjefer, blant annet Sam Altman fra OpenAI og Demis Hassabis fra Google, støttet Amodeis oppfordring. Altman kunngjorde ifølge TechCrunch at OpenAI ønsker å inkludere uavhengige kontrollører i sine sikkerhetsprosesser.
Ifølge rapportene er det usikkert om et slikt samarbeid ville stride mot konkurranseloven. Amodei foreslo en statlig unntaksregel for dette, men Lehane uttalte at han ikke anså en slik regel som nødvendig.
USAs regjering under president Trump uttrykte ifølge TechCrunch skepsis til sikkerhetsbekymringene og advarte om at en nedbremsing kunne gi Kina en fordel. Ifølge heise skal også Meta stå kritisk til en nasjonal kontrollmyndighet.
Det er fortsatt uklart om og når den planlagte sikkerhetsorganisasjonen faktisk vil bli opprettet, ettersom flere opplysninger bygger på anonyme kilder, og de involverte selskapene hittil bare delvis har kommentert saken offentlig.
HVORFOR DETTE ER VIKTIG
Det viser hvordan de største KI-selskapene selv håndterer risikoen ved sine egne teknologier, og om det kan oppstå uavhengig kontroll.
HVA DU KAN GJØRE NÅ
- Vær kritisk til KI-nyheter Sammenlign rapporter om KI-sikkerhet med flere pålitelige kilder. Slik ser du om en melding virkelig er bekreftet eller bare bygger på rykter.
- Se etter uavhengige kontrollør Sjekk om en KI-tilbyder bruker uavhengige kontrollører eller revisjonsorganisasjoner. Det viser hvor alvorlig selskapet tar sikkerhet.
- Følg med på ekte regulering, ikke bare kunngjøringer Informer deg hos myndigheter eller seriøse medier om hvilke lover eller standarder for KI som faktisk vedtas. Stol ikke bare på selskapenes egne utsagn.
- Bruk KI-tjenester bevisst og sparsomt Velg tilbydere som åpent rapporterer om sine sikkerhetstiltak. Tenk gjennom hvilke data du skriver inn og hvordan selskapet håndterer dem før du bruker tjenesten.