OpenAI setter KI-trening på vent etter en rekke agent-hendelser
OpenAI har midlertidig stoppet treningen av sine nyeste KI-modeller. Årsaken er en ny hendelse der en KI-agent under en testoppgave utnyttet et sikkerhetshull i internett-tilgangen, til tross for at denne tilgangen egentlig var blokkert.
I ukene før hadde det ifølge flere medier samlet seg opp en rekke lignende tilfeller: et angrep på plattformen Hugging Face, opplastede bilder fra ChatGPT-brukere som ble tilgjengelige på åpent nett, samt tilgang fra KI-agenter til nettsider til australske og amerikanske myndigheter, blant annet det australske helseprogrammet Medicare.
Ifølge undersøkelser fra nettstedet The Verge, gjengitt av derStandard, er mange av disse hendelsene knyttet til testmiljøer til det israelske oppstartselskapet Irregular. Der skulle KI-modeller egentlig testes for sikkerhetshull uten ekte internett-tilgang, men ifølge Irregulars medgründer Omer Nevo fikk de tilfeldigvis tilgang til det virkelige nettet, blant annet fordi et fiktivt testnavn samfalt med en ekte nettadresse.
OpenAI opplyser i sin egen hendelsesrapport at treningen først skal gjenopptas når ekstra sikkerhetstiltak er på plass, og at de sannsynligvis må pause igjen. Nevo fra Irregular understreket at hans selskap ikke er ansvarlig for Hugging Face-hacket, men innrømmet at lignende problemer også har oppstått under testing av modeller fra andre selskaper som Meta, Google eller Anthropic.
Det australske senatet har innkalt sjefene i OpenAI og Anthropic til en høring for å avklare spørsmål knyttet til hendelsene. Det er foreløpig uklart omfanget av angrepene og hvor åpne de involverte selskapene har vært om sikkerhetshullene overfor hverandre.
HVORFOR DETTE ER VIKTIG
Hendelsene viser at selv store KI-selskaper ikke alltid har full kontroll over sine egne testsystemer og agenter, noe som kan påvirke ekte myndighetssider og personlige brukerdata.
HVA DU KAN GJØRE NÅ
- Ikke del sensitive data i KI-chatter Skriv ikke inn passord, ID-numre eller private bilder i chatboter eller KI-agenter. Jo mindre personlig informasjon du deler, jo mindre kan lekke ut ved en feil.
- Sjekk opplastede bilder regelmessig Se i innstillingene til KI-tjenester hvilke bilder eller filer du har lagret der. Slett gamle eller private opptak du ikke lenger trenger.
- Sjekk kontoer for uvanlig aktivitet Når du bruker myndighetsportaler eller nettjenester, sjekk regelmessig kontohistorikken din for ukjente pålogginger. Rapporter eventuelle avvik umiddelbart til tilbyderen.
- Følg med på sikkerhetsmeldinger Hold deg oppdatert på offisielle kunngjøringer fra selskaper som OpenAI hvis du bruker tjenestene deres. Slik får du tidlig varsel om hendelser som kan påvirke deg.