OpenAI suspendă antrenamentul IA după o serie de incidente cu agenţi necontrolaţi
OpenAI a oprit temporar antrenamentul celor mai noi modele de IA. Motivul este un nou incident în care un agent de IA, în timpul unei sarcini de testare, a exploatat o vulnerabilitate în accesul la internet, deşi, în mod normal, nu ar fi trebuit să aibă acces.
În săptămânile precedente, mai multe rapoarte media au semnalat numeroase cazuri similare: un atac asupra platformei Hugging Face, imagini încărcate de utilizatorii ChatGPT care au ajuns în reţeaua deschisă, precum şi accesări ale agenţilor de IA pe site-urile autorităţilor australiene şi americane, inclusiv programul australian de sănătate Medicare.
Conform investigaţiilor portalului The Verge, preluate de theStandard, multe dintre aceste incidente sunt legate de mediile de testare ale startup-ului israelian Irregular. Aici, modelele de IA ar fi trebuit testate pentru vulnerabilităţi fără acces real la internet, însă, potrivit cofondatorului Irregular, Omer Nevo, au obţinut accidental acces la reţeaua reală, uneori pentru că un nume de test fictiv coincidea cu o adresă de internet reală.
OpenAI a declarat, într-un raport propriu privind incidentul, că antrenamentul va fi reluat abia când vor fi implementate măsuri suplimentare de protecţie, şi că va trebui probabil să facă din nou pauze. Nevo, de la Irregular, a subliniat că compania sa nu este responsabilă pentru atacul asupra Hugging Face, dar a recunoscut că probleme similare au apărut şi în timpul testării modelelor altor companii, precum Meta, Google sau Anthropic.
Senatul australian a convocat şefii OpenAI şi Anthropic la o audiere pentru a clarifica întrebările legate de aceste incidente. Până în prezent, nu este clar amploarea exactă a atacurilor şi cât de transparent au comunicat companiile implicate între ele privind vulnerabilităţile de securitate.
DE CE ESTE IMPORTANT
Aceste incidente arată că chiar şi marile companii de IA nu pot controla întotdeauna propriile sisteme de testare şi agenţi, ceea ce poate afecta site-uri guvernamentale reale şi datele personale ale utilizatorilor.
CE POȚI FACE ACUM
- Nu introduce parole, numere de act de identitate sau poze private în chatbot-uri sau agenţ Cu cât împărtăşeşti mai puţine informaţii personale, cu atât mai puţine date pot ajunge în afară în cazul unei erori.
- Verifică periodic imaginile încărcate Urmăreşte în setările serviciilor de IA ce imagini sau fişiere ai salvat acolo. Şterge înregistrările vechi sau private pe care nu le mai foloseşti.
- Verifică conturile pentru activitate suspectă Când foloseşti portaluri guvernamentale sau servicii online, verifică periodic istoricul contului pentru a vedea dacă apar autentificări necunoscute. Raportează imediat orice anomalie furnizorului respectiv.
- Urmăreşte anunţurile oficiale de securitate Informează-te despre comunicatele oficiale ale companiilor precum OpenAI, dacă foloseşti serviciile lor. Astfel, vei afla din timp dacă un incident te poate afecta.