Google, OpenAI și Anthropic negociază privind securitatea IA
OpenAI a confirmat că, de mai multe săptămâni, compania schimbă informații cu concurenții Anthropic și Google DeepMind privind problemele de securitate în dezvoltarea IA. Aceasta a fost anunțată marți de Chris Lehane, directorul de politici al OpenAI, potrivit TechCrunch.
Conform rapoartelor din revista The Information, aceste discuții au început încă din iulie. Se pare că este vorba despre înființarea unei organizații comune care să supravegheze standardele de securitate pentru sistemele IA.
Dezbaterile publice au fost declanșate de un eseu publicat sâmbătă de Dario Amodei, CEO-ul Anthropic, în care acesta a cerut încetinirea ritmului de dezvoltare a IA pentru a putea gestiona mai bine riscurile de securitate. Anterior, potrivit heise, un angajat Anthropic a părăsit compania și a criticat public lipsa de atenție acordată aspectelor de securitate.
Mai mulți lideri din industria IA, inclusiv Sam Altman de la OpenAI și Demis Hassabis de la Google, au susținut apelul lui Amodei. Altman a anunțat, potrivit TechCrunch, că OpenAI intenționează să implice evaluatori independenți în procesele sale de securitate.
Conform rapoartelor, nu este clar dacă o astfel de colaborare ar putea încălca legile concurenței. Amodei a propus o excepție guvernamentală în acest sens, dar Lehane a declarat că, din punctul său de vedere, o astfel de excepție nu este necesară.
Guvernul SUA, sub președinția lui Trump, s-a arătat, potrivit TechCrunch, sceptic față de îngrijorările legate de securitate și a avertizat că o încetinire ar putea oferi un avantaj Chinei. Potrivit heise, și Meta ar fi critică față de o autoritate națională de control.
Rămâne necunoscut dacă și când organizația de securitate planificată va fi înființată, deoarece multe dintre informații se bazează pe surse anonyme, iar companiile implicate s-au exprimat public doar parțial în această privință.
DE CE ESTE IMPORTANT
Arată cum cele mai mari companii de IA gestionează ele însele riscurile tehnologiilor lor și dacă ar putea apărea un control independent.
CE POȚI FACE ACUM
- Fii critic cu știrile despre IA Compară rapoartele despre securitatea IA din mai multe surse credibile. Astfel, poți să vezi dacă o știre este cu adevărat confirmată sau se bazează doar pe zvonuri.
- Acordă atenție evaluărilor independent Verifică dacă un furnizor de IA utilizează evaluatori sau organizații de control independenți. Acest lucru îți arată cât de serios ia compania în serios securitatea.
- Urmărește reglementările reale, nu doar anunțurile Informează-te de la autorități sau mass-media credibile care legi sau standarde pentru IA au fost cu adevărat adoptate. Nu te baza doar pe declarațiile companiilor.
- Utilizează serviciile IA în mod conștient și cu moderație Alege furnizori care raportează deschis despre măsurile lor de securitate. Gândește-te înainte de utilizare ce date introduci și cum le gestionează compania.