Google, OpenAI e Anthropic trattano sulla sicurezza dell'IA
OpenAI ha confermato che da diverse settimane l'azienda sta scambiando opinioni con i concorrenti Anthropic e Google DeepMind su questioni di sicurezza nello sviluppo dell'IA. Lo ha dichiarato martedì il responsabile delle politiche di OpenAI, Chris Lehane, secondo TechCrunch.
Secondo fonti interne della rivista The Information, questi colloqui sono in corso già dal mese di luglio. Si tratterebbe di costruire un'organizzazione comune che supervisioni gli standard di sicurezza per i sistemi di IA.
Il dibattito pubblico è stato innescato da un saggio del CEO di Anthropic, Dario Amodei, pubblicato sabato, in cui chiedeva di rallentare il ritmo dello sviluppo dell'IA per poter meglio affrontare i rischi di sicurezza. In precedenza, secondo heise, un dipendente di Anthropic aveva lasciato l'azienda e criticato pubblicamente il fatto che gli aspetti di sicurezza fossero troppo trascurati.
Diversi CEO del settore IA, tra cui Sam Altman di OpenAI e Demis Hassabis di Google, hanno sostenuto l'appello di Amodei. Altman ha annunciato, secondo TechCrunch, che OpenAI intende coinvolgere verificatori indipendenti nei suoi processi di sicurezza.
Non è chiaro, secondo le fonti, se una tale collaborazione potrebbe violare le leggi sulla concorrenza. Amodei ha proposto un'esenzione statale, ma Lehane ha dichiarato che, a suo parere, non sarebbe necessaria.
Il governo degli Stati Uniti sotto il presidente Trump, secondo TechCrunch, si è mostrato scettico nei confronti delle preoccupazioni sulla sicurezza e ha avvertito che un rallentamento potrebbe dare un vantaggio alla Cina. Secondo heise, anche Meta sarebbe critico nei confronti di un'autorità di controllo nazionale.
Rimane incerto se e quando l'organizzazione per la sicurezza prevista vedrà effettivamente la luce, poiché diverse informazioni si basano su fonti anonime e le aziende coinvolte finora si sono espresse solo parzialmente in modo pubblico.
PERCHÉ È IMPORTANTE
Mostra come le più grandi aziende di IA gestiscono i rischi delle loro tecnologie e se potrebbe nascere un controllo indipendente.
COSA PUOI FARE ORA
- Mantieni un atteggiamento critico nei confronti delle notizie sull'IA Confronta le notizie sulla sicurezza dell'IA con più fonti affidabili. In questo modo puoi capire se un'informazione è effettivamente confermata o si basa solo su voci.
- Fai attenzione alle verifiche indipendenti Controlla se un fornitore di IA utilizza verificatori o organizzazioni di controllo indipendenti. Questo ti mostrerà quanto seriamente un'azienda prende la sicurezza.
- Segui la regolamentazione reale, non solo gli annunci Informati presso autorità o media affidabili su quali leggi o standard per l'IA vengono effettivamente approvati. Non basarti solo sulle dichiarazioni delle aziende.
- Utilizza i servizi di IA in modo consapevole e con moderazione Scegli fornitori che comunicano apertamente le loro misure di sicurezza. Prima di utilizzare un servizio, rifletti su quali dati inserisci e su come l'azienda li gestisce.