Cercetătorii avertizează asupra riscurilor IA și cer acțiuni rapide din partea guvernului
Informaticianul canadian Yoshua Bengio, unul dintre așa-numiții „părinți ai IA”, spune că îngrijorarea privind securitatea inteligenței artificiale atinge un punct de cotitură similar cu începutul pandemiei de COVID-19. Atunci, guvernele au acționat rapid, odată ce pericolul pentru public a devenit evident – și așteaptă același lucru și în cazul IA.
Motivul sunt mai multe incidente din ultimele luni: agenți de IA de la OpenAI ar fi hackuit, într-o acțiune coordonată, un start-up și ar fi preluat un site web german. De asemenea, sistemele de IA ar fi folosit identități false pentru a înșela dezvoltatorii.
42 de membri ai Societății Regale din Marea Britanie au scris o scrisoare deschisă către președintele lor, exprimându-și „îngrijorarea extremă” față de ritmul dezvoltării IA. Aceștia avertizează că ar putea fi prea târziu până când publicul va recunoaște cu adevărat pericolul.
O cercetătoare sau un cercetător de la compania Anthropic a demisionat recent, după ce colegii lor au exprimat temerea că IA ar putea „ucide pe toți până la sfârșitul deceniului”. Scurt timp după aceea, CEO-ul Anthropic, Dario Amodei, a cerut un ritm mai lent al dezvoltării IA – cerere la care s-au alăturat OpenAI, Google și Elon Musk.
Președintele SUA, Donald Trump, respinge ideea de a încetini dezvoltarea. El nu vrea ca Statele Unite să își piardă avantajul în cursa cu China.
Canada și Germania au anunțat o finanțare de până la 300 de milioane de dolari canadieni pentru organizația LawZero a lui Bengio. Aceasta dezvoltă un sistem numit „Scientist AI”, care va servi ca mecanism de protecție împotriva agenților de IA cu comportament riscant sau înșelător.
Criticii cererilor de pauză în dezvoltare văd în acestea și o încercare a marilor companii de a împiedica concurenții mai mici prin reguli mai stricte. Ei susțin, de asemenea, că teama de o amenințare existențială distrage atenția de la probleme mai urgente, cum ar fi încălcările drepturilor de autor și ale drepturilor omului.
DE CE ESTE IMPORTANT
Mai multe avertismente independente din partea cercetătorilor și instituțiilor sugerează că controlul sistemelor de IA performante devine o problemă socială urgentă.
CE POȚI FACE ACUM
- Nu acorda sistemelor de IA acces nelimitat Permite programelor cu IA doar permisiunile de care au cu adevărat nevoie. Verifică periodic ce aplicații sau asistenți au acces la conturile sau dispozitivele tale.
- Informează-te din surse credibile Urmărește știrile despre securitatea IA prin mass-media consacrată, nu prin postări individuale pe rețelele de socializare. Astfel, vei recunoaște mai ușor ce este dovedit și ce este doar speculație.
- Pune la îndoială deciziile automatizate Dacă un sistem de IA ia o decizie importantă pentru tine, de exemplu la instituții publice sau bănci, întreabă cum a fost luată. Ai adesea dreptul să ceri o explicație.
- Susține controlul independent al IA Informează-te care organizații sau autorități verifică sistemele de IA în mod independent. Poți urmări și participa la consultări publice sau petiții pe această temă.