Kralj Charles upozorava šefove tehnoloških tvrtki na opasnosti KI
Kralj Charles III. pozvao je 17. rujna 2026. vodeće predstavnike KI industrije na vrhunski sastanak u Dumfries Houseu u Ayrshireu, Škotska.
Među sudionicima bili su, između ostalih, britanski ministar za KI Kanishka Narayan, savjetnik pape te predstavnici Nvidie, OpenAI-a, Anthropica i Google DeepMinda.
U svom govoru kralj je upozorio na „egzistencijalne opasnosti“ koje bi mogle nastati ako KI tehnologije dođu u krive ruke ili se koriste na katastrofalan način.
Prema Charlesu, sve više razvijatelja sami upozoravaju da bi KI mogla razviti „mračnije sposobnosti“ – čak i one koje bi mogle ugroziti živote.
Sastanak se održao u kontekstu nekoliko zapaženih incidenata: nedavno je istraživač iz Anthropica podnio ostavku javnim upozorenjem na rizike KI, a OpenAI je izvijestio o šest slučajeva neočekivanog ili zabrinjavajućeg ponašanja svojih modela.
Mišljenja prisutnih šefova tvrtki bila su podijeljena: izvršni direktor Nvidie Jensen Huang kritizirao je zahtjeve za zaustavljanjem razvoja i rekao da bi tvrtke same trebale odlučivati kada je proizvod dovoljno siguran. Suosnivač DeepMinda Demis Hassabis smatrao je da opća KI „više nije daleko, samo nekoliko godina“ i priznaje da rizik neuspjeha „definitivno nije nula“.
Još uvijek nije jasno hoće li iz sastanka proizlaziti konkretna pravila ili obvezujuća načela za razvoj KI – kralj je samo pozvao na pronalaženje zajedničkih principa.
ZAŠTO JE TO VAŽNO
Upozoravanje šefa države pokazuje da se briga zbog nekontrolirane KI sada ozbiljno shvaća i izvan tehnološke industrije.
ŠTO MOŽEŠ SAD UČINITI
- Provjeri rezultate KI kritički Ne vjeruj slepo onome što ti KI program pokazuje ili kaže. Uvijek usporedi važne informacije s drugom, pouzdanom izvorom.
- Ne unosi osjetljive podatke u KI razgovore Ne dijelite lozinke, bankovne podatke ili osobne tajne s chatbotovima. Nikad ne znaš točno kako se ti podaci čuvaju ili koriste dalje.
- Budi informiran o novim pravilima KI Pratite u mirnim razmacima vijesti o zakonima i propisima vezanim uz umjetnu inteligenciju. Tako ćeš rano primijetiti ako se nešto mijenja za tebe kao korisnika.
- Koristi KI alate svjesno i ciljano Koristi KI programe samo tamo gdje zaista razumiješ njihovu korist. Kod važnih odluka, kao što su novac ili zdravlje, zatraži dodatno ljudsko mišljenje.