Kralj Charles opozarja vodje tehnoloških podjetij pred nevarnostmi UJ
Kralj Charles III. je 17. septembra 2026 v Dumfries House v Ayrshiru na Škotskem povabil vodilne predstavnike industrije UJ na vrhni srečanj.
Med udeleženci so bili med drugim britanski minister za UJ Kanishka Narayan, svetovalec papeža ter predstavniki podjetij Nvidia, OpenAI, Anthropic in Google DeepMind.
V svojem nagovoru je kralj opozoril pred „ekzistencialnimi nevarnostmi“, ki bi lahko nastale, če bi se tehnologije UJ znašle v napačne roke ali če bi jih uporabili na katastrofalen način.
Po besedah Charlesa vedno več razvijalcev opozarja, da bi lahko UJ razvila „temnejše sposobnosti“ – morda celo tako, da bi lahko ogrožala življenja.
Srečanje se je odvijalo na ozadju več senzacionalnih dogodkov: raziskovalec podjetja Anthropic je nedavno odstopil z javnim opozorilom pred tveganji UJ, OpenAI pa je poročal o šestih primerih nepričakovanega ali zaskrbljujočega vedenja svojih modelov.
Mnenja prisotnih direktorjev podjetij so se razlikovala: direktor Nvidie Jensen Huang je kritiziral zahteve po ustavitvi razvoja in rekel, da bi morala podjetja sama odločati, kdaj je izdelek dovolj varen. Soustanovitelj DeepMind Demis Hassabis je menil, da je splošna UJ „le še nekaj let stran“ in priznal, da je tveganje za neuspeh „zagotovo ne nič“.
Odprto ostaja, ali bo iz srečanja izšlo konkretnih pravil ali zavezujočih načel za razvoj UJ – kralj je le pozval k iskanju skupnih principov.
ZAKAJ JE TO POMEMBNO
Opozorilo državnega poglavarja kaže, da se skrb pred nekontrolirano UJ zdaj resno jema tudi zunaj tehnološke industrije.
KAJ LAHKO NARDIŠ ZDAJ
- Preveri rezultate UJ kritično Ne zaupaj slepo temu, kar ti UJ program pokaže ali pove. Primerjaj pomembne informacije vedno z drugim, zanesljivim virom.
- Ne vnašaj občutljivih podatkov v klepete UJ Ne deli gesel, bančnih podatkov ali osebnih skrivnosti s klepetalci. Nikoli ne veš natančno, kako se ti podatki shranjujejo ali kako se jih nadalje uporablja.
- Bodi informiran o novih pravilih UJ Sledi v mirnih intervalih novicam o zakonih in predpisih glede UJ. Tako opaziš zgodaj, če se za tebe kot uporabnika nekaj spremeni.
- Uporabi orodja UJ zavedno in ciljno Uporabi programe UJ le tam, kjer razumeš resnično korist. Pri pomembnih odločitvah, kot so denar ali zdravje, si poišči še človeški nasvet.