Kráľ Charles varuje šéfov technologických firiem pred nebezpečenstvom KI
Kráľ Charles III. pozval dňa 17. septembra 2026 na zámok Dumfries House v Ayrshire, Škótsko, vedúcich predstaviteľov odvetvia KI na vrcholové stretnutie.
Zúčastnili sa ho okrem iných britský minister pre KI Kanishka Narayan, poradca pápeža, ako aj zástupcovia spoločností Nvidia, OpenAI, Anthropic a Google DeepMind.
V svojom prejave varoval kráľ pred „existenčnými nebezpečenstvami“, ktoré by mohli nastat́, ak by sa technológie KI dostali do nesprávnych rúk alebo by sa použili katastrofálnym spôsobom.
Podľa Charlesa varuje čoraz viac vývojárov samých pred tým, že KI by mohla vyvinúť „temnejšie schopnosti“ – možno dokonca tak, aby ohrozovala životy.
Stretnutie sa konalo na pozadí niekoľkých znepokojujúcich udalostí: Nedávno odstúpil výskumník z Anthropic s verejným varovaním pred rizikami KI, a OpenAI hlásilo šesť prípadov neočakávaného alebo znepokojujúceho správania svojich modelov.
Názory prítomných riaditeľov spoločností sa líšili: riaditeľ Nvidie Jensen Huang kritizoval výzvy k zastaveniu vývoja a povedal, že by spoločnosti mali samy rozhodnúť, kedy je produkt dostatočne bezpečný. Spoluzakladateľ DeepMind Demis Hassabis považuje takzvanú všeobecnú KI za „už len niekoľko rokov vzdialenú“ a priznal, že riziko zlyhania „určite nie je nulové“.
Ostáva otázne, či z tohto stretnutia vyplývajú konkrétne pravidlá alebo záväzné zásady pre vývoj KI – kráľ len vyzval k nájdeniu spoločných princípov.
PREČO JE TO DÔLEŽITÉ
Varovanie hlavy štátu ukazuje, že obavy z nekontrolovanej KI sa už berú vážne aj mimo technologického odvetvia.
ČO MÔŽEŠ TERAZ UROBIŤ
- Skontroluj výsledky KI kriticky Nespoliehaj sa slepo na to, čo ti KI program ukazuje alebo hovorí. Dôležité informácie vždy porovnaj s druhým, dôveryhodným zdrojom.
- Nezadávaj citlivé údaje do KI chatov Nezdieľaj heslá, bankové údaje ani osobné tajomstvá s chatbotmi. Nikdy presne neviete, ako sa tieto údaje ukladajú alebo ďalej používajú.
- Buď informovaný o nových pravidlách pre KI Sleduj v pravidelných intervaloch správy o zákonoch a predpisoch týkajúcich sa umelnej inteligencie. Tak zistíš včas, ak sa pre teba ako používateľa niečo zmení.
- Používaj KI nástroje vedome a cielene KI programy používaj len tam, kde presne chápeš ich prínos. Pri dôležitých rozhodnutiach, ako sú peniaze alebo zdravie, si vyžiadaj aj ľudskú radu.