Král Charles varuje šéfy technologických firem před riziky umělé inteligence
Král Charles III. pozval 17. září 2026 na zámku Dumfries House v Ayrshiru ve Skotsku přední představitele odvětví umělé inteligence na vrcholné setkání.
Účastníky byli například britský ministr pro umělou inteligenci Kanishka Narayan, poradce papeže a zástupci společností Nvidia, OpenAI, Anthropic a Google DeepMind.
Ve svém projevu král varoval před „existenčními riziky“, která by mohla vzniknout, pokud by se technologie umělé inteligence dostaly do špatných rukou nebo byly použity katastrofickým způsobem.
Podle Charlese stále více vývojářů sami varuje, že umělá inteligence by mohla získat „temnější schopnosti“ – případně dokonce schopnost ohrozit lidské životy.
Setkání se konalo na pozadí několika znepokojivých událostí: Nedávno rezignoval výzkumník ze společnosti Anthropic s veřejným varováním před riziky umělé inteligence a společnost OpenAI oznámila šest případů neočekávaného či znepokojivého chování svých modelů.
Názory přítomných šéfů firem se různíly: Generální ředitel společnosti Nvidia Jensen Huang kritizoval výzvy k zastavení vývoje a prohlásil, že by společnosti měly samy rozhodnout, kdy je produkt dostatečně bezpečný. Spoluzakladatel DeepMind Demis Hassabis považuje takzvanou obecnou umělou inteligenci za „pouze několik let vzdálenou“ a připustil, že riziko selhání je „určitě nenulové“.
Není jasné, zda ze setkání vyplynou konkrétní pravidla nebo závazné zásady pro vývoj umělé inteligence – král pouze vyzval k nalezení společných principů.
PROČ JE TO DŮLEŽITÉ
Varování hlavy státu ukazuje, že obavy z nekontrolované umělé inteligence jsou nyní brány vážně i mimo technologický sektor.
CO MŮŽETE UDĚLAT NYNÍ
- Zkontroluj výsledky KI kriticky Nespoléhej se slepě na to, co ti program umělé inteligence ukáže nebo řekne. Důležité informace vždy porovnej s druhým, důvěryhodným zdrojem.
- Nezadávej citlivá data do KI chatů Nesdílej hesla, bankovní údaje ani osobní tajemství s chatboty. Nikdy přesně nevíš, jak jsou tato data ukládána nebo dále používána.
- Buď informován o nových pravidlech pro KI Sleduj v pravidelných intervalech zprávy o zákonech a předpisech týkajících se umělé inteligence. Tak zjistíš včas, pokud se pro tebe jako uživatele něco změní.
- Používej nástroje KI uvědoměle a cíleně Používej programy umělé inteligence jen tam, kde opravdu chápeš jejich přínos. U důležitých rozhodnutí, jako jsou finance nebo zdraví, si vyžádej navíc lidskou radu.