Король Чарльз предупреждает главу технологических компаний об опасностях ИИ
17 сентября 2026 года король Чарльз III пригласил ведущих представителей отрасли ИИ на саммит в замок Дамфрис-хаус в Эйршире, Шотландия.
Среди участников были министр по вопросам ИИ Великобритании Канишка Нараян, советник Папы Римского, а также представители компаний Nvidia, OpenAI, Anthropic и Google DeepMind.
В своей речи король предупредил об «экзистенциальных угрозах», которые могут возникнуть, если технологии ИИ попадут в не те руки или будут использованы катастрофическим образом.
По словам Чарльза, всё больше разработчиков сами предупреждают, что ИИ может обрести «тёмные способности» — возможно, даже способность отнимать жизни.
Встреча состоялась на фоне нескольких резонансных инцидентов: недавно исследователь из Anthropic ушёл в отставку с публичным предупреждением об угрозах ИИ, а OpenAI сообщила о шести случаях неожиданного или тревожного поведения своих моделей.
Мнения присутствующих глав компаний разошлись: генеральный директор Nvidia Дженсен Хуанг раскритиковал призывы к остановке разработок и заявил, что компании должны сами решать, когда продукт станет достаточно безопасным. Соучредитель DeepMind Демис Хассабис считает, что так называемый общий ИИ находится «всего в нескольких годах» и признал, что риск неудачи «определённо не равен нулю».
Пока неясно, приведёт ли встреча к конкретным правилам или обязательным принципам разработки ИИ — король лишь призвал найти общие подходы.
ПОЧЕМУ ЭТО ВАЖНО
Предупреждение главы государства показывает, что озабоченность неконтролируемым развитием ИИ теперь воспринимается всерьёз не только в технологической отрасли.
ЧТО ДЕЛАТЬ СЕЙЧАС
- Проверяйте результаты работы ИИ критически Не доверяйте слепо тому, что показывает или говорит программа ИИ. Всегда сверяйте важную информацию с другим надёжным источником.
- Не вводите конфиденциальные данные в чаты с ИИ Не делитесь паролями, банковскими данными или личными тайнами с чат-ботами. Вы никогда не знаете, как эти данные будут храниться или использоваться.
- Следите за новостями о законах и правилах в области ИИ Периодически узнавайте о новых законах и нормативных актах, связанных с искусственным интеллектом. Так вы раньше заметите изменения, которые могут коснуться вас как пользователя.
- Используйте инструменты ИИ осознанно и целенаправленно Применяйте программы ИИ только там, где вы действительно понимаете их пользу. В важных вопросах, например, связанных с деньгами или здоровьем, дополнительно консультируйтесь с людьми.