Anthropic блокирует попытки использования Claude для разработки биологического оружия
Anthropic опубликовала отчёт, в котором описывает, как с декабря 2025 по август 2026 года выявляла и останавливала попытки использования своей модели ИИ Claude в опасных целях.
По данным Anthropic, было зафиксировано пять случаев, когда пользователи пытались с помощью Claude заниматься исследованиями биологического оружия. В одном из примеров кто-то через анонимный почтовый ящик и VPN отправил тысячи сообщений, чтобы получить помощь в изучении высокозаразного вируса гриппа.
В другом случае, как сообщает Anthropic, учёный хотел с помощью Claude составить заявку на финансирование исследований вируса, которые должны были проходить в военном учреждении. Компания заблокировала доступ из осторожности, хотя не было ясно, были ли намерения злонамеренными.
В отчёте также упоминаются попытки использовать Claude для разработки обычного оружия, например, ракет и дронов — это делали группы из Йемена, а также для создания противоторпедных технологий из Китая. Кроме того, ИИ, по данным Anthropic, использовали группы, связанные с Россией и Ираном, для шпионажа и пропаганды.
Anthropic также обвиняет китайские компании, такие как Moonshot и Deepseek, в тайном перенаправлении запросов к Claude для обучения собственных моделей ИИ. Эти обвинения невозможно независимо проверить на основе доступных источников.
Джейкоб Кляйн, ответственный за анализ угроз в Anthropic, сказал, как сообщает New York Times, что это «невероятно сложная ситуация», поскольку одна и та же информация может использоваться как для создания оружия, так и для разработки вакцин.
Отчёт появился вскоре после того, как бывший ведущий исследователь в области безопасности Anthropic публично предупредил о рисках ИИ для человечества.
ПОЧЕМУ ЭТО ВАЖНО
Отчёт показывает, что модели ИИ уже целенаправленно используются для опасных целей, таких как исследования биологического и другого оружия, даже если поставщики пытаются это предотвратить.
ЧТО ДЕЛАТЬ СЕЙЧАС
- Оставайтесь скептичными к ответам ИИ о опасных веществах Если ИИ предоставляет вам информацию о химических веществах, вирусах или оружии, всегда проверяйте её у официальных и надёжных источников. Не полагайтесь только на чат-бот.
- Сообщайте о подозрительном использовании ИИ-сервисов Если вы заметите, что кто-то пытается использовать ИИ в опасных целях, можете сообщить об этом поставщику услуги или в соответствующие органы. Многие компании предлагают для этого специальные формы обратной связи.
- Читайте отчёты о безопасности крупных поставщиков ИИ Компании вроде Anthropic регулярно публикуют отчёты о выявленных случаях злоупотребления их ИИ. Ознакомление с ними поможет понять, какие риски существуют и насколько серьёзно к ним относятся.
- Используйте ИИ-сервисы только через официальные каналы Избегайте сомнительных перепродавцов или анонимных способов доступа к ИИ-инструментам, так как они часто используются для обхода правил безопасности. Регистрируйтесь под своей реальной личностью у проверенных поставщиков.