Anthropic блокує спроби використання Claude для розробки біозброї
Anthropic опублікувала звіт, у якому компанія описує, як між груднем 2025 та серпнем 2026 року виявила та заблокувала спроби використання її моделі ШІ Claude у небезпечних цілях.
Згідно з Anthropic, було п’ять випадків, коли користувачі намагалися за допомогою Claude досліджувати біологічну зброю. У одному з прикладів хтось через анонімну електронну пошту та VPN надіслав тисячі повідомлень, щоб отримати допомогу у дослідженні високо заразного вірусу грипу.
У іншому випадку, за словами Anthropic, науковець хотів скористатися Claude, щоб скласти заявку на фінансування дослідження вірусу, яке мало відбуватися у військовому закладі. Компанія заблокувала доступ через обережність, хоча не було зрозуміло, чи були наміри шкідливими.
У звіті також йдеться про спроби використання Claude для розробки звичайної зброї, зокрема ракет і дронів групами в Ємені, а також про протиторпедну техніку з Китаю. Крім того, ШІ, за даними Anthropic, використовували групи з зв’язками з Росією та Іраном для шпигунства та пропаганди.
Anthropic також звинувачує китайські компанії, такі як Moonshot і Deepseek, у таємному перенаправленні запитів до Claude для тренування власних моделей ШІ. Ці звинувачення не вдалося незалежно перевірити за наявними джерелами.
Джейкоб Кляйн, який відповідає за аналіз загроз у Anthropic, сказав виданню New York Times, що це «неймовірно багатогранна ситуація», оскільки ті самі відомості можна використати як для зброї, так і для вакцин.
Звіт з’явився невдовзі після того, як колишній провідний дослідник з питань безпеки в Anthropic публічно попередив про ризики ШІ для людства.
ЧОМУ ЦЕ ВАЖЛИВО
Звіт показує, що моделі ШІ вже цілеспрямовано використовуються для небезпечних цілей, таких як дослідження біозброї та озброєння, навіть якщо постачальники намагаються цьому завадити.
ЩО ВИ МОЖЕТЕ ЗРОБИТИ ЗАРАЗ
- Будь скептичним до відповідей ШІ про небезпечні речовини Якщо ШІ надає тобі інформацію про хімікати, віруси чи зброю, завжди перевіряй ці дані в офіційних надійних джерелах. Не покладайся лише на чат-бот.
- Повідомляй про підозріле використання послуг ШІ Якщо ти помічаєш, що хтось намагається використати ШІ у небезпечних цілях, можеш повідомити про це постачальнику послуги або органам влади. Багато компаній пропонують спеціальні форми для повідомлень.
- Читай звіти про безпеку великих постачальників ШІ Компанії, такі як Anthropic, регулярно публікують звіти про виявлений зловживання їхніми ШІ. Ознайомлення з ними допоможе тобі дізнатися про можливі ризики та те, як серйозно до них ставляться.
- Користуйся послугами ШІ лише через офіційні канали Уникай сумнівних перепродавців або анонімних способів доступу до інструментів ШІ, оскільки їх часто використовують, щоб обійти правила безпеки. Реєструйся під своїм справжнім ім’ям у надійних постачальників.