Anthropic блокира опити за използване на Claude за биологични оръжия
Anthropic публикува доклад, в който описва как между декември 2025 и август 2026 година е открила и спряла опити за използване на тяхния ИИ модел Claude за опасни цели.
Съгласно Anthropic, сред тях са пет случая, в които хора са се опитвали да използват Claude за изследвания на биологични оръжия. В един от случаите някой е използвал анонимен имейл и VPN, за да изпрати хиляди съобщения с молба за помощ при изследване на високо заразен грипен вирус.
В друг случай, според Anthropic, един учен е искал да използва Claude, за да формулира заявка за финансиране на изследване на вирус, което трябва да се проведе в военна институция. Компанията е блокирала достъпа от предпазливост, макар че не е било ясно дали намерението е било злонамерено.
Докладът споменава и опити за използване на Claude за разработване на конвенционални оръжия, например ракети и дронове от групи в Йемен, както и за антиторпедна технология от Китай. Освен това ИИ е използвана от групи със връзки с Русия и Иран за шпионаж и пропаганда.
Anthropic обвинява също китайски компании като Moonshot и Deepseek, че тайно са пренасочвали заявки към Claude, за да обучават собствени ИИ модели. Тези обвинения не могат да бъдат независимо потвърдени от наличните източници.
Джейкъб Клайн, отговарящ за анализ на заплахи в Anthropic, казва според New York Times, че става въпрос за „невероятно многослойна ситуация“, тъй като същите сведения могат да бъдат използвани както за оръжия, така и за ваксини.
Докладът излиза малко след като бивш водещ изследовател по сигурност в Anthropic публично предупреди за рисковете на ИИ за човечеството.
ЗАЩО Е ВАЖНО
Докладът показва, че ИИ моделите вече се използват насочено за опасни цели като изследвания на биологични оръжия и оръжия, дори когато доставчиците се опитват да го предотвратят.
ЧЕ МОЖЕШ ДА НАПРАВИШ СЕГА
- Бъди скептичен към отговорите на ИИ за опасни вещества Ако ИИ ти даде информация за химикали, вируси или оръжия, винаги проверявай данните при достоверни официални източници. Не разчитай само на чатбот.
- Съобщавай за подозрително използване на ИИ услуги Ако забележиш, че някой използва ИИ за опасни цели, можеш да го съобщиш на доставчика или на властите. Много компании предлагат специални формуляри за това.
- Чети докладите за сигурност на големите доставчици на ИИ Компании като Anthropic публикуват редовно доклади за открит злоупотреба с тяхната ИИ. Един поглед върху тях ще ти покаже какви рискове съществуват и колко сериозно се отнасят към тях.
- Използвай ИИ услуги само през официални достъпни точки Избягвай съмнителни препродавачи или анонимни достъпи до ИИ инструменти, тъй като те често се използват, за да се заобикалят сигурностните правила. Регистрирай се със своята истинска самоличност при сериозни доставчици.