Anthropic estää yrityksiä käyttää Claudea bioaseiden kehittämiseen
Anthropic on julkaissut raportin, jossa yhtiö kuvailee, miten se havaitsi ja esti joulukuusta 2025 elokuuhun 2026 ulottuvalla ajanjaksolla yrityksiä käyttää sen KI-mallia Claudea vaarallisiin tarkoituksiin.
Anthropicin mukaan näihin kuului viisi tapausta, joissa ihmiset yrittivät käyttää Claudea biologisten aseiden tutkimukseen. Yhdessä esimerkissä joku käytti anonyymistä sähköpostiosoitetta ja VPN:ää lähettääkseen tuhansia viestejä saadakseen apua erittäin tarttuvan influenssaviruksen tutkimiseen.
Toisessa tapauksessa Anthropicin mukaan yksi tutkija halusi Clauden avulla muotoilla rahoitushakemuksen virustutkimukseen, joka olisi tehty sotilaitoksessa. Yhtiö esti pääsyn varotoimenpiteenä, vaikka haitallinen aikomus jäi epäselväksi.
Raportissa mainitaan myös yrityksiä käyttää Claudea perinteisten aseiden, kuten ohjusten ja droonien, kehittämiseen Jemenissä toimivien ryhmien toimesta sekä kiinalaisten Anti-Torpedo-tekniikoiden kehittämiseen. Lisäksi KI:tä on Anthropicin mukaan käytetty Venäjään ja Iraniin liittyvien ryhmien vakoiluun ja propagandaan.
Anthropic syyttää lisäksi kiinalaisia yrityksiä, kuten Moonshotia ja Deepseekia, siitä, että ne ovat ohjanneet salassa pyyntöjä Claudelle omien KI-mallien kouluttamiseksi. Näitä väitteitä ei ole voitu riippumattomasti varmistaa saatavilla olevien lähteiden perusteella.
Jacob Klein, joka vastaa Anthropicissa uhka-analyysistä, sanoi New York Timesin mukaan, että kyseessä on ”uskomattoman monitahoinen tilanne”, sillä samat tiedot voisivat olla hyödynnettävissä sekä aseiden että rokotteiden kehittämisessä.
Raportti julkaistiin pian sen jälkeen, kun entinen Anthropicin turvallisuustutkija varoitti julkisesti KI:n riskeistä ihmiskunnalle.
MIKSI TÄMÄ ON TÄRKEÄÄ
Raportti osoittaa, että KI-malleja yritetään jo tahallisesti käyttää vaarallisiin tarkoituksiin, kuten bioaseiden ja aseiden tutkimukseen, vaikka tarjoajat yrittävät estää tämän.
MITÄ VOIT TEHDÄ NYT
- Ole skeptinen KI:n vastauksia vaarallisiin aineisiin liittyen Jos KI antaa sinulle tietoja kemikaaleista, viruksista tai aseista, tarkista tiedot aina luotettavista virallisista lähteistä. Älä luota pelkästään chatbottiin.
- Ilmoita epäilyttävästä KI-palvelun käytöstä Jos huomaat, että joku yrittää käyttää KI:tä vaarallisiin tarkoituksiin, voit ilmoittaa siitä palveluntarjoajalle tai viranomaisille. Monet yritykset tarjoavat tähän erityisiä ilmoituslomakkeita.
- Lue suuren KI-tarjoajan turvallisuusraportteja Yritykset, kuten Anthropic, julkaisevat säännöllisesti raportteja havaituista KI:n väärinkäytöksistä. Niiden lukeminen näyttää, millaisia riskejä on olemassa ja kuinka vakavasti niitä otetaan.
- Käytä KI-palveluja vain virallisten kanavien kautta Vältä epäilyttäviä jälleenmyyjiä tai anonyymejä pääsyjä KI-työkaluihin, sillä niitä käytetään usein turvallisuussääntöjen kiertämiseen. Rekisteröidy oikealla henkilöllisyydellä luotettavien tarjoajien palveluihin.