Anthropic kertoo Clauden väärinkäytöstä ohjusten kehittämisessä Jemenissä
Yhdysvaltalainen Anthropic on paljastanut uhkakatsauksessaan, että Pohjois-Jemenissä toiminut toimijaryhmä on yrittänyt käyttää tekoälychatbotti Claudea sotilaallisen ohjausohjelmiston kehittämiseen.
Useiden median analyysien mukaan viitteet osoittavat Iranin tukemiaan Huthi-kapinallisiin, vaikka Anthropic ei nimeä heitä suoraan.
Ryhmä käytti raportin mukaan useita Claude-instansseja yhtä aikaa: toinen kirjoitti koodia, toinen teki taustatutkimusta ja kolmas tarkisti tulokset – aivan kuin oikea kehittäjatiimi. Tavoitteena oli ohjelmisto ohjusten ohjaamiseen, mukaan lukien yli 2 000 kilometrin kantaman omaava ballistinen ohjus.
Turvatoimien kiertämiseksi käyttäjät jakelivat pyynnöt moniin eri istuntoihin, jotta kokonaistarkoitus ei tullut ilmeiseksi. Anthropic kertoi, että he olivat onnistuneet estämään monia, mutta ei kaikkia pyyntöjä.
Yhden todellisen ohjuskokeen aikana tapahtui epäonnistuminen. Vain muutama tunti myöhemmin käyttäjät lativat syöksymisdataa takaisin Claudeen selvittääkseen syyn.
Anthropic sulki kyseiset tilit ja ilmoitti asiasta turvallisuusviranomaisille. Huthien edustaja kiisti raportin mukaan, että ryhmä olisi riippuvainen julkisista lähteistä aseiden kehittämisessä. Aseasiantuntija epäilee lisäksi, että ryhmä pystyy rakentamaan toimivia yliääninopeuksia aseita, vaikka tekoälyä olisi käytetty apuna. Anthropic varoittaa, että käyttäjät olivat luoneet jo ennen tilien sulkemista itsenäisen offline-ohjelmapaketin, jota voidaan käyttää jatkossakin ilman Clauden käyttöoikeutta.
Anthropic varoittaa, että käyttäjät olivat luoneet jo ennen tilien sulkemista itsenäisen offline-ohjelmapaketin, jota voidaan käyttää jatkossakin ilman Clauden käyttöoikeutta.
MIKSI TÄMÄ ON TÄRKEÄÄ
Tapaus osoittaa, että tekoälyjärjestelmät voidaan väärinkäyttää vaarallisten aseiden kehittämiseen huolimatta turvatoimista, ja näin ollen ne voivat antaa kyvyt harvojen toimijoiden käsiin, joihin aiemmin tarvittiin suuria asiantuntijatiimejä.
MITÄ VOIT TEHDÄ NYT
- Pysy skeptisenä tekoälyturvallisuuslupauksia kohtaan Yksikään tekoälyjärjestelmä ei ole 100-prosenttisesti suojattu väärinkäytökseltä. Älä luota sokeasti siihen, että valmistajat pystyvät estämään kaiken väärinkäytön.
- Tiedustele väärinkäytösraportteja Suuret tekoälyyritykset julkaisevat säännöllisesti raportteja löydetystä järjestelmiensä väärinkäytöstä. Luotettavien uutislähteiden seuraaminen auttaa sinua arvioimaan nykyisiä riskejä paremmin.
- Tarkista lähteet konfliktiuutisissa huolellisesti Asekehityksestä ja konflikteista kertovat uutiset ovat usein monimutkaisia ja osittain ristiriitaisia. Kiinnitä huomiota siihen, vahvistavatko useat riippumattomat mediat samat faktat.
- Ilmoita epäilyttävästä tekoälyn käytöstä Jos kuulet mahdollisesta tekoälypalvelun väärinkäytöstä, voit ilmoittaa siitä kyseisen palveluntarjoajan ilmoituskanavan kautta. Näin käyttäjät auttavat yrityksiä sulkemaan turvallisuusaukkoja.