Anthropic laporkan penyalahgunaan Claude untuk pengembangan rudal di Yaman
Perusahaan AS, Anthropic, mengungkapkan dalam laporan ancaman bahwa sebuah kelompok aktor di utara Yaman mencoba menggunakan chatbot KI Claude untuk mengembangkan perangkat lunak kendali militer.
Berdasarkan analisis media yang sepakat, banyak indikasi mengarah kepada pemberontak Huthi yang didukung Iran, meskipun Anthropic tidak menyebutkan nama kelompok tersebut secara langsung.
Menurut laporan, kelompok tersebut menggunakan beberapa instans Claude secara bersamaan: satu untuk menulis kode, satu untuk penelitian, dan satu lagi untuk memeriksa hasil—mirip dengan tim pengembang sungguhan. Tujuannya adalah mengembangkan perangkat lunak untuk mengendalikan rudal, termasuk rudal balistik dengan jangkauan lebih dari 2.000 kilometer.
Untuk menghindari langkah-langkah keamanan Anthropic, pengguna tersebut membagi permintaan mereka ke dalam banyak sesi terpisah, sehingga tujuan keseluruhan tidak terlihat. Anthropic menyatakan, meskipun banyak permintaan yang berhasil dicegah, tidak semuanya dapat terdeteksi.
Saat uji coba peluncuran rudal sungguhan, terjadi kegagalan. Beberapa jam kemudian, pengguna tersebut mengunggah data kecelakaan ke Claude untuk mencari tahu penyebabnya.
Anthropic memblokir akun-akun yang terlibat dan memberitahu otoritas keamanan. Menurut laporan, seorang perwakilan Huthi membantah bahwa kelompoknya bergantung pada sumber terbuka untuk pengembangan senjata. Selain itu, seorang ahli senjata meragukan bahwa kelompok tersebut, meskipun dengan bantuan KI, benar-benar mampu membuat senjata hipersonik yang berfungsi.
Anthropic memperingatkan bahwa pengguna telah membuat paket program offline mandiri sebelum akun diblokir, yang dapat terus digunakan tanpa akses ke Claude di masa mendatang.
MENGAPA INI PENTING
Kasus ini menunjukkan bahwa sistem KI, meskipun dilengkapi dengan langkah-langkah keamanan, tetap dapat disalahgunakan untuk mengembangkan senjata berbahaya. Hal ini memberikan kemampuan kepada sejumlah kecil aktor yang sebelumnya memerlukan tim ahli besar.
YANG BISA ANDA LAKUKAN SEKARANG
- Tetap skeptis terhadap janji keamanan KI Tidak ada sistem KI yang sepenuhnya aman dari penyalahgunaan. Jangan sepenuhnya bergantung pada klaim pabrikan bahwa mereka dapat mencegah semua penyalahgunaan.
- Cari tahu tentang laporan penyalahgunaan Perusahaan KI besar secara teratur menerbitkan laporan tentang penyalahgunaan yang ditemukan pada sistem mereka. Membaca berita dari sumber terpercaya membantu Anda menilai risiko saat ini dengan lebih baik.
- Periksa sumber berita konflik dengan teliti Laporan tentang pengembangan senjata dan konflik seringkali rumit dan kadang bertentangan. Pastikan apakah beberapa media independen mengonfirmasi fakta yang sama.
- Laporkan penggunaan KI yang mencurigakan Jika Anda mengetahui kemungkinan penyalahgunaan layanan KI, Anda dapat melaporkannya kepada penyedia layanan tersebut melalui fitur pelaporan. Dengan begitu, pengguna membantu perusahaan menutup celah keamanan.