Anthropic blokir upaya penggunaan Claude untuk senjata biologis
Anthropic menerbitkan laporan yang menjelaskan bagaimana perusahaan menemukan dan menghentikan upaya penggunaan model KI Claude untuk tujuan berbahaya antara Desember 2025 dan Agustus 2026.
Menurut Anthropic, ada lima kasus di mana orang mencoba menggunakan Claude untuk meneliti senjata biologis. Dalam salah satu contoh, seseorang menggunakan alamat email anonim dan VPN untuk mengirim ribuan pesan guna meminta bantuan penelitian virus flu yang sangat menular.
Dalam kasus lain, seorang ilmuwan berusaha menggunakan Claude untuk menyusun proposal pendanaan penelitian virus yang akan dilakukan di fasilitas militer. Anthropic memblokir aksesnya sebagai tindakan pencegahan, meskipun niat sebenarnya tidak jelas apakah berbahaya.
Laporan tersebut juga menyebutkan upaya penggunaan Claude untuk pengembangan senjata konvensional, seperti rudal dan drone oleh kelompok di Yaman, serta teknologi anti-torpedo dari Tiongkok. Selain itu, KI tersebut juga dimanfaatkan oleh kelompok yang terkait dengan Rusia dan Iran untuk kegiatan mata-mata dan propaganda.
Anthropic juga menuduh perusahaan Tiongkok seperti Moonshot dan Deepseek secara diam-diam mengalihkan permintaan ke Claude untuk melatih model KI mereka sendiri. Tuduhan ini tidak dapat diverifikasi secara independen dari sumber yang tersedia.
Jacob Klein, yang bertanggung jawab atas analisis ancaman di Anthropic, mengatakan kepada New York Times bahwa ini adalah "situasi yang sangat kompleks", karena informasi yang sama dapat digunakan untuk senjata maupun vaksin.
Laporan ini dirilis tidak lama setelah mantan peneliti keamanan senior Anthropic memperingatkan publik tentang risiko KI bagi kemanusiaan.
MENGAPA INI PENTING
Laporan ini menunjukkan bahwa model KI sudah disalahgunakan secara sengaja untuk tujuan berbahaya seperti penelitian senjata biologis dan senjata lainnya, meskipun penyedia berusaha mencegahnya.
YANG BISA ANDA LAKUKAN SEKARANG
- Tetap skeptis terhadap jawaban KI tentang bahan berbahaya Jika KI memberikan informasi tentang bahan kimia, virus, atau senjata, selalu verifikasi informasi tersebut melalui sumber resmi yang terpercaya. Jangan hanya mengandalkan chatbot.
- Laporkan penggunaan KI yang mencurigakan Jika Anda mengetahui seseorang menggunakan KI untuk tujuan berbahaya, Anda dapat melaporkannya kepada penyedia layanan atau otoritas berwenang. Banyak perusahaan menyediakan formulir pelaporan khusus untuk ini.
- Baca laporan keamanan dari penyedia KI besar Perusahaan seperti Anthropic secara rutin menerbitkan laporan tentang penyalahgunaan KI yang terdeteksi. Membaca laporan ini akan memberi Anda gambaran tentang risiko yang ada dan seberapa serius mereka ditangani.
- Gunakan layanan KI hanya melalui akses resmi Hindari penjual ulang yang mencurigakan atau akses anonim ke alat KI, karena ini sering digunakan untuk menghindari aturan keamanan. Daftarkan diri Anda dengan identitas asli di penyedia layanan yang terpercaya.