Anthropic, Claude'ün biyolojik silahlar için kullanılmasını engelledi
Anthropic, Aralık 2025 ile Ağustos 2026 arasında Claude adlı KI modelini tehlikeli amaçlar için kullanma girişimlerini tespit edip durdurduğunu açıklayan bir rapor yayınladı.
Anthropic'e göre, bu girişimler arasında beş durumda insanların Claude'u biyolojik silahlar üzerinde araştırma yapmak için kullanmaya çalıştıkları yer alıyordu. Örneğin, biri anonim bir e-posta adresi ve VPN kullanarak, yüksek bulaşıcı bir grip virüsünü araştırmak için binlerce mesaj aracılığıyla yardım istedi.
Başka bir durumda ise Anthropic'e göre, bir bilim insanı Claude'u, askeri bir tesisde gerçekleştirilmesi planlanan bir virüs araştırması için hibe başvurusu hazırlamak istedi. Şirket, niyetin zararlı olup olmadığı belirsiz olsa da, ihtiyati olarak erişimi engelledi.
Raporda ayrıca, Claude'un konvansiyonel silahlar geliştirmek için kullanılması da yer alıyor. Örneğin Yemen'deki gruplar tarafından roket ve insansız hava araçları (İHA) için, Çin'den ise anti-torpid teknolojisi için kullanım girişimleri belirtildi. Ayrıca, Anthropic'e göre, Rusya ve İran ile bağlantılar olan gruplar da KI'yi casusluk ve propaganda amaçları için kullandı.
Anthropic ayrıca, Moonshot ve Deepseek gibi Çinli şirketlerin, Claude'a gizlice istekler yönlendirerek kendi KI modellerini eğitmekle suçluyor. Ancak bu iddialar, mevcut kaynaklardan bağımsız olarak doğrulanamadı.
Anthropic'te tehdit analizlerinden sorumlu Jacob Klein, New York Times'a yaptığı açıklamada, durumu "inançılmaz derecede karmaşık bir durum" olarak nitelendirdi. Klein, aynı bilgilerin hem silah hem de aşı geliştirmek için kullanılabileceğini belirtti.
Rapor, Anthropic'in eski bir baş güvenlik araştırmacısının, KI'nin insanlık için taşıdığı riskler konusunda kamuoyunu uyarmasının ardından yayınlandı.
NEDEN ÖNEMLİ
Bu rapor, KI modellerinin biyolojik silah ve silah araştırmaları gibi tehlikeli amaçlar için bile bile kötüye kullanıldığını, sağlayıcıların bunu engellemeye çalışsa bile, gösteriyor.
ŞİMDİ NE YAPABİLİRSİN
- KI’nin kimyasallar, virüsler veya silahlar hakkında verdiği bilgilere karşı şüpheci ol KI’nin bu konulardaki yanıtlarını her zaman resmi ve güvenilir kaynaklardan kontrol et. Sadece chatbota güvenme.
- KI’nin tehlikeli amaçlarla kullanıldığını düşünüyorsan bunu sağlayıcıya veya yetkililere b Birçok firma bu tür durumlar için özel ihbar formları sunuyor.
- Büyük KI sağlayıcılarının güvenlik raporlarını oku Anthropic gibi firmalar, KI’nin kötüye kullanımını tespit ettiklerinde düzenli olarak raporlar yayınlıyor. Bu raporlar, hangi risklerin olduğunu ve bunların ne kadar ciddiye alındığını gösteriyor.
- KI hizmetlerini yalnızca resmi kanallar üzerinden kullan Şüpheli aracılar veya anonim KI erişimlerinden kaçın, çünkü bunlar genellikle güvenlik kurallarını atlatmak için kullanılıyor. Güvenilir sağlayıcılarda gerçek kimliğinle kayıt ol.