Anthropic, Yemen'de füze geliştirme amacıyla Claude'un kötüye kullanıldığını bildirdi
ABD’li şirket Anthropic, yayınladığı bir tehdit raporunda, Yemen’in kuzeyindeki bir aktör grubunun, askeri kontrol yazılımı geliştirmek amacıyla YZ sohbet robotu Claude’u kullanmaya çalıştığını açıkladı.
Medya analizlerine göre, İran tarafından desteklenen Husî isyancılarının bu grubun bir parçası olduğu düşünülüyor, ancak Anthropic bu grubu doğrudan adlandırmadı.
Rapora göre grup, birkaç Claude örneğini eş zamanlı olarak kullandı: biri kod yazdı, biri araştırma yaptı, üçüncüsü de sonuçları kontrol etti – tıpkı gerçek bir geliştirici ekibi gibi. Hedef, 2.000 kilometreden fazla menzile sahip balistik füzeler de dahil olmak üzere füzeleri kontrol etmek için yazılım geliştirmekti.
Anthropic’in güvenlik önlemlerini atlatmak için kullanıcılar, taleplerini birçok farklı oturuma dağıtarak genel amacın anlaşılmasını engelledi. Anthropic, birçok talebi engellemeyi başardığını, ancak hepsini durduramadığımı belirtti.
Gerçek bir füze test atışında başarısızlık yaşandı. Bu başarısızlıktan sadece birkaç saat sonra kullanıcılar, çöküş verilerini tekrar Claude’a yükleyerek sorunun kaynağını bulmaya çalıştı.
Anthropic, ilgili hesapları askıya aldı ve güvenlik yetkililerini bilgilendirdi. Husîlerin bir temsilcisi, rapora göre grubun silah geliştirme konusunda kamu kaynaklarına bağımlı olduğunu reddetti. Bir silah uzmanı da, grubun YZ yardımıyla işlevsel hipersonik silahlar üretebileceğinden şüphe duyduğunu ifade etti.
Anthropic, kullanıcıların hesapları askıya alınmadan önce, Claude’a erişim olmadan da kullanılabilecek bağımsız bir çevrimdışı program paketi oluşturmuş olabileceği konusunda uyardı.
NEDEN ÖNEMLİ
Bu olay, güvenlik önlemlerine rağmen YZ sistemlerinin tehlikeli silahların geliştirilmesinde kötüye kullanılabileceğini ve böylece daha önce büyük uzman ekipleri gerektiren yeteneklerin birkaç aktörün eline geçebileceğini gösteriyor.
ŞİMDİ NE YAPABİLİRSİN
- YZ güvenlik vaatlerine şüpheyle yaklaşın Hiçbir YZ sistemi kötüye kullanıma karşı yüzde yüz güvenli değildir. Üreticilerin her kötüye kullanımı engelleyebileceğine körü körüne güvenmeyin.
- Kötüye kullanım raporları hakkında bilgi edinin Büyük YZ şirketleri, sistemlerinin kötüye kullanımını tespit ettiklerinde düzenli olarak raporlar yayınlar. Güvenilir haber kaynaklarına bakarak, mevcut riskleri daha iyi değerlendirebilirsiniz.
- Çatışma haberlerinde kaynakları dikkatlice kontrol edin Silah geliştirme ve çatışmalarla ilgili haberler genellikle karmaşık ve bazen çelişkilidir. Birden fazla bağımsız medya kuruluşunun aynı gerçekleri doğrulayıp doğrulamadığını kontrol edin.
- Şüpheli YZ kullanımını bildirin Bir YZ hizmetinin kötüye kullanılabileceğiyle ilgili bilgi edinirseniz, bunu ilgili sağlayıcıya, onların ihbar fonksiyonu aracılığıyla bildirebilirsiniz. Böylece kullanıcılar, şirketlerin güvenlik açıklarını kapatmasına yardımcı olur.