Google, OpenAI ve Anthropic yapay zeka güvenliği üzerinde görüşüyor
OpenAI, TechCrunch’a göre Salı günü şirketin politika sorumlusu Chris Lehane tarafından yapılan açıklamada, son haftalarda rakip şirketler Anthropic ve Google DeepMind ile yapay zeka geliştirme sürecindeki güvenlik konularını tartıştığını doğruladı.
The Information dergisinin iç kaynaklara dayanan haberine göre, bu görüşmeler Temmuz ayından beri devam ediyor. Bu görüşmelerin amacı, yapay zeka sistemleri için güvenlik standartlarını denetleyecek ortak bir organizasyon kurmak.
Kamuoyundaki tartışmayı, Anthropic’in CEO’su Dario Amodei’nin Cumartesi günü yayınladığı bir makale başlattı. Amodei, yapay zeka geliştirme hızının yavaşlatılması gerektiğini ve böylece güvenlik risklerinin daha iyi yönetilebileceğini savundu. heise’e göre, daha önce bir Anthropic çalışanı şirketten ayrılmış ve güvenlik konularının yeterince dikkate alınmadığını kamuoyuna açıklamıştı.
Amodei’nin çağrısını, OpenAI’den Sam Altman ve Google’dan Demis Hassabis de destekledi. TechCrunch’a göre Altman, OpenAI’nin güvenlik süreçlerine bağımsız denetçiler dahil etmek istediğini açıkladı.
Raporlara göre, böyle bir iş birliğinin rekabet hukukuna aykırı olup olmayacağı belirsiz. Amodei, bunun için devlet tarafından bir muafiyet önerdi, ancak Lehane böyle bir muafiyetin gerekli olmadığını belirtti.
TechCrunch’a göre, Başkan Trump yönetimi, güvenlik endişelerine karşı şüpheci bir tutum sergiledi ve yavaşlamanın Çin’e avantaj sağlayabileceği uyarısında bulundu. heise’e göre, Meta’nın da ulusal bir denetim kurumuna karşı eleştirel bir tutumu olduğu belirtiliyor.
Planlanan güvenlik organizasyonunun gerçekten kurulup kurulmayacağı ve ne zaman kurulacağı belirsiz. Çünkü birçok bilgi anonim kaynaklara dayanıyor ve ilgili şirketler şu ana kadar sadece kısmen kamuoyuna açıklama yaptılar.
NEDEN ÖNEMLİ
Bu, en büyük yapay zeka şirketlerinin kendi teknolojilerinin riskleriyle nasıl başa çıktığını ve bağımsız bir denetimin ortaya çıkıp çıkmayacağını gösteriyor.
ŞİMDİ NE YAPABİLİRSİN
- KI haberlerine karşı eleştirel olun KI güvenliği hakkında birkaç güvenilir kaynaktan haberleri karşılaştırın. Böylece bir haberin gerçekten doğrulanmış mı yoksa sadece söylentilere mi dayandığını anlayabilirsiniz.
- Bağımsız denetimlere dikkat edin Bir KI sağlayıcısının bağımsız denetçiler veya denetim kuruluşları kullanıp kullanmadığını kontrol edin. Bu, bir şirketin güvenliği ne kadar ciddiye aldığını gösterir.
- Gerçek düzenlemeleri, sadece duyuruları takip edin Yetkili kurumlardan veya güvenilir medyadan, KI için gerçekten kabul edilen yasaları veya standartları öğrenin. Sadece şirketlerin açıklamalarına güvenmeyin.
- KI hizmetlerini bilinçli ve ölçülü kullanın Güvenlik önlemleri hakkında açıkça bilgi veren sağlayıcıları tercih edin. Kullanmadan önce, hangi verileri girdiğinizi ve şirketin bunları nasıl kullandığını düşünün.