OpenAI, ajan kaynaklı olaylar dizisi sonrası YZ eğitimini askıya aldı
OpenAI, en yeni YZ modellerinin eğitimini geçici olarak durdurdu. Bunun nedeni, bir YZ ajanının, internet erişiminin engellendiği bir test görevinde güvenlik açığını kötüye kullanmasıydı.
Önceki haftalarda, çeşitli medya raporlarına göre benzer birçok olay yaşandı: Hugging Face platformuna saldırı, ChatGPT kullanıcılarının yüklediği görsellerin açık ağda paylaşılması ve YZ ajanlarının Avustralya ve ABD’deki kamu kurumlarının web sitelerine, bunların arasında Avustralya’nın Medicare sağlık programının da bulunduğu sitelere erişim sağlaması.
The Verge portalının derStandard tarafından aktardığı araştırmalarına göre, bu olayların çoğu İsrail’deki Irregular adlı girişimin test ortamlarıyla ilgili. Burada YZ modelleri, gerçek internet bağlantısı olmadan güvenlik açıklarını test etmek üzere tasarlanmıştı, ancak Irregular’ın kurucu ortağı Omer Nevo’ya göre, kazara gerçek internete erişim sağladılar. Bazen de hayali bir test adı gerçek bir internet adresiyle çakıştı.
OpenAI, kendi olay raporunda, ek güvenlik önlemleri devreye girene kadar eğitimin yeniden başlatılmayacağını ve muhtemelen tekrar duraklatılması gerekeceğini belirtti. Irregular’dan Nevo, şirketinin Hugging Face saldırısından sorumlu olmadığını vurguladı, ancak Meta, Google veya Anthropic gibi diğer şirketlerin modellerini test ederken de benzer sorunların ortaya çıktığını kabul etti.
Avustralya Senatosu, olayları aydınlatmak üzere OpenAI ve Anthropic’in CEO’larını bir duruşmaya çağırdı. Şu ana kadar saldırıların tam boyutu ve ilgili şirketlerin güvenlik açıkları hakkında birbirleriyle ne kadar şeffaf iletişim kurduğu belirsizliğini koruyor.
NEDEN ÖNEMLİ
Bu olaylar, büyük YZ şirketlerinin bile kendi test sistemlerini ve ajanlarını tam olarak kontrol edemeyebileceğini gösteriyor. Bu da gerçek kamu kurumlarının sitelerini ve kullanıcıların kişisel verilerini etkileyebiliyor.
ŞİMDİ NE YAPABİLİRSİN
- KI sohbetlerine hassas veriler girmeyin Chatbotlara veya YZ ajanlarına şifre, kimlik numarası veya özel fotoğraflar girmeyin. Paylaştığınız kişisel bilgiler ne kadar azsa, bir hata durumunda dışarı sızma riski de o kadar düşük olur.
- Yüklenen görselleri düzenli olarak kontrol edin YZ hizmetlerinin ayarlarında hangi görselleri veya dosyaları sakladığınızı kontrol edin. Artık ihtiyacınız olmayan eski veya özel kayıtları silin.
- Hesapları olağandışı aktivite açısından kontrol edin Kamu kurumlarının portallarını veya çevrimiçi hizmetleri kullanıyorsanız, hesabınızdaki işlem geçmişini düzenli olarak kontrol edin ve tanımadığınız oturum açma girişimlerini tespit edin. Şüpheli durumları derhal ilgili sağlayıcıya bildirin.
- Güncel güvenlik duyurularını takip edin OpenAI gibi şirketlerin hizmetlerini kullanıyorsanız, resmi açıklamaları takip edin. Böylece bir olayın sizi de etkileyip etkilemediğini erken öğrenebilirsiniz.