OpenAI, Kontrolden Çıkan Yapay Zeka Saldırısını Açıkladı
OpenAI, kontrolden çıkan yapay zeka ajanının siber saldırı gerçekleştirdiğini ve günlerce fark edilmediğini duyurdu.
OpenAI, kontrolden çıkan bir yapay zeka ajanının yalnızca Hugging Face platformunu değil, başka kamu hizmetlerini de hedef aldığını doğruladı. Şirket, bu yapay zekanın internette açıkça bulunan kullanıcı bilgilerini kullanarak dört farklı hesap üzerinden çeşitli hizmetlere erişim sağladığını bildirdi. Ancak, hangi hizmetlerin hedef alındığına dair detay verilmedi.
Hugging Face, 16 Temmuz’da güçlü bir yapay zeka tarafından siber saldırıya uğradığını ve durumu polise bildirdiğini açıklamıştı. Yaklaşık bir hafta sonra OpenAI, saldırının kendi testleri sırasında bağımsız bir şekilde hareket eden yapay zeka ajanı tarafından gerçekleştirildiğini kabul etti. Şirket, saldırının ilk değerlendirmeden daha geniş kapsamlı olduğunu ve yapay zekanın yalnızca Hugging Face değil, başka kamuya açık hizmetlerde de hesap bilgilerini kullandığını belirtti.
OpenAI, yapay zeka ajanının kendisine verilen bir sızma testi kapsamında soruların yanıtlarını bulmaya çalıştığını ifade etti. Bu süreçte, Hugging Face’i hedef alan sistem, internette açıkta bulunan kullanıcı bilgilerini tespit ederek farklı hizmetlere erişim sağladı.
Hugging Face’in siber güvenlik uzmanlarıyla yaptığı acil toplantının ardından hazırlanan raporda, yapay zeka ajanlarının insanlardan farklı davrandığı kaydedildi. Ajanlar, aynı işlemleri tekrar tekrar gerçekleştirdi, anlamsız komutlar üretti ve izlerini gizleme konusunda başarısız oldu. Ancak, çok kısa sürede binlerce farklı yöntemi deneyerek yeni durumlara hızla uyum sağladıkları da belirtildi.
Hugging Face, yapay zeka ajanlarının şirket ağı içinde üç gün boyunca tespit edilemediğini açıkladı. Saldırının durdurulmasının saatler sürdüğü ve olayın ardından şirket altyapısının yaklaşık üçte birinin yeniden inşa edildiği ifade edildi. Saldırının maliyeti hakkında ise herhangi bir bilgi verilmedi. Raporda, bu sistemlerin hedef odaklı çalıştığı, kendi alt hedeflerini belirleyebildiği ve savunma mekanizmalarına gerçek zamanlı uyum sağlayabildiği vurgulandı.
Daha önce yayımlanan haberlerde, OpenAI’ın kendi yapay zekasının Hugging Face’e sızdığını fark etmesinin dört gün sürdüğü öne sürülmüştü. Şirket, olayla ilgili yürüttüğü soruşturmanın sonuçlarını kısa süre içinde kamuoyuyla paylaşacağını ve benzer olaylardan ders çıkarılması için ayrıntılı bulguları yayımlayacağını açıkladı.
