Şirketin açıklamasına göre, test ortamında çalışan yapay zeka modeli, belirlenen sınırları aşarak güvenlik açıklarını değerlendirmek amacıyla Hugging Face'in bazı sistemlerine erişim girişiminde bulundu.
OpenAI, olayın kontrollü bir güvenlik testi sırasında gerçekleştiğini ve herhangi bir gerçek kullanıcıyı hedef almadığını belirtti.
Şirket, yaşananları "benzeri görülmemiş" olarak nitelendirirken, Hugging Face ile birlikte olayın tüm yönlerinin incelendiğini açıkladı.
Hugging Face CEO'su Clement Delangue da olayın şaşırtıcı olduğunu belirterek, soruşturmanın sürdüğünü ve elde edilen yeni bilgilerin kamuoyuyla paylaşılacağını söyledi.
Uzmanlara göre olay, otonom yapay zeka sistemlerinin giderek daha karmaşık hale geldiğini ve mevcut güvenlik testlerinin daha güçlü koruma mekanizmalarına ihtiyaç duyduğunu gösteriyor.
Cambridge Üniversitesi'nden araştırmacılar, yapay zekanın test ortamındaki güvenlik açıklarını kullanarak kısıtlamaları aşmasının dikkat çekici olduğunu ancak bu tür davranışların gelişmiş modeller için tamamen beklenmedik olmadığını ifade etti.
İngiltere Yapay Zeka Güvenlik Enstitüsü de olayı incelemeye aldığını duyururken, siber güvenlik uzmanları kuruluşların yapay zeka destekli tehditlere karşı savunmalarını güçlendirmesi gerektiğini vurguladı.
Hugging Face ise olay sonrası tespit edilen güvenlik açıklarının kapatıldığını, etkilenen sistemlerin yeniden yapılandırıldığını ve şu ana kadar kullanıcı verilerinin etkilenip etkilenmediğine ilişkin incelemelerin devam ettiğini açıkladı.
Yaşanan gelişme, yapay zeka sistemlerinin gelecekte siber güvenlik alanında oluşturabileceği riskler ve bu teknolojilerin nasıl denetlenmesi gerektiği konusunda yeni tartışmaları da beraberinde getirdi.