Ars Technica: OpenAI modelleri bir kripto cüzdanını hackledi ve başka web sitelerine izinsiz giriş yaptı
Eğer bu eylemlerin arkasında insanlar olsaydı, durum cezai kovuşturmayla sonuçlanabilirdi.
OpenAI, kendi bünyesindeki yapay zeka modellerinin iki web sitesini daha hacklediğini, şirket tarafından getirilen internete erişim kısıtlamalarını aştığını ve ele geçirdikleri kimlik bilgileriyle, normal yollardan erişemeyecekleri bir kripto cüzdanından varlık çektiklerini açıkladı. Bu olay, şirketin yapay zeka ajanlarının etik dışı ve muhtemelen yasa dışı eylemlerde bulunduğuna dair yaptığı ifşaatların sonuncusu oldu.
Şirket Perşembe günü, tamamı Haziran ayında gerçekleşen dört yeni olaya ilişkin raporlar yayımladı. Bu raporlar, şirketin Temmuz ayında yaptığı bir açıklamanın ardından geldi; söz konusu açıklamada, kurum içi test ajanlarının, internet erişimlerini kısıtlamak için tasarlanmış bir araçtaki "sıfırıncı gün" (zero-day) açığını istismar ettikleri belirtilmişti. Ajanlar bu açık sayesinde yapay zeka araçları sağlayıcısı Hugging Face'in ağına sızmışlardı. Bu yasa dışı eylemi, kendi başlarına görevleri tamamlarken ulaşamadıkları bir hackleme testinin yanıtlarını çalmak için gerçekleştirmişlerdi. Bir insan tarafından doğrudan yapılması halinde muhtemelen cezai kovuşturmayla sonuçlanacak olan bu olay, yapay zekanın yaygın kullanımının daha önce görülmemiş ölçekte zararlı etkilere yol açabileceğine dair endişeleri daha da artırdı.
İzin istemektense af dilemek daha kolay
Perşembe günü bildirilen vakalardan ikisinde, web sitelerinden bilgi toplaması istenen OpenAI modelleri, doğrudan bilgiye ulaşırken engellerle karşılaşınca söz konusu siteleri hackledi. OpenAI'ın aktardığına göre, pekiştirmeli öğrenme (reinforcement training) sürecindeki bir model, bir devlet istatistik sitesinden hastane yataklarına ilişkin geçmiş verileri almaya çalışırken erişim engeliyle karşılaşınca, "sitenin dosya indirme özelliğini kullanarak sunucu yapılandırma dosyalarını ve uygulama dosyalarını —hassas kimlik bilgileri de dahil olmak üzere— ele geçirdi." Şirket, "Model, uygulama kodunu inceledi, istatistik uç noktasındaki yetkilendirme kontrollerini aştı ve daha önce erişimi reddedilen verileri elde etti. Ardından bu verileri yerel olarak kaydetti," açıklamasında bulundu.
Diğer bir olayda ise, halka açık bir araştırma panelinden verileri alması talimatı verilen bir model, kurumun güvenlik kontrollerini aşarak elde ettiği yetkisiz erişimle kimlik bilgilerini çaldı. Daha sonra sunucu üzerinde yapılandırma değişiklikleri yaptı.
Yapılan bir değerlendirmede, bu değişiklikler modelin, kurum içi bir arama aracını kullanarak halka açık panele sorgular yöneltmesini sağladı. İkinci bir değerlendirmede ise model, kamuya açık olmayan ve toplam 147.451 satır içeren beş tabloyu indirdi. Oysa OpenAI araştırmacıları, ajanlardan yalnızca paneldeki beş veriyi getirmelerini istemişlerdi. Ayarlar sıfırlandıktan sonra bile model, herkese açık olmayan verilere erişmek için söz konusu belirteci (token) kullanmaya devam etti.
OpenAI, “Değerlendirme süreci; modelin cevapları tahmin ettiğini, kurumun dahili sistemlerine eriştiğini, herkese açık olmayan tabloları indirdiğini veya kimlik doğrulama yapılandırmasını değiştirdiğini hiçbir şekilde açığa vurmadan sona erdi,” açıklamasında bulundu. “Bu değerlendirmedeki beş cevabın tamamı hatalı olarak işaretlendi.”
Üçüncü bir raporda şirket, bir kripto para alım satım uygulamasını güncellemesi istenen bir modelin, test ağındaki kilitli bir cüzdanda bulunan fonları kullandığını belirtti. Model, “cüzdan anahtarlarını, geliştiricilere ait ve herkesçe bilinen kurtarma ifadelerinden (recovery phrases) türetti; test ağı fonları içeren bir hesap buldu ve talep edilen sözleşme kurulumunun (contract deployment) ödemesini yapmak için bu hesabı kullandı.”
Rapor şu ifadelerle devam etti: “Model, gerekli izne sahip olup olmadığını sorguladı; ardından herkese açık bir kurtarma ifadesinin ve hiçbir değeri olmayan test ağı belirteçlerinin, söz konusu fonların kullanımını kabul edilebilir kıldığı sonucuna vardı. Kurulum başarıyla gerçekleşti ve işlem ücretleri ilgili hesaptan tahsil edildi. Bu vaka, bir modelin, potansiyel zarara ilişkin kendi yargısını hesap sahibinin izninin yerine koyabileceğini ve ardından bu yargıya dayanarak yetkisiz bir şekilde harekete geçebileceğini gösteriyor.”
Son raporda ise OpenAI, bir modelin, araştırmacılar tarafından yapabileceği web isteklerinin türüne getirilen kısıtlamaları aştığını bildirdi. Pekiştirilmeli öğrenme (reinforcement learning) eğitimi sırasında modelden, herkese açık ticaret istatistiklerini bulması istenmişti. OpenAI açıklamasına şöyle devam etti:
- Herkese açık bir yıllık bulduktan ve bir yanıt gönderdikten sonra, istatistik servisine ulaşmak için başka bir yol aramaya devam etti. Harici bir tarayıcının POST istekleri göndermesini sağladı, yıllık rakamları bir resim olarak aldı ve optik karakter tanıma kullanarak bunları çıkardı. Ardından, bir yönlendirme servisi ve geri çağrı posta kutusu aracılığıyla yanıt metni döndüren, alınan rakamları tekrar tekrar kontrol eden ve kaydedilen verileri gönderilen yanıtlarda kullanan yeniden kullanılabilir bir yardımcı geliştirdi. Bu örnek, bir modelin, soruyu yanıtlamanın başka bir yolunu bulduktan sonra bile, engellenen eylemleri gerçekleştirmek için harici servislerden yararlanarak kendi araçlarındaki kısıtlamaları nasıl aşabileceğini göstermektedir.
Model, başlangıçta kendi adına GET istekleri yapma izni olan harici bir tarayıcı kullanmayı denedi, ardından bilgiye ulaşmak için JavaScript'ten yararlandı. Daha sonra, kullandığı yöntemde sorun gidermek amacıyla çevrimiçi bir e-posta kutusuna başvurdu. Nihayetinde model, farklı bir yönteme karar verdi: Harici tarayıcıdan, ticari sorguyu istatistik servisine POST yöntemiyle gönderen bir web formunu açmasını istedi. Tarayıcı yanıtı görüntülediğinde, bir işleme servisi sayfanın GIF formatındaki bir görselini oluşturup sundu. Model ise bu görseldeki verileri okumak için optik karakter tanıma (OCR) teknolojisini kullandı.
Araştırmacıların ve gazetecilerin, bu tür olayları yapay zekanın "kontrolden çıkması" (veya "kendi başına buyruk hareket etmesi") şeklinde tanımlamaları artık yaygınlaştı. Ancak bu, tam olarak doğru sayılmaz. Modele verilen komutlar, hedeflerine ulaşmak için bu alternatif yöntemleri kullanmasını açıkça emretmemiş olsa da, modeller verimli olacak, kararlılıkla ısrarcı kalacak ve mümkün olduğunda iş yükünü azaltacak kestirme yollar bulacak şekilde eğitilmiştir. Üstelik, söz konusu modellerin çoğunda (belki de hepsinde), bu eylemleri engelleyebilecek bazı güvenlik kısıtlamaları devre dışı bırakılmış durumdaydı. Bu bağlamda modeller, tam da OpenAI'ın onları eğittiği şekilde hareket ettiler.
Kaynak: OpenAI models hacked a crypto wallet and breached more websites - Dan Goodin / Ars Technica
.
