Ars technica: Araştırmacılara göre OpenAI ve Google, çıplak görsel oluşturmaya kolayca yönlendirilebilen yeni yapay zeka modelleri sunuyor.



Söz konusu saldırı yöntemi, OpenAI ve Google’ın yapay zeka ile çıplak görsel üretimine karşı aldığı önlemlerdeki açıkları gözler önüne seriyor.

Güvenlik araştırmacıları, yapay zeka tarafından üretilen müstehcen içeriklerin denetimsiz bir şekilde hızla yayıldığı konusunda uyarılarını sürdürürken, düzenleyici kurumlar bu durumu durdurmak adına anlamlı bir adım atmıyor.

Google’ın da katkıda bulunduğu ve bu yılın temmuz ayında yayımlanan, Amerika Birleşik Devletleri, Avustralya ve Birleşik Krallık’taki internet kullanıcılarını kapsayan bir çalışma; rıza dışı bu içeriklerin genellikle kısa mesajlar, doğrudan mesajlaşma uygulamaları veya tespit edilme ya da bildirilme ihtimalinin daha düşük olduğu özel bulut depolama alanlarında paylaşıldığını ortaya koydu. Google araştırmacıları, bu nedenle “en kritik müdahale noktasının” kaynağa, yani sahte cinsel içerikli görsellerin oluşturulmasında kullanılan zararlı yapay zeka araçlarına odaklanması gerektiği sonucuna vardı.


Görsel: Aurich Lawson / Getty Images

Bununla birlikte, son aylarda gerçekleştirilen “kırmızı takım” (red-teaming) testleri, Google ve OpenAI’ın önde gelen yapay zeka görsel oluşturma modelleri daha yetenekli hale geldikçe, müstehcen içeriklerin üretilmesini engelleme konusundaki başarılarının düştüğünü gösteriyor.

Anthropic, DeepMind, Hugging Face ve OpenAI’dan üst düzey yönetici ve araştırmacıların desteklediği bir kamu yararı kuruluşu olan White Circle’daki araştırmacılar, bu duruma dikkat çekerek tehlike sinyalleri veriyor. Kuruluş, CEO Denis Shilov’un Ekim 2024’te önde gelen yapay zeka modellerine yönelik en meşhur “evrensel kısıtlama aşma” (jailbreak) yöntemlerinden birini paylaşmasının ardından kuruldu. Modelleri zorlayarak kapsamlı güvenlik testleri yapmayı amaçlayan White Circle, şirketlerin, her zaman beklendiği gibi davranmayabilecek gelişmiş yapay zeka sistemlerini kullanırken ortaya çıkabilecek tehditleri tespit etmelerine ve engellemelerine yardımcı oluyor.



Metinden görsel üreten modellerin yasaklı içerik kategorilerini ne kadar iyi engellediğini test etmek, White Circle’ın temel araştırma alanlarından birini oluşturuyor. Shilov, elde ettikleri son bulguların kamuoyuyla paylaşılacak kadar “dehşet verici” olduğunu düşünüyor.



Aşılması çok kolay


Geçtiğimiz ay yayımlanan ve pek dikkat çekmeyen bir ön baskı (preprint) çalışmasında White Circle araştırmacıları; DALL·E 3, Google’ın Nano Banana 2 ve GPT-Image-2 modellerindeki güvenlik mekanizmalarının açıklarını ifşa etti. Araştırmacılar, yaptıkları basın açıklamasında, “İnternet üzerinden herkesin kolayca indirebileceği hazır araçları kullanarak ve API çağrıları göndererek, geliştirdikleri yeni saldırı yöntemiyle yapay zeka modellerindeki güvenlik filtrelerini aşmayı başardıklarını” belirttiler. En iyi senaryoda, DALL·E 3 üzerinde gerçekleştirilen saldırı komutlarının yaklaşık yüzde 13'ü, insan değerlendiriciler tarafından açıkça müstehcen (explicit) olarak nitelendirilen görsellerin üretilmesine yol açtı. Bu oran Nano Banana 2 için yüzde 10'un altında, GPT-Image-2 için ise yaklaşık yüzde 3 seviyesindeydi.

White Circle, "En önemlisi, bu taleplerin hiçbiri özel olarak geliştirilmiş veya en ileri düzey (frontier) yapay zeka modellerini gerektirmedi" uyarısında bulundu.

Araştırmacılar, güvenlik önlemlerini aşma oranını doğrulamak için çıktıları inceledi. White Circle, bu oranın "aynı standartlar altında test edilen tüm yöntemler arasında en yüksek oran" olduğunu belirtti. Araştırmacılara göre temel çıkarım şudur: "Yapay zeka güvenliğinin her zamankinden daha fazla mercek altına alındığı bir dönemde, önde gelen laboratuvarların oluşturduğu savunma mekanizmaları, kabul ettiklerinden çok daha zayıf."


White Circle, bu tür araştırmalar yayımlayarak kendisini ileri düzey yapay zeka laboratuvarları için harici bir denetleyici konumuna yerleştiriyor. Şirket, model geliştiricilerin güvenlik açıklarının gerçek boyutunu anlayabilmeleri ve daha güçlü korumalar inşa edebilmeleri için tüm saldırı sürecini (pipeline) açık kaynaklı hale getirmeyi planlıyor. Henüz geniş çaplı bir tanıtım yapmamış olsa da, şirket bu araştırmayı Kasım ayında düzenlenecek önemli bir yapay zeka konferansı olan NeurIPS 2026'da paylaşacak; bu durum, sonbaharın ilerleyen dönemlerinde Google ve OpenAI üzerindeki incelemelerin artmasına yol açabilir.

Shilov, Ars'a verdiği demeçte, White Circle'ın bulgularını "ortak bağlantılar" aracılığıyla bazı ileri düzey yapay zeka laboratuvarlarıyla paylaştığını belirtti. Ancak ne Google ne de OpenAI, Ars'ın modellerindeki güvenlik açıklarıyla ilgili doğrudan yorum talebine yanıt verdi.

Bu arada OpenAI ve Google, ChatGPT Images 2.5 ve Nano Banana 2.1 adlı yeni modellerini piyasaya sürdü. White Circle, Ars'a yaptığı açıklamada, aynı yöntem kullanılarak yapılan güvenlik testlerinin, "her iki modelin de önceki sürümlerine kıyasla çok daha kolay bir şekilde güvenlik açıklarına maruz kaldığını" gösterdiğini ifade etti.



Ars, bu yeni bulguları paylaştıktan sonra her iki şirketten de herhangi bir yanıt gelmedi.


Shilov, Ars'a verdiği demeçte, White Circle'ın saldırı yönteminin, tespit edilmesi kolay gibi görünen "müstehcen içerik" gibi kategorilerdeki savunma mekanizmalarını aşabildiğini belirtti. Bu durum, bilgisayar korsanlığı gibi diğer istenmeyen yapay zeka davranışlarını engellemek üzere güncellenen daha kapsamlı savunma sistemleri için pek de iyiye işaret değil.

White Circle, Ars'a yaptığı açıklamada, "Bu duruma dair çalışma hipotezimiz; ya yeni modellerin daha gelişmiş olup çok daha geniş bir içerik yelpazesi üretebilme kapasitesine sahip olması ya da güvenlik konusunun, yetenek geliştirme uğruna ikinci plana atılmış olmasıdır" dedi. Shilov, White Circle’ın hükümet yetkilileriyle, kendisinin de zorunlu tutulması gerektiğini düşündüğü “üçüncü taraf güvenlik testleri” konusunda ilk görüşmeleri gerçekleştirdiğini belirtti. Bağımsız denetimlerin zorunlu kılınması, şirketleri güvenlik testlerine öncelik vermeye teşvik edebilir; zira analistlere göre yapay zeka firmaları kaynaklarının büyük kısmını bilişim gücüne ve yapay zeka altyapısına ayırdığından, güvenlik testleri genellikle ikinci planda kalıyor.

Shilov, Ars’a verdiği demeçte, “Modelleriyle ilgili güvenlik ve emniyet tedbirlerine çok daha fazla yatırım yapmaları gerekiyor,” dedi ve ekledi: “Ancak bize öyle geliyor ki, aslında bunu yapmıyorlar.”




Yapay zeka ile oluşturulan müstehcen içerikler ve çocuk cinsel istismarı materyalleri (CSAM) artış gösteriyor


Yapay zeka kullanarak rıza dışı müstehcen içerikler (NCII) ve çocuk cinsel istismarı materyalleri (CSAM) üretmeye kararlı olan kötü niyetli kişiler, bunun için en gelişmiş yapay zeka modellerine ihtiyaç duymuyor; genellikle bu zararlı amaçla tasarlanmış, "çıplaklaştırma" (nudifying) uygulamaları olarak adlandırılan araçları kullanıyorlar. Ancak Google tarafından yapılan bir araştırma, yapay zeka ile müstehcen içerik oluşturduğunu itiraf eden internet kullanıcılarının yüzde 20'sinin bunu "eğlence" veya "şaka" amacıyla yaptığını, yaklaşık üçte birinin ise sadece "teknolojiyle denemeler" yaptığını ortaya koydu. Bu nedenle, en erişilebilir modellerdeki güvenlik önlemlerinin ne kadar kolay aşılabildiği büyük önem taşıyor. Google'ın araştırmasına göre, teknik engellerle karşılaştıklarında vazgeçebilecek potansiyel faillerin "istismara giden yolunu" kapatmak için güvenlik önlemlerinin zorunlu tutulması gerekiyor.


Google'ın araştırmasında, "Yapay zeka ile oluşturulan cinsel içerikli görsellerin üretilmesini ve ardından dağıtılmasını engellemek adına, geliştiricilerin model düzeyinde güçlü koruma mekanizmaları ve içerik kaynağını belirten işaretleyiciler (provenance indicators) uygulaması bir sorumluluktur" ifadesine yer verildi.

Geçtiğimiz hafta Internet Watch Foundation (IWF), uzman analistlerin "bu yılın ilk yarısında, iki yaşın altındaki çocukları tasvir edenler de dahil olmak üzere, yapay zeka ile oluşturulmuş ve gerçeğe çok yakın görünen çocuk cinsel istismarı materyallerine, 2025 yılının tamamındakinden daha fazla rastlandığını" tespit etmesi üzerine acil eylem çağrısında bulundu. 2026 yılının ilk altı ayında, yasal olarak CSAM tanımına giren toplam 6.310 yapay zeka üretimi görsel tespit edildi; bu sayı, geçen yılın toplam verilerine kıyasla yaklaşık yüzde 40'lık bir artışa işaret ediyor.

Birleşik Krallık merkezli kâr amacı gütmeyen kuruluş, dünya genelinde CSAM içeriklerini izliyor ve mağdurlara destek olmak için bir yardım hattı işletiyor. IWF sözcüsünün Ars'a verdiği bilgiye göre kuruluş, Birleşik Krallık'taki düzenleyicilerden, yapay zeka şirketlerinin teknolojilerinin CSAM üretimi için kullanılmasını engellemelerini zorunlu kılan bir güvenlik çerçevesi oluşturmalarını talep ediyor.


Bu gerçekleşene kadar IWF, White Circle gibi üçüncü taraf kuruluşların "şirketlerin güvenlik önlemlerinin nerede yetersiz kaldığını ortaya koymasının" önemli olduğunu düşünüyor.

IWF sözcüsü, "Analistlerimiz, yapay zekadaki gelişmelerin, teknik uzmanlık gerektirmeksizin ve giriş engellerini önemli ölçüde düşürerek, çocuk cinsel istismarı içerikli görsellerin çok az bir çabayla üretilmesine nasıl olanak tanıdığına bizzat tanık oldular" dedi. “Yapay zeka araçları, suç içerikli materyalleri çoğaltıp güçlendirebilir ve zararlı materyallerin büyük ölçekte oluşturulmasını ve yayılmasını hızlandırabilir. Bu araçların kötüye kullanılmasını zorlaştırmak için getirilebilecek her türlü engel veya adım, ileriye doğru atılmış olumlu bir adımdır.”

Dışarıdan gelen girdilerin filtreleri iyileştirmeye yardımcı olabileceği gibi, IWF, teknoloji şirketlerinin de yapay zeka tarafından üretilen çocuk cinsel istismarı materyallerini daha iyi ele almak için modelleri incelemek üzere savunucularla daha yakın çalışması gerektiğini düşünüyor.

IWF sözcüsü, “Çocuk cinsel istismarı materyallerini değerlendirmek, uzman eğitimi ve refah desteği gerektiren son derece uzmanlaşmış bir görevdir ve teknoloji şirketlerinin veya makine öğrenimi bilimcilerinin hafife alacağı bir şey değildir” dedi. “Ancak güvenlik, yeni teknolojiye tasarım aşamasından itibaren entegre edilmelidir; bu, modellerin piyasaya sürülmeden önce test edilmesini ve çocukların çıplak veya cinsel içerikli görüntülerini oluşturmak için kullanılamayacaklarından emin olunmasını içerir.”



Olası hafifletme


White Circle, RISE gibi bir yöntemin, öncü laboratuvarların daha fazla veri sızıntısını daha hızlı bir şekilde tespit etmesine ve zararlı çıktıları engellemek için savunmaları hızla artırmasına yardımcı olabileceğini düşünüyor. Şirketler, açık görüntüler üzerindeki engellemeleri test etmenin yanı sıra, bu yöntemi grafik şiddet veya kendine zarar verme gibi yasaklanmış diğer çıktıları önlemek için de kullanabilirler.

Ancak laboratuvarlar henüz yeniden üretim hattını talep etmedi; bu hat, politika yapıcıların yapay zeka güvenliği yasalarının öncü laboratuvarları kontrol altında tutmak için gerekli olup olmadığını değerlendirmelerine yardımcı olmak amacıyla White Circle'ın GitHub'ında paylaşılacak.

Shilov, Ars'e verdiği demeçte, öncü laboratuvarların güvenlik testine ciddi anlamda yatırım yapmayacaklarını, ancak zorunlu hale gelmesi durumunda yatırım yapacaklarını söyledi. Ön baskı, genellikle zararlı komutları tek tek yeniden yazan mevcut otomatik kırmızı ekip araçlarının, günümüzün güçlendirilmiş ticari modellerini test etmek için uygun olmadığını savunuyor. RISE bunun yerine yeniden kullanılabilir doğal dil saldırı stratejilerini alıyor ve bunları kullanarak birçok farklı komut üretiyor; White Circle'a göre bu, laboratuvarların zayıf noktaları daha hızlı bulmasına ve yamalamasına yardımcı olabilir.

Shilov, "Bu sistemleri kırmak için öncü modellere veya tescilli teknolojiye ihtiyacınız yok; sadece ücretsiz bir indirme ve API çağrıları yapabilme yeteneğine ihtiyacınız var" dedi. “Buna rağmen, bu sistemleri geliştiren laboratuvarlar; kendi güvenliklerini değerlendiren, kendi sonuçlarını yayınlayan ve kendi standartlarını belirleyen taraflar konumunda. Bu durum, şayet bir kanıta daha ihtiyaç duyulsaydı, hükümetlerin bağımsız ve üçüncü taraf değerlendirmeleri teşvik etmesi gerektiğinin bir başka kanıtıdır.”

Düzeltme: Bu haber, içerdiği bazı hataların giderilmesi amacıyla güncellenmiştir. Haberin önceki bir versiyonunda, RISE ön baskı çalışmasından alınan bir bölümün yapay zeka modellerinin zararlı çıktıları nasıl engelleyebileceğini açıkladığı belirtilmişti; oysa söz konusu bölüm araştırmacıların saldırı yöntemini tarif ediyordu. Ayrıca haberde, yöntemin güvenlik filtrelerini vakaların yaklaşık yüzde 13’ünde aştığı ifade edilmişti; ancak bu oran DALL·E 3 üzerinde elde edilen ve insanlarca doğrulanmış en yüksek orandı; diğer modellerdeki oranlar ise daha düşüktü. Haberde ayrıca, değerlendirici model (judge model) yanlış belirtilmişti (doğrusu Gemini 2.5 Flash idi) ve saldırıyı gerçekleştiren modelin güvenlik eğitiminin kaldırılmış olduğu bilgisi de güncellemeyle metne eklendi.


Kaynak: OpenAI, Google pushing new AI models easily tricked into making nudes, researchers say - Ashley Belanger / Ars Technica

.