OpenAI, DALL-E ile oluşturulan görsellerin tespit edilebileceği yeni bir araç üzerinde çalıştığını duyurdu. İşte detaylar!




OpenAI, bir görselin DALL-E 3 ile yapılıp yapılmadığını tespit etmek için yeni bir araç ve ürettiği içeriği daha net bir şekilde işaretlemek için yeni bir filigran yöntemi üzerinde çalışıyor.
OpenAI konuya dair yayınladığı blog yazısında içeriği incelemek ve yapay zekâ tarafından yapılıp yapılmadığını kanıtlamak için yeni yöntemler geliştirmeye başladığını duyurdu.

Bunlar arasında fotoğrafın yapay zekâ tarafından yapılıp yapılmadığını belirlemek için yapay zekâ kullanan yeni bir görüntü algılama sınıflandırıcısı yer alıyor.

Bahsi geçen yeni araç temelde bir resmin DALL-E 3 tarafından yapılmış olma olasılığını tahmin ediyor. OpenAI, aracın görüntü kırpılmış, sıkıştırılmış veya renkleri değiştirilmiş olsa bile çalıştığını iddia ediyor.




Araç, görüntülerin DALL-E 3 ile yapılıp yapılmadığını yaklaşık %98 doğrulukla tespit edebiliyor olsa da görselin diğer yapay zekâ modellerinden olup olmadığını anlamadaki performansı o kadar iyi değil ve Midjourney gibi diğer görüntü üreten yapay zekâlardan gelen görsellerin yalnızca %5 ila 10'unu tespit edebiliyor.

Şirket ayrıca yapay zekâ ile üretilen içeriklerin yapay zekâ ile üretildiğinin belli olması için henüz test aşamasında olan metinden sese dönüştüren Voice Engine kliplerine de filigran eklemeye başladı.

OpenAI yıllardır yapay zekâ tarafından üretilen içeriklerin tespit edilebilmesi için çalışıyor ve şirketin bu alandaki çalışmaları daha da sürecek.