GPT-4V, görüntü analizi özelliğinin sohbet kayıtlarının sızdırılmasına yol açabileceği şok edici bir hataya sahiptir. GPT-4V'nin HTML bilgisayarları icat etmek ve 40 milyar dolarlık sözleşmeler almak gibi mantıksız tavsiyeler verdiğine dair raporlar var. Buna ek olarak, saldırganlar GPT-4V'yi görsel ve gizli saldırıların yanı sıra sızma saldırıları da dahil olmak üzere ipucu kelime saldırılarıyla taklit edebilirler. Bunun nedeni, GPT-4V'nin görüntü tanıma yetenekleri eklendikten sonra yeniden eğitilmemesi ve görevin gizlenmesine yol açmasıdır. İkili LLM modlarının kullanılmasını ya da girdinin "güvenilir" ya da "güvenilmez" olarak etiketlenmesini gerektirebilecek bu soruna şu anda etkili bir çözüm bulunmamaktadır.
çok acayip insanlar bunu yapanlar, ben hacker olsam bunlarla mı uğraşırdım bilmiyorum