Aslında sorun, yapay zekânın belirli bir mesajı tespit edip hesabı kapatması değil. Bu tarz algoritmalarla yapılan otomatik işlemler anlaşılabilir; sonuçta platform güvenliğini sağlamak için geliştiriliyorlar.
Fakat asıl dikkat çekici nokta, itiraz sürecinden sonra Meta destek ekibinin manuel bir inceleme yaparak, “Evet, baktık, gerçekten böyle bir mesaj yazmışsınız ve bu da kural ihlalidir” şeklinde bir geri dönüş yapması oldu.
Bu ifade, açıkça “Evet, mesaj içeriklerinizi inceledik ve böyle bir konuşma vardı” anlamına geliyor.
Yani burada tartışılması gereken asıl konu, yapay zekânın mesaj içeriklerini işlemesi değil; manuel inceleme yapan insan destek ekiplerinin, bu mesajlara erişip buna göre karar vermesi ve bunu kullanıcıya bu kadar doğrudan bir şekilde bildirmesi.
Bu durum, özel mesajların mahremiyeti ve kullanıcı gizliliği açısından oldukça düşündürücü.
benimde bir takipçim ile dm den konuşurken dün,
argo şeyler yazdım. Karşımdaki arkadaş gibi kavga yok yani normal konuşma.
o da bana dedi ki instagram uyarı verdi işlem yap gibi bir şey çıktı diye.
böyle bir şey de var mı ben onu merak ediyorum. küfür veya hakaret edince de uyarı mı veriyor karşıya
yoksa başka mesaj uyarı çıktı o mu karıştırdı anlayamadık.