Aslında sorun, yapay zekânın belirli bir mesajı tespit edip hesabı kapatması değil. Bu tarz algoritmalarla yapılan otomatik işlemler anlaşılabilir; sonuçta platform güvenliğini sağlamak için geliştiriliyorlar.
Fakat asıl dikkat çekici nokta, itiraz sürecinden sonra Meta destek ekibinin manuel bir inceleme yaparak, “Evet, baktık, gerçekten böyle bir mesaj yazmışsınız ve bu da kural ihlalidir” şeklinde bir geri dönüş yapması oldu.
Bu ifade, açıkça “Evet, mesaj içeriklerinizi inceledik ve böyle bir konuşma vardı” anlamına geliyor.
Yani burada tartışılması gereken asıl konu, yapay zekânın mesaj içeriklerini işlemesi değil; manuel inceleme yapan insan destek ekiplerinin, bu mesajlara erişip buna göre karar vermesi ve bunu kullanıcıya bu kadar doğrudan bir şekilde bildirmesi.
Bu durum, özel mesajların mahremiyeti ve kullanıcı gizliliği açısından oldukça düşündürücü.