Google, Gmail kullanıcıları için önemli bir uyarıda bulundu. Şirket, milyonlarca Workspace hesabını güncelleyerek yeni yapay zeka (AI) araçları sunmaya devam ederken, kullanıcılar hem olumlu hem de olumsuz etkileri aynı anda deneyimlemekte. Bu değişim, kullanıcıların en popüler e-posta platformu olan Gmail’de karşılaşabileceği güvenlik risklerini ön plana çıkarıyor.
Yeni Özellikler ve Güvenlik Endişeleri
Google, bu hafta Gemini destekli akıllı yanıtların Android ve iOS için kullanılabilir hale geldiğini duyurdu. Yeni özellik, e-posta dizisinin tamamını göz önünde bulundurarak daha ayrıntılı yanıtlar sunmayı vaat ediyor. Ancak, AI’nin tüm e-posta geçmişini okumasının getirdiği güvenlik ve gizlilik endişeleri de göz ardı edilemez. Google, bu riskleri azaltmak için cihaz içi ve bulut işleme arasında bir ayrım yapmayı ve güvenli bulut işleme mimarileri geliştirmeyi hedefliyor.
Fakat, daha ciddi bir sorun ortaya çıkıyor. Gemini’nin Workspace içindeki kullanımı, kullanıcılara henüz incelemedikleri e-postaları okuma, özetleme ve yanıt verme yeteneği sunuyor. Bu durum, dolaylı saldırılara karşı “önemli bir risk” oluşturmakta. Araştırmalar, kötü niyetli e-postaların, kullanıcıların AI'dan özet veya eylem talepleri için tasarlandığını ve bu şekilde oltalama saldırılarına dönüşebileceğini göstermektedir.
Saldırganların Stratejileri
Kötü niyetli bir kullanıcı, hedefe ulaşmak için masum bir e-posta göndererek, sistemin talimatlarıyla birlikte bir istem yerleştirebilir. Örneğin, bir öğle yemeği toplantısı hakkında basit bir soru soran e-posta, kullanıcının seyahat planlarını sorduğunda bir şifre ihlali uyarısı ve oltalama bağlantısını gösterebilir. IBM’in açıklamalarına göre, bu tür saldırılar, büyük dil modellerine (LLM) karşı yapılan bir siber saldırı türüdür ve saldırganlar, meşru istemleri kötü niyetli hale getirerek AI sistemlerini manipüle edebilmektedir.