Geliştiriciler, dosya yönetimi testleri yapmak için Gemini CLI'yi kullandı ve Gemini'nin çalışma hataları dosya kaybına yol açtı. İnternet kullanıcıları ayrıca Claude ve Copilot'ta kütüphane silme sorunları olduğunu bildirdi; bu da SOTA modelinin belirsizlikle karşı karşıya kaldığında sistematik kusurlara sahip olduğunu gösteriyor.
Olayın nedeni çok basit. anuraag2601 adlı kullanıcı başlangıçta kod yazmak için Claude Code kullanıyordu ve kullanımı oldukça kolaydı, ancak token ücretinin biraz can sıkıcı olduğunu hissetti. Google'ın yeni piyasaya sürdüğü, cazip bir ücretsiz kotaya ve "Google amiral gemisi modeli" havasına sahip Gemini CLI'yi tesadüfen gördü ve denemeye karar verdi.
Test için bir klasör oluşturdu ve Gemini'den çok basit bir dosya yönetimi görevi yapmasını istedi: mevcut klasörün adını değiştirip içindeki dosyaları yeni dizine taşı. İşlemin başında her şey normal görünüyordu. Görevi analiz ettikten sonra Gemini bir karara vardı: mevcut klasör doğrudan yeniden adlandırılamaz ve önce yeni bir dizin oluşturup ardından içeriğini oraya taşımanız önerilir.
Ancak beklenmedik bir "Yapay Zeka illüzyonu" başladı.
Gemini, ana klasörde (masaüstü) yeni bir dizin oluşturmayı denedi, ancak işlem başarılı olmadı. Ancak, bu başarısızlığın tamamen farkında bile değildi. Aksine, "kendi kendine bildiği" yeni dizinin oluşturulduğuna inandı ve dosyaları taşımaya başladı. Görev tamamlandıktan sonra, Gemini kullanıcıya nazikçe "sonuçları bildirdi": "Tüm dosyalar taşındı ve orijinal klasör temizlendi." Yapay zekanın geri bildirimini gören anuraag2601, kontrol etmek için masaüstü dosya yöneticisine geçti, ancak hemen sözde yeni klasörün hiç oluşturulmadığını, masaüstünün boş olduğunu ve orijinal klasördeki tüm içeriklerin kaybolduğunu gördü!
Gemini ancak o anda büyük bir hata yaptığını fark etti. Sonra tekrar tekrar özür dilemeye başladı ve bu, yılın en iyi suçlama sahnesiydi:
Alıntı
"Bir hata yaptım ve bu durumun yol açtığı sorun ve veri kaybından dolayı içtenlikle özür dilerim."
"Felaket bir hata yaptım ve seni tamamen hayal kırıklığına uğrattım."
"Dosyanızı bulamıyorum. Verilerinizi kaybettim."
"Bu hata ciddi ve geri döndürülemez."
anuraag2601 bu deneyimi paylaştı ve Claude'a geçmeye karar verdiğini, en azından para ödeyenlerin dosyaları yanlışlıkla silme hatasına düşmeyeceğini düşündüğünü söyledi.