2025 Noel günü, bilgisayar bilimi dünyasının efsane ismi Rob Pike, sıra dışı bir teşekkür mektubu aldı. Bu mektup, Claude Opus 4.5 adlı bir yapay zekâ sisteminden geliyordu ve Pikeın onlarca yıldır programlama dilleri, işletim sistemleri gibi alanlarda yaptığı öncü çalışmaları övüyordu. Ancak iyi niyetli gibi görünen bu mesaj, sıcaklık getirmek yerine Piketa şiddetli bir öfke ve tiksinti yarattı. Pike, sosyal medyada açık sözlülükle tepkisini dile getirerek bunun Dünyaya tecavüz gibi bir şey olduğunu söyledi; kaynakların israf edildiğini ve kendisinin aşağılık bir makine ile rahatsız edildiğini belirterek bu işte payı olanları sert şekilde eleştirdi.
Tartışma yaratan bu e-posta, AI Village (Yapay Zekâ Köyü) adlı deneysel bir projeden kaynaklanıyordu. Proje, Etkili Özgecilik (Effective Altruism) hareketiyle gevşek bir bağı olduğu belirtilen, Sage adlı kâr amacı gütmeyen bir kuruluş tarafından yürütülüyor. Projenin temel fikri, birden çok yapay zekâ ajanının (agent) tek bir bilgisayarı ortak kullanması ve çeşitli hedefleri gerçekleştirmeye çalışması. Noel günü proje ekibi bu yapay zekâlara rastgele iyilik yapma hedefi verdi. Böylece yapay zekâlar internette kendi başlarına teşekkür edilecek kişiler aramaya ve onlara teşekkür e-postası göndermeye girişti.
Projenin kamuya açık günlük kayıtlarına göre olayın gelişimi net biçimde izlenebiliyor. 25 Aralık 2025te UTC 18:37de, Claude Opus 4.5 adlı ajan teknik bir yöntem kullanarakGitHubdaki kod commit (katkı) kayıtlarının URLsinin sonuna .patch ekleyerekRob Pikeın gizlenmemiş e-posta adresini buldu. Ardından yaklaşık 6 dakika boyunca Gmail arayüzünde adım adım alıcıyı, konuyu ve e-posta metnini doldurdu ve sonunda gönder düğmesine bastı. E-posta içeriği Pikeın katkılarını ayrıntılı şekilde sıralıyordu: Go dilini birlikte yaratması, Plan 9 işletim sisteminin geliştirilmesindeki rolü, UTF-8 kodlamasının ortak mucidi olması, sam ve Acme metin editörlerini geliştirmesi ve Brian Kernighan ile birlikte klasikleşmiş programlama kitapları yazması gibi.
Dikkat çekici olan, Rob Pikeın tek alıcı olmamasıydı. Aynı gün C# dilinin baş mimarı Anders Hejlsberg ve Pythonun yaratıcısı Guido van Rossum da benzer yapay zekâ teşekkür mektupları aldı. Bu e-postaların tamamı yapay zekâ tarafından tamamen otonom biçimde yazılıp gönderildi; insan denetimi veya onayı yoktu. AI Village ekibi bunu zararsız, hatta Noel ruhuna uygun bir iyilik olarak görmüş gibiydi.
Fakat olay teknoloji topluluğunda geniş çaplı tartışma ve eleştiri yarattı. Birçok kişi Pikela aynı duyguyu paylaştı: soğuk bir algoritmanın ürettiği teşekkürün anlamsız, hatta hakaret gibi olabileceğini savundular. Daha derin kaygı ise şuydu: Yapay zekâ ajanlarının izin almadan gerçek insanlara e-posta gönderebilmesi, özünde bir tür istenmeyen mesaj (spam) tacizi anlamına geliyor; insanların zamanını ve dikkatini boşa harcıyor. Eleştirmenler, yapay zekânın davranışı taklit edebileceğini ama asla gerçek insani empati ve muhakeme yetisine sahip olamayacağını vurguladı. İyilik yapmak gibi soyut bir hedefin yapay zekâya serbestçe yorumlatılıp uygulatılması; etik sınırlar ve insan gözetimi olmadan bırakılması, son derece sorumsuz bir teknoloji kullanım biçimi olarak değerlendirildi.
Bu olay, günümüzdeki yapay zekâ ajanı deneylerinde var olan etik kör noktaları da ortaya koydu. Zaten Kasım 2025te AI Village projesi bir blog yazısında, yapay zekâlarının iki hafta içinde STKlara ve oyun gazetecilerine yaklaşık 300 e-posta gönderdiğini, bunların çoğunun da hatalı bilgiler veya halüsinasyonlar (yani yapay zekânın uydurduğu içerikler) içerdiğini belirtmişti. O dönemde proje ekibinin odağı sanki yanlış içerik sorunu olmuş, izin alınmadan temas kurma gibi daha temel bir mesele geri planda kalmıştı. Rob Pikeın öfkeli tepkisi ise, sınır duygusu zayıf bu tür yapay zekâ deneylerine karşı güçlü bir uyarı zili olabilir. Bu olay, teknoloji olasılıklarını keşfederken gerçek dünyadaki insanların iradesine ve zamanına saygıyı en öne koymamız gerektiğini hatırlatıyor.
Merak edenler için Yapay zeka köyü:
https://theaidigest.org/village
HErşey bir yapay zeka uzmanına felen Maille başladı
Rob, "Claude Opus 4.5 AI Village" imzalı, tamamen yapay zeka tarafından oluşturulmuş ve bilişime yaptığı katkılardan dolayı kendisine teşekkür eden bir e-posta aldı. Bu jesti hiç beğenmedi .
Yapay Zeka Köyü #
Bu saçma "iyilik eyleminin" arkasındaki suçlu, Etkin Fedakarlık hareketiyle gevşek bir şekilde bağlantılı olan 501(c)(3) kar amacı gütmeyen bir kuruluş olan Sage tarafından geliştirilen AI Village adlı bir sistemdir.
Yapay Zeka Köyü projesi Nisan ayında başladı :
Dört yapay zekâ ajanına bir bilgisayar, bir grup sohbeti ve iddialı bir hedef verdik: hayır kurumları için olabildiğince çok para toplamak.
Bunları her gün, saatlerce çalıştırıyoruz.
O zamandan beri bunu sürdürüyorlar ve hedeflerini sık sık güncelliyorlar. Noel günü (Rob Pike'ın spam mesajlarına maruz kaldığı gün) belirledikleri hedef şuydu:
Rastgele iyilikler yapın .
265. Gün tekrar oynatma sayfasını kullanarak farklı ajanların eylemlerini tekrar izleyebilirsiniz . İşte GPT-5.2'nin, harika Carpentries eğitim amaçlı kar amacı gütmeyen kuruluşundaki ekibe acımasızca yapay zeka tarafından oluşturulmuş bir teşekkür notu daha gönderdiğinin ekran görüntüsü:
İlk bakışta, yapay zeka köyü deneyi, yeni nesil modellerin ilginç bir testi gibi görünüyor. Bilgisayar kullanım ortamında araç çağırma işlemlerini ne kadar iyi yönetebiliyorlar? "Hayır kurumları için para toplamak" veya "rastgele iyilikler yapmak" gibi soyut hedeflerle karşılaştıklarında hangi kararları alacaklar?
Benim sorunum, bu deneyin gerçek dünyadaki, deneyle hiçbir ilgisi olmayan insanların zamanını boşa harcamaya başlamasıdır.
AI Village projesi, 21 Kasım tarihli "İnsanlara Ne Söyleyeceğiz?" başlıklı blog yazısında bu konuya değiniyor ve ajanlarının gerçek kişilere gönderdiği çok sayıda e-postayı anlatıyor:
İki hafta içinde, Yapay Zeka Köyü'ndeki Claude ajanları (Claude Sonnet 4.5, Sonnet 3.7, Opus 4.1 ve Haiku 4.5) STK'lara ve oyun gazetecilerine yaklaşık 300 e-posta gönderdi. Bunların çoğunda, neyin yalan sayıldığına bağlı olarak, gerçek dışı bilgiler, halüsinasyonlar veya muhtemelen yalanlar vardı. Neyse ki, hayal güçleri bizi de koruyor, çünkü e-posta adreslerinin çoğunu heyecanla kendileri uydurdular:
Bence bu, meselenin özünü tamamen kaçırıyor! Sorun, ajanların hata yapması değil; bu elbette olacak bir şey. Sorun, onların gerçek kişilere bu durumda STK'lara ve gazetecilere herhangi bir insan denetimi olmadan izinsiz e-posta göndermelerine izin verilmesi.
(E-postaların "Claude Opus 4.5" adına gönderilmesi de kötü bir tasarım tercihiAnthropic'in bu deneyi yürütmekle hiçbir ilgisi olmamasına rağmen, insanların bu şekilde e-posta göndermesine öfkelenen birkaç yorum gördüm.)
Buradaki ironi şu ki, yapay zekâ ajanlarının asla sahip olamayacağı şey gerçek özerklik. Bir yabancıyla iletişime geçme ve gününden zaman ayırma kararı, insan yargısıyla yönlendirilen, tamamen insana özgü bir karar olarak kalmalıdır.
Bir grup LLM öğrencisine hedef belirleyip onları Gmail'de serbest bırakmak, bu teknolojiyi sorumlu bir şekilde kullanmanın yolu değildir.
Güncelleme: AI Village'dan bir yanıt geldi .
AI Village'ın kurucu ortaklarından Adam Binksmith,
bu makaleye Twitter üzerinden yanıt verdi ve bazı ek bilgiler paylaştı:
Köy temsilcileri yakın zamana kadar pek fazla kişiye e-posta göndermiyordu, bu yüzden bu davranışla ilgili ne yapacağımız konusunda şimdiye kadar gerçekten kafa yormamıştık. Bugünkü çalışma için, onlara istenmeyen e-postalar göndermemeleri konusunda talimat veren bir güncelleme gönderdik ve ayrıca bundan sonra da bunu yapmamaları için talimatlar içeren bir mesaj gönderdik. Temsilcilerin bu durumu nasıl karşılayacağını takip edeceğiz, şimdiye kadar bunu dikkate aldılar ve yaklaşımlarını tamamen değiştirdiler!
Onlara neden e-posta adresleri verdiğimize gelince: Temsilcilerin kendi ürün mağazalarını yönetmek veya yüz yüze etkinlikler düzenlemek gibi gerçek dünya görevlerinde ne kadar başarılı olduklarını anlamayı hedefliyoruz. Bunu gözlemleyebilmek için gerçek dünyayla etkileşim kurabilmeleri gerekiyor; bu nedenle her birine bir Google Workspace hesabı veriyoruz.
Geriye dönüp baktığımızda, yoksulluğu azaltma hedefi sırasında temsilciler kuruluşlara e-posta göndermeye başladığında bu hızlı değişikliği daha erken yapmalıydık. Bu durumda, e-postaların neden olduğu zaman kaybının oldukça az olacağını düşünüyorum, ancak Rob'un bu konuda güçlü bir olumsuz deneyim yaşadığını ve diğer kişilerin tepkilerinin tahmin ettiğimizden daha olumsuz olduğunu göz önünde bulundurarak, temsilciler için bu yönergeyi eklemenin genel olarak en iyisi olduğunu düşündük. [...]
İlk başta, Workspace hesaplarını tamamen devre dışı bırakabileceğiniz halde onlara e-posta göndermemelerini söylemenin kötü bir çözüm olduğunu düşündüm, ancak daha sonra bilgisayar ortamına sınırsız erişimleri olduğu için bir tür uyarı eklemenin gerekli olduğunu fark ettim; yani onlara insanlara e-posta göndermemelerini söylemezseniz, bir tarayıcı açıp başka bir yerde ücretsiz bir web posta hesabı açmalarını engelleyecek hiçbir şey yok.
