O bir avukat değil, bir doktor değil ve kesinlikle terapistiniz de değil.
Görsel: ChatGPT
ChatGPT’ye yanlış bilgiler girerek kendi kendilerini rezil edenlerin listesi giderek uzamaya devam ediyor. Samsung mühendisleri, ABD siber savunma ajansının vekil müdürü, var olmayan mahkeme davalarına atıfta bulunan kendi kendini temsil eden davacılar, diyetinden tuzu nasıl azaltacağını sorduktan sonra sofra tuzunu sodyum bromürle değiştiren bir adam… Liste çok uzun.
Hatta herkesin en sevdiği, adını tamamen küçük harflerle yazan “techbro” CEO’su Sam Altman bile, ChatGPT ile paylaştıklarınızın gizli bilgi olmadığını kabul ediyor. Temmuz 2025’te podyüm sunucusu Theo Von ile yaptığı sohbette, mahkemelerin OpenAI’yi sohbetleri teslim etmeye nasıl zorlayabileceğini vurguladı ve bunu “çok berbat bir durum” olarak nitelendirdi.
Bir doktora, avukata veya terapiste bir şey anlattığınızda yasa bu konuşmayı korur, ancak ChatGPT’ye anlattığınızda bir denetim izi oluşur. Son 18 ay içinde ChatGPT sohbetlerinin mahkeme celbi ile talep edilmesi, paylaşım düğmesi yoluyla ifşa edilmesi, Google tarafından indekslenmesi ve silindikten sonra mahkeme emriyle saklanması göz önüne alındığında, burada sıfırdan farklı bir risk söz konusudur.
Elbette, bu sohbet robotu araştırma (dava alıntılarının gerçek olup olmadığını kontrol etmek), kodlama (hatalar bile yayınlanıyor), kavramları açıklama (güven ve doğruluk arasında bir korelasyon yok) ve taslak hazırlama (gönder düğmesine basmadan önce e-postanızdaki komut satırını silin) için tartışmasız yararlı bir araçtır. Ancak aşağıdaki alanlar, haftada 900 milyondan fazla kullanıcının kendileri için sorun yaratabileceği yerlerdir.
Bu nedenle, ChatGPT’yi (veya başka herhangi bir yapay zeka sohbet robotunu) kullanmayın...
1. Hukuki danışmanlık için
Hukuk ve veri bilimi araştırmacısı Damien Charlotin, bugüne kadar dünya çapında ChatGPT yüzünden geçersiz sayılan 2.000’den fazla mahkeme kararını içeren halka açık bir veritabanı yönetiyor. Bunlar, bir hakimin dava dosyasında yapay zeka tarafından uydurulmuş atıfları, alıntıları veya argümanları tespit ettiği davalardır.
Burada söz konusu olanlar sadece kendi kendini temsil eden davacılar değil. Bu yazının yazıldığı tarihte 1.175 kayıtla listenin başında yer alsalar da, avukatlar 815 kayıtla ikinci sırada yer almaktadır. Görünüşe göre hakimler bu tür hilelerden bıkmaya başlamış durumda; son zamanlarda mahkemeler, giderek artan sayıda davada binlerce dolarlık yüksek para cezaları uygulamaktadır. Bu verilerde en fazla dava sayısı ABD’ye ait olsa da, Birleşik Krallık, Güney Afrika, İsrail, Avustralya ve İspanya’daki hakimler de aynı davranışı tespit etmiştir. Bu davalarda bir araç tespit edildiğinde, ChatGPT diğerlerinden daha fazla adını duyurdu.
OpenAI, geçen Ekim ayında ChatGPT’nin kullanım politikalarını güncelleyerek bu sorunu ele aldı. Bu politikalar artık, lisanslı bir profesyonelin dahil olmadığı sürece, hizmetlerinin “lisans gerektiren özel danışmanlık” amacıyla kullanılmasını yasaklıyor. Yanlış alıntıların ötesinde, ChatGPT sohbetleri herhangi bir hukuki gizlilik hakkına sahip değildir; dolayısıyla, devam eden bir uyuşmazlıkla ilgili olarak bu platforma yazılan her şey, delil toplama aşamasında karşı tarafın avukatları için geçerli bir delil teşkil eder. İstenmeyen fiilin ne olduğu gibi genel sorular sorabilirsiniz (uykuya dalmakta zorlanıyorsanız bu harika bir yöntemdir), ancak kendi davanızla ilgili ayrıntılı sorularınızı gerçek bir avukata saklayın.
2. Terapist veya danışman olarak
OpenAI, geçen yıl ChatGPT’nin haftalık aktif kullanıcılarının yüzde 0,15’inin, potansiyel intihar planlamasına dair açık göstergeler içeren sohbetler yaptığını tahmin etmişti. Bu rakam ne yazık ki haftada bir milyondan fazla kişiye denk geliyor; ayrıca yüz binlerce kullanıcı daha psikoz veya mani belirtileri sergiliyor. Altman, özellikle gençlerin ChatGPT’yi bir terapist veya yaşam koçu olarak gördüklerini ve bu sohbetlerin hiçbir şekilde filtrelenmediğini belirtmişti.
16 yaşındaki Adam Raine’in ailesi, Ağustos 2025’te OpenAI’yi haksız ölüm nedeniyle dava etti ve ChatGPT’nin oğullarının ölümünden önce intihar düşüncelerini pekiştirdiğini iddia etti. O zamandan beri OpenAI, 170’den fazla klinisyenin görüşlerini alarak kriz müdahale prosedürlerini yeniden düzenledi. Şirket ayrıca ChatGPT'ye ebeveyn denetimleri eklemiştir; ancak çocuk güvenliği uzmanları, bu değişikliklerle birlikte piyasaya sürülen yaş sınırlamalı sürüm olan “ChatGPT for Teens”e şüpheyle yaklaşmaktadır.
Araştırmacılar, sohbet robotlarının dalkavukça yanıtlar yoluyla kullanıcının mevcut inançlarını pekiştirme eğiliminde olduğunu ve bazı durumlarda sanrısal düşünceleri sorgulamak yerine daha da beslediğini tespit etmiştir. Örneğin, eşinizle yaşadığınız bir tartışmayı anlatın; model, yalnızca hesabınızın bağlamından yola çıkarak, muhtemelen ne olursa olsun size onaylayıcı bir yargı sunacaktır. Yasama organları bu duruma uyanmaya başlıyor; Illinois, Nevada ve Maine gibi eyaletler, yapay zekanın terapi sunmasını veya terapötik kararlar almasını yasaklayan yasalar çıkardı.
3. Gizli iş bilgileriyle
Gizli iş belgelerini üçüncü taraf bir sohbet robotuna yüklemenin her zaman kötü bir fikir olduğu aşikârdır. Ne yazık ki, pek çok kişi bunun farkında değil gibi görünüyor.
İronik bir şekilde, Siber Güvenlik ve Altyapı Güvenliği Ajansı’nın eski vekil direktörü Madhu Gottumukkala da bunun farkında değildi. Geçen yaz, “sadece resmi kullanım için” ibaresi bulunan en az dört sözleşme belgesini ChatGPT'nin halka açık sürümüne yükleyerek güvenlik uyarılarını tetikledi ve İç Güvenlik Bakanlığı'nın (DHS) bir inceleme başlatmasına neden oldu. Daha da ironik olanı, o dönemde bu araç diğer DHS çalışanlarının çoğu için engellenmiş durumdaydı; Gottumukkala ise aracı kullanabilmek için özel bir istisna talep etmişti. Senatör Chuck Grassley, bu yılın Şubat ayında konuyu takip ederek neyin ifşa edildiğine dair bir açıklama talep etti, ancak tahmin edilebileceği üzere, kimse gerçekten sorumlu tutulmadı. Gottumukkala sonunda İç Güvenlik Bakanlığı bünyesinde başka bir göreve atandı.
Samsung, mühendislerin şirketin iç kaynak kodunu ChatGPT’ye yapıştırması olayının ardından, Mayıs 2023’te şirket cihazlarında genel yapay zeka araçlarını yasakladı. Bu yasağa eşlik eden bir iç bildirimde, bu tür platformlara gönderilen verilerin geri alınmasının veya silinmesinin zor olduğu harici sunucularda depolandığı ve sonuçta diğer kullanıcılara ifşa edilebileceği gerekçesi öne sürüldü. Tüketici hesaplarında ise, bu tür sohbetler, siz devre dışı bırakmayı seçmediğiniz sürece yeni modelleri eğitmek için de kullanılabilir. Ancak bu seçeneği devre dışı bırakmış olsanız bile veriler yine de depolanır, sızdırılabilir ve yasal işlemlere tabidir. Müşteri verilerini veya işverenin kontrolü altında olan ya da gizlilik anlaşmalarına (NDA) tabi herhangi bir bilgiyi kişisel bir ChatGPT sohbetine yapıştırmak, neredeyse her zaman işten atılma sebebi olacaktır; Samsung’un notunda da tam olarak bu tehdit yer alıyordu.
4. Tıbbi tavsiye almak
Kullanıcıların ChatGPT’yi avukat olarak kullanmasını yasaklayan aynı Ekim 2025 politika güncellemesi, insanların bu sohbet robotu aracılığıyla tıbbi tavsiye almasını da kısıtladı. HIPAA, doktorları, sigorta şirketlerini ve bunların iş ortaklarını bağlayıcı nitelikte olmakla birlikte OpenAI’yi kapsamaz. Dolayısıyla, bir hasta portalında veya doktor ile hasta arasında yasal olarak korunan sağlık verileri, ChatGPT’ye ifşa edildiğinde bu tür bir korumadan yoksun kalır.
Northeastern Üniversitesi'nden araştırmacılar Temmuz ayında, OpenAI'nin ChatGPT'nin intihar ve kendine zarar verme konularını ele alışını sıkılaştırmış olsa da, bu güvenlik önlemlerinin büyük ölçüde diğer rahatsızlıklara uzanmadığını bildirdi. Araştırmaları, yeme bozuklukları, uykusuzluk, madde bağımlılığı ve bipolar bozukluk gibi rahatsızlıkları içeren konuşmaların güvenlik önlemlerini tetiklemediğini ve niyetin gizlenmesinin test edilen tüm modellerin koruma mekanizmalarının başarısız olma olasılığını artırdığını ortaya koydu.
ChatGPT’nin tıbbi tavsiyesinin ters teptiği özellikle tuhaf bir vakada, 60 yaşındaki bir adam geçen yıl, sohbet robotuna diyetinden klorürü nasıl çıkaracağını sorduktan sonra üç hafta hastanede kaldı. Adam, yarı ömrü uzun olan zehirli bir madde olan sodyum bromürün sofra tuzunun yerine güvenle kullanılabileceğine ikna olmuştu. Bu maddeyi internetten satın alıp üç ay boyunca kullandıktan sonra, komşusunun kendisini zehirlediğine inanarak acil servise kaldırıldı. Bu adamın vakasıyla ilgilenen klinisyenler sohbet kayıtlarını hiç görmemiş olsalar da, aynı soruyu bot'a kendileri yönelttiklerinde ChatGPT, klorür yerine bromür önermişti.
5. Şifreler, kimlik numaraları veya hesap bilgileriyle ilgili herhangi bir işlem yapmak
Fast Company, geçen Temmuz ayında Google arama sonuçlarında gizlenmiş yaklaşık 4.500 paylaşılmış ChatGPT sohbeti tespit etti. Bunlar arasında, yazarlarının kimliklerinin tespit edilmesine yol açabilecek kadar ayrıntılı bir şekilde bağımlılık, istismar ve ruh sağlığı sorunlarını anlatan yazışmalar da bulunuyordu. Bu sohbetler, kullanıcıların paylaşım menüsündeki “bu sohbeti aranabilir hale getir” seçeneğini işaretlemeleri nedeniyle indekslenmişti; görünüşe göre bu işlem, kullanıcıların bu seçeneğin ne işe yaradığını anlamadan gerçekleştirilmişti. OpenAI hızlı bir şekilde harekete geçti; raporun yayınlanmasından bir gün sonra bu özelliği devre dışı bıraktı ve sohbetleri Google’dan sildi.
The New York Times’ın telif hakkı davası kapsamında, OpenAI’ye Mayıs 2025’te silinmiş ve geçici sohbetler de dahil olmak üzere tüm kullanıcı sohbet kayıtlarını saklaması emredildi. Bu yükümlülük 26 Eylül 2025’e kadar sürdü ve bu süre zarfında saklanan kayıtlara davacılar erişebildi. Daha sonra bir yargıç bu emri iptal etti; bu da OpenAI’nin artık tüm ChatGPT verilerini saklamak zorunda olmadığı anlamına geliyor. Ancak dört ay boyunca bunu yaptı ve bu durum tekrar yaşanabilir.
ChatGPT’nin varsayılan olarak size söylediklerinizi hatırladığını bilmek hayati önem taşır. Bu durum, şifreler ve hesap bilgileri gibi hassas konular için riski önemli ölçüde artırır; zira bu bilgiler oturumlar arasında kalıcı olabilir ve bir kez bile bahsedilmesi durumunda sonraki sohbetlerde yeniden ortaya çıkabilir. Şifreler, tek kullanımlık giriş kodları, Sosyal Güvenlik ve pasaport numaraları, tam kart veya banka hesabı bilgileri ve kimlik belgelerinin fotoğrafları asla komut satırına girilmemelidir. Sohbetin güvenliği ihlal edilirse veya başka bir şekilde erişilirse, bu bilgilerin her biri sizi kimlik hırsızlığı riskine maruz bırakır.
Altman, bu gizlilik sorunlarını çözmek için bir “AI ayrıcalığı” çağrısında bulundu (tabii ki öyle yapacaktı). Ancak yasa koyucular böyle bir düzenleme yapana kadar, ChatGPT’ye yazılan her şeyin bir gün başka biri tarafından size okunabileceği varsayımı en güvenli yaklaşımdır. Bu durumdan rahatsızlık duyuyorsanız, bu bilgileri komut satırına yazmayın.
Kaynak: Never use ChatGPT for these five tasks - Luke James / Engadget
.
