ChatGPT'ye Anlattıklarını Bir İnsan Okuyor

Geçen ay bir haber çıktı: OpenAI'ın işe aldığı yüklenicilerin, kullanıcıların ChatGPT'ye yazdığı mesajları okuduğu ortaya çıktı. Program bir kod adıyla anılıyordu. Haberi okuduğumda aklıma iki yüz elli yıl önce Viyana'da ortaya çıkan bir satranç makinesi geldi: kimse yenemiyordu, herkes mekanizmayı konuşuyordu, ama içinde bir insan oturuyordu. O makineyi çözen adam Edgar Allan Poe'ydu ve kullandığı yöntem bugün de işe yarıyor. Bu videoda ChatGPT'ye yazdıklarınıza gerçekte ne olduğunu ipucu ipucu topladık: hangi ayar neyi kapatıyor, hangi sözleşme ne vaat ediyor, mahkeme kararı devreye girdiğinde ne oluyor ve yapay zekânın "yapay" kısmını kimler taşıyor. 1770'in sarıklı satranç makinesinden Amazon'un bu ay kapattığı Mechanical Turk'üne, oradan bugün modelleri eğiten görünmez işçilere kadar.

https://www.youtube.com/watch?v=zbUurdDEPqM

Az çok tahmin edilebiliyor. Her ne kadar 3. Kişilerle paylaşılmaz dense de gerçeği kapsayan bir durum olduğuna kimse inanmıyordur.

Çok ciddi siyasi bilgiler Ve sıkıntılı suçlar içeren konuşmaları kelimelerden anlayıp chatgpt şirketine ileten bir algoritma vardır. Onlarda bu iletileri görünce onları okuyordur. Onun haricinde ''Selam nasılsın'' bugün yağmur var mı '' gibi şeyleri okuduklarını sanmıyorum .Mesela gizli bir istihbarat verirsin . Aİ bunu okur. ortada tuhaf bişey varsa Şirkete bildirim verir. Bilgiler de CİA ya filan satılır. Bu ticareti de '' Mahkeme kararı celpler (subpoena) veya ulusal güvenlik yasaları '' gibi etiketlerle normalleştiriyorlardır.

Bence en sağlıklısı her sohbeti bir gün biri okuyabilir diye düşünüp ona göre yazmak. Ayarlardan konuşmaların model eğitiminde kullanılmasını kapatabiliyorsun ama bu verinin hiç saklanmadığı anlamına gelmiyor, kötüye kullanım kontrolü için bir süre tutulabiliyor, mahkeme kararı gelirse o süre de uzayabiliyor. Biz işte basit bir kural koyduk. Müşteri verisi, şifre, anahtar ve kişisel bilgi asla sohbet penceresine girmiyor, gerekirse önce isimleri ve numaraları maskeliyoruz. Şirket verisiyle çalışılacaksa kurumsal hesap ya da API tarafı daha doğru, oradaki sözleşme ve veri işleme şartları farklı. Çok hassas işler için de yerelde çalışan model kullanıyoruz, veri hiç dışarı çıkmıyor.