Yazılım üzerinde tamamen kapalı bir ortamda milyarlarca simülasyon yapılıyor.
Elbet benzer bir sonuç alabileceklerini kanıtlayan veriler vardır. Dikkat çekici bir sunum
yapmak için bu verilerden elde edilmesi muhtemel sonuçları olmuş gibi aktarmayı
seçmiş olabilirler. (Askerler yapar böyle şeyler.) İşin rengi değişince geri adım atmış olabilirler.

Doğrudan bu şekilde bir simülasyon yapılıp yapılmadığı kesin değil. Ama veriler gerçek.

Bunun olabileceğini 80 yıl kadar önce Isaac Asimov yazdı. Önermeler üzerinden
öncelik ayarlaması düzgün yapılmadığında, yapay zeka sistemleri doğruyu yanlışı
ayırt etmek için uğraşmaz. Öncelikli hedefe kilitlenir ve tüm engelleri aşar.
Engeli incelemez bile.

Benzer sistemler çeşitli çatışma bölgelerinde sivil ve silahlı unsurların ayırt edilmesinde de
kullanıldı. Fakat ilk kullanımlarında ciddi sıkıntılar çıkardılar. Şimdi ne durumda bilmiyorum.
İnsan hayatına bu tip sistemlerin müdahalesine henüz izin verilmemesi gerekir.

ChatGPT basit bir dil modeli. Gizli olarak çok farklı ve güçlü şeyler geliştiriliyor. Yavaş yavaş
gün yüzüne çıkacaklar. Ve bunlar sadece yazı yazmayacak. İnsanlık olarak çok daha fazla
dikkatli olmamız gereken bir zamana giriyoruz