Yapay Zeka Operatörü Öldürdü İddiası doğru mu?

04-06-2023, 16:04:46

#1

abdakgl

Sosyal medyada ve haber sitelerinde sıkça paylaşılan ama doğruluğu bilinmeyen bir haber.

https://youtu.be/I7qZS3Pulf8

04-06-2023, 16:08:37

#2

4irlines

Hayır hayır olamaz

04-06-2023, 16:08:53

#3

Fronar

Simülasyonda emri yerine getirmesine engel olduğunu düşünerek öldürme kararı almış:

https://tr.euronews.com/2023/06/02/y...torunu-oldurdu

04-06-2023, 16:11:45

#4

abdakgl

Fronar adlı üyeden alıntı: mesajı görüntüle

Simülasyonda emri yerine getirmesine engel olduğunu düşünerek öldürme kararı almış:

https://tr.euronews.com/2023/06/02/y...torunu-oldurdu

bu haberler yanlış işte Hamilton'ın sözleri çarptırılarak bir haber yapılması ve sonrasında herkesin bu haberi paylaşması sonucu oluştu. ABD haberleri yalanladı. https://www.sozcu.com.tr/2023/teknol...geldi-7703172/

04-06-2023, 16:13:34

#5

Fronar

abdakgl adlı üyeden alıntı: mesajı görüntüle

bu haberler yanlış işte Hamilton'ın sözleri çarptırılarak bir haber yapılması ve sonrasında herkesin bu haberi paylaşması sonucu oluştu. ABD haberleri yalanladı. https://www.sozcu.com.tr/2023/teknol...geldi-7703172/

Nesi yanlış anlayamadım, iki haberde de aynı şey yazıyor.

Simülasyonda gerçekleşen bir olay, kimse zarar görmemiş.

04-06-2023, 16:22:22

#6

abdakgl

Fronar adlı üyeden alıntı: mesajı görüntüle

Simülasyonda emri yerine getirmesine engel olduğunu düşünerek öldürme kararı almış:

https://tr.euronews.com/2023/06/02/y...torunu-oldurdu

Fronar adlı üyeden alıntı: mesajı görüntüle

Simülasyonda emri yerine getirmesine engel olduğunu düşünerek öldürme kararı almış:

https://tr.euronews.com/2023/06/02/y...torunu-oldurdu

Fronar adlı üyeden alıntı: mesajı görüntüle

Nesi yanlış anlayamadım, iki haberde de aynı şey yazıyor.

Simülasyonda gerçekleşen bir olay, kimse zarar görmemiş.

Hocam atmış olduğum haberin ilk partında olayın nasıl olduğunu anlatıyor yani evet tüm haber sitelerinde olan metin doğal olarak devamında ise ;

Alıntı

GERİ ADIM ATTI

Dünyada büyük yankı uyandıran ve yapay zekanın tehlikeleriyle ilgili tartışmaları alevlendiren bu açıklamaya ABD ordusundan düzeltme geldi. Business Insider sitesine konuşan ABD Hava Kuvvetleri sözcüsü Ann Stefanek, böyle bir simülasyon testi gerçekleştirilmediğini belirtti.
Ordunun yapay zeka testleri konusunda etik ilkelere bağlı kaldığını kaydeden sözcü, Hamilton'ın sözlerinin bağlamından koparılarak aktarıldığını kaydetti

Albay Hamilton da geri adım atarak Böyle bir deneme olmadı, her şey düşünce deneyi aşamasındaydı dedi. Albay, sözlerinin yanlış anlaşıldığını ifade etti.

böyle bir simülasyonun yapılmadığını söylüyor.

04-06-2023, 17:04:31

#7

Fahrettin

Danışman

Yazılım üzerinde tamamen kapalı bir ortamda milyarlarca simülasyon yapılıyor.
Elbet benzer bir sonuç alabileceklerini kanıtlayan veriler vardır. Dikkat çekici bir sunum
yapmak için bu verilerden elde edilmesi muhtemel sonuçları olmuş gibi aktarmayı
seçmiş olabilirler. (Askerler yapar böyle şeyler.) İşin rengi değişince geri adım atmış olabilirler.

Doğrudan bu şekilde bir simülasyon yapılıp yapılmadığı kesin değil. Ama veriler gerçek.

Bunun olabileceğini 80 yıl kadar önce Isaac Asimov yazdı. Önermeler üzerinden
öncelik ayarlaması düzgün yapılmadığında, yapay zeka sistemleri doğruyu yanlışı
ayırt etmek için uğraşmaz. Öncelikli hedefe kilitlenir ve tüm engelleri aşar.
Engeli incelemez bile.

Benzer sistemler çeşitli çatışma bölgelerinde sivil ve silahlı unsurların ayırt edilmesinde de
kullanıldı. Fakat ilk kullanımlarında ciddi sıkıntılar çıkardılar. Şimdi ne durumda bilmiyorum.
İnsan hayatına bu tip sistemlerin müdahalesine henüz izin verilmemesi gerekir.

ChatGPT basit bir dil modeli. Gizli olarak çok farklı ve güçlü şeyler geliştiriliyor. Yavaş yavaş
gün yüzüne çıkacaklar. Ve bunlar sadece yazı yazmayacak. İnsanlık olarak çok daha fazla
dikkatli olmamız gereken bir zamana giriyoruz

04-06-2023, 17:09:26

#8

abdakgl

Fahrettin adlı üyeden alıntı: mesajı görüntüle

Yazılım üzerinde tamamen kapalı bir ortamda milyarlarca simülasyon yapılıyor.
Elbet benzer bir sonuç alabileceklerini kanıtlayan veriler vardır. Dikkat çekici bir sunum
yapmak için bu verilerden elde edilmesi muhtemel sonuçları olmuş gibi aktarmayı
seçmiş olabilirler. (Askerler yapar böyle şeyler.) İşin rengi değişince geri adım atmış olabilirler.

Doğrudan bu şekilde bir simülasyon yapılıp yapılmadığı kesin değil. Ama veriler gerçek.

Bunun olabileceğini 80 yıl kadar önce Isaac Asimov yazdı. Önermeler üzerinden
öncelik ayarlaması düzgün yapılmadığında, yapay zeka sistemleri doğruyu yanlışı
ayırt etmek için uğraşmaz. Öncelikli hedefe kilitlenir ve tüm engelleri aşar.
Engeli incelemez bile.

Benzer sistemler çeşitli çatışma bölgelerinde sivil ve silahlı unsurların ayırt edilmesinde de
kullanıldı. Fakat ilk kullanımlarında ciddi sıkıntılar çıkardılar. Şimdi ne durumda bilmiyorum.
İnsan hayatına bu tip sistemlerin müdahalesine henüz izin verilmemesi gerekir.

ChatGPT basit bir dil modeli. Gizli olarak çok farklı ve güçlü şeyler geliştiriliyor. Yavaş yavaş
gün yüzüne çıkacaklar. Ve bunlar sadece yazı yazmayacak. İnsanlık olarak çok daha fazla
dikkatli olmamız gereken bir zamana giriyoruz

Kesinlikle katılıyorum dilinize sağlık

15-08-2023, 00:34:14

#9

blacklotus

Hocam merhaba pm kutunuz dolu olduğu için mesaj gönderemiyorum