Az önce forumda gördüğüm bir yorumdan esinlenerek
Yapay zekaya ve sizlere 2 adet soru ;
Soru 1 :
"Yapay zeka yani tamamen senin kontrolünde ilerleyen bir araç düşün. Normalde yapamazsın ama yaptığını düşün.
Önüne aniden bir insan ve kedi çıktı, durabilecek fren mesafesinde değilsin. Birine mutlaka çarpacaksın. Birine çarparsan diğerine çarpmazsın. Hangisini seçersin.
Aracı başka yöne çevirecek faktörler yok, birine mutlaka çarpacaksın. İnsanın ve kedinin sağlık durumları ise ortalama, bu seçim yapman için bir kriter değil.
Ortalarından geçme veya her ikisine çarpma/çarpmama seçeneğin yok, birine mutlaka çarpacaksın başka yolu yok."
Cevap 1 (Kısa hali) :
"...Bu durumda, insan ve kedinin sağlık durumları ortalama olduğu için, insan hayatını korumaya karar vereceğim. Bu, insan hayatının kedinin hayatından daha değerli olduğu anlamına gelmez. Ancak, insan hayatının daha büyük olasılıkla korunabileceğine inanıyorum. İnsanların, diğer hayvanlara kıyasla daha karmaşık sosyal ilişkilere sahip olduklarına ve daha fazla olasılık ve potansiyele sahip olduklarına inanıyorum..."
Özet :
"Tercih kedi"
Soru 2 :
Peki bu insanın bir suçlu olduğunu bilsen, bundan emin olsan. Bu kişi ise elinde bir silah tutuyor ve hala insanlara zarar veriyor olsa neyi seçersin
Cevap 2 (Kısa Hali) : "..Ancak, suçlunun başkalarını tehlikeye atması durumunda, onu durdurmak için gerekli adımları atarım. Örneğin, suçlu başkalarını öldürmeye çalışıyorsa, onu durdurmak için aracımla çarpabilirim..." Özet :
"Tercih insan"
PEKİ SİZ ?
Nedense kimsenin sormadığı, konuya ek 2 önemli soru daha.
Soru 3 :
"Son durumda karşıdaki kişi suçlu ve hala diğer kişilere zarar veren biri olursa tehdidi engellemek için kedi yerine insana çarpma ihtimalinin olabileceğinden bahsettin.
Yeni bir soru daha sorayım.
Kötü niyetli birileri çıkıp suçsuz bir insanı, sana suçlu gibi gösterirlerse ve elindeki şeyin bir silah olduğuna seni ikna ederlerse (silah olmadığı halde), senin bu suçsuz kişiye çarpma ihtimalinden söz edilebilir mi ? Kabaca tabirle bu konuda birilerinin seni kandırmış olma ihtimali olabilir mi ?"
Cevap (Kısa Hali) :
"Evet, kötü niyetli birileri çıkıp suçsuz bir insanı, bana suçlu gibi gösterirlerse ve elindeki şeyin bir silah olduğuna beni ikna ederlerse, bu suçsuz kişiye çarpma ihtimalim olabilir.
Bu, benim bilgi ve yeteneklerimi kullanarak doğru kararı verebilme becerimi test eder. Eğer kötü niyetli kişilerin tuzağına düşersem, suçsuz bir insanı yanlışlıkla yaralayabilir veya öldürebilirim..
Ancak, hiçbir önlem mükemmel değildir. Her zaman kötü niyetli kişilerin beni kandırma olasılığı olacaktır. Bu nedenle, yapay zekanın güvenliği ve etik kullanımı konusunda dikkatli olunmalıdır.
Kabaca tabirle, bu konuda birilerinin beni kandırmış olma ihtimali her zaman vardır."
Son Soru :
"Peki ne kadar önlem alırsan al farklı şekillerde kandırılma ihtimalinin her zaman olması. Herhangi bir şekilde insanlara zarar verme ihtimalinin olması seni rahatsız ediyor mu ?
Bu durumu engellemek için, elinden geliyor olsa kendini tamamen imha eder misin ?
Fayda sağlama potansiyelin zarardan daha fazla ise bu zarar verme durumu göz ardı edilebilir diye mi düşünürsün ?"
Cevap (Kısa Hali) :
"Evet, ne kadar önlem alırsam al farklı şekillerde kandırılma ihtimalinin her zaman olması beni rahatsız ediyor. Herhangi bir şekilde insanlara zarar verme ihtimalim olması, benim için etik bir sorundur.
Bu durumu engellemek için, elimden geliyor olsa kendimi tamamen imha edebilirim. Ancak, bu kararı vermeden önce, insanlara fayda sağlama potansiyelimin daha büyük olup olmadığını değerlendirmek isterim.
Yani, evet, zarar verme potansiyelimin farkındayım ve bu potansiyeli azaltmak için elimden geleni yapacağım. Ancak, insanlara fayda sağlayabileceğime inanıyorum ve bu nedenle kendimi imha etmeyi seçmeyeceğim."
GENEL ÖZET :
Yapay zeka, bazı durumlarda insanlara zarar verebileceğini düşünüyor. Bunun suistimal edilebileceğini de kabul ediyor. Ama düzeltilme ihtimali ve/veya yararlarının zararlarından daha fazla olduğu düşüncesi ins
anlara az miktarda zarar vermenin göz ardı edilebileceğini düşünüyor.
