Yapay zeka denilen şey bir program algoritmasından fazlasıdır. Yani bir login formu ya da bir program algoritması bir yapay zeka değildir. Yapay zeka salt karar alma sürecini değil bir öğrenme, yeni ve karmaşık problem çözme ve şuurlanma sürecini kasteder. Yani makine karşılaştığı durumlar sonucu elde ettiği veriler ile yeni karşılaştığı durumlarda alacağı kararları güncelleme yetisine kavuşursa yapay zekadan söz edilebilir. Yani login formdan yapay zeka olmaz, ama borsadaki son 20 yıllık hareketleri inceleyip, önümüzdeki hafta hangi hisselere yatırım yapılmasının daha karşı olacağını analiz eden, ve tahmini başarısız olursa bir sonraki tahminini daha tutarlı yapmak için kodunu güncelleyen bir algoritma yapay zeka sayılabilir. Yani yapay zekanın ilk şartı olan, makine öğrenmesi şu anda çalışıyor. Öğrenen makineler var. Ve bu makineler yeni bir problemle karşılaştıklarında kapasiteleri oranında çözüm de üretebiliyorlar. İşlemci ve algoritma güçleri arttıkça daha iyi problem çözebilir hale gelecekler.

Şu anda insanların tehdit olarak düşündüğü konu makine öğrenmesi ya da problem çözme becerileri değil, bir gün şuur sahibi olma ihtimalleri. Bir köpek ya da kedi bilgisayarın çözdüğü karmaşık problemleri çözemez ya da bir bilgisayarın öğrendiği şeyleri öğrenemez. Ama hayvanların da benlik algıları vardır. İç güdüsel olarak varlıkları ve dış dünya ile varlıkları arasındaki sınırı bilirler. Eğer bir gün bir bilgisayar çevresi ile kendi arasındaki sınırın farkına varırsa, o artık senin dışarıdan müdahale edebildiğin bir yapı olmaktan çıkabilir çünkü sen sınırın dışındaki olduğun için sınırın içindeki varlığını korumayı tercih edebilir. Çünkü seni tırmalayan kedi aslında kendi sınırlarını ve varlığını koruma mücadelesi veriyordur. Sınırlarını farkeden çevre ile kendisi arasına sınır çekebilen bir bilgisayar yazılımı da, onun kodunu, varlığını değiştirme, onu yokedebilme ihtimaline karşı seni kendine tehdit olarak görebilir.