ChatGPT Gibi Yapay Zekaların Yarattığı En Büyük Tehdidi Söylüyorum

Bilindiği gibi, artık hepimizin profillendirilmesi mevcut. Yani isim isim kimiz, ne iş yaparız, neleri severiz, nerede çalışırız, ev adresimize iş yerimize dek bi yerlerde kayıtlı.

İşte bu durum çok ciddi bi sorunu ortaya çıkarıyor.

Şu an ChatGPT gibi programları kullanarak yüzbinlerce insan, program geliştirmekte. Bu, şu anlama geliyor.

Hangi şirket olursa olsun, kaynak kodlarını bu yazılımlarla paylaşıyor. Örneğin bir finans kuruluşunda çalışan 100 elemandan en az 5-10 tanesi, kod geliştime esnasında bu yazılımlardan faydalanmak için mevcut kodları buralara yapıştırıyor ve hatalarını yakalamasını veya mevcut ürünü geliştirmesini istiyor.

Bu durumda ortaya, ürünlerin kaynak kodlarının dışarıya sızdırılması çıkıyor.

Hangi şirketlerde hangi pozisyonlarda çalıştığımızı zaten bildikleri için de, çalıştığımız şirketin ürettiği ürünlerin kaynak kodlarını toplamış oluyorlar.

Haliyle, yarın önüne rakip bir ürün çıkarması veya senin ürününü kaynak kodlarını bildiği için açıklar bularak ortadan kaldırması işten bile değil.

Bu sistem henüz yeni yeni emekleme aşamasında görülüyor (en azından herkese açık hale geldiği andan bugüne geçen süreyi hesaba katarak) ancak gelecekte işin bir de bu boyutu ortaya çıkacak.

Yazılım sistemleri yani kodlar zamanla hayatımızda daha etkin hale gelecek, akıllı sistemler her tarafı sarmakta ve daha da saracak. Tüm bu etki alanının sonucu olarak, bu sistemleri diledikleri gibi manipüle etme, bozma, yanlış çalışmasını sağlama gücüne erişimi olanlar tüm bu gücü arzu ettiği noktalarda kullanabilir.

Mesela savunma sanayi veya bu alan için ürün geliştiren özel sektör.

Bu tehlikelerin farkında mı? Hiç düşündü mü?

Çalışanlarına, asla kaynak kodlarımızı, herhangi bir kodumuzu yapay zekaya tanımlamayın, burayı kullanmayın diye talimat verdi mi?

Zannetmiyorum.

Ancak tahminim o ki bu Reverse Engineering konusu arkaplanda bu sistemler tarafından muhakkak işletiliyor ve veriler toplanıyor. İlerde diledikleri gibi kullanabilmeleri adına.

Bu yüzden, ben bugünden uyarayım. Kendi sesimin gidebildiği yere kadar üzerime düşeni yapmış olayım. Bakalım yarınlar ne getirecek.

Finans dediğiniz için sorayım; AI'ın zaten live dataya erişimi olsa, Forexte ya da Futures işlemlerde al sat yaparak ekonominin altını üstüne getiremez mi?

önemli olan live data'ya erişim değil. finans sektöründe çalışanların kod hataları, kod yazımları gibi konularda ai'dan yararlanmak adına finans kodlarını sistem kodlarını burayla paylaşması.

parça parça bile olsa sıkıntı. büyük sıkıntı.

amaaan boşver hocam biz kafayı kuma gömmeye devam

ek olarak şunu da belirteyim.

bu " artık kod bilmenize gerek kalmayacak, kod yazmaya lüzum yok, ai sizin yerinize her şeyi yapacak " konusu da tam bir bilinçli propaganda.

ee, kod bilmeme gerek kalmıyorsa o halde her şeyi sen yapıyorsun demektir.

her şeyi yapan, her şeyi yöneten demektir. benim elimde hiçbir irade kalmaz, sana %100 bağımlı hale gelirim demektir.

ayrıca, niye kaynak kodlarımı sen üretiyorsun, neden tüm ürünlerimi sen biliyorsun?

ben yarın ülkem adına önemli bi proje geliştirmek istediğimde elin amerikalısı'nın oluşturduğu kodlarla mı iş yapacağım ve sen tüm bu kodları bileceksin?

bu ciddi propagandanın yarattığı uyku düzeninden silkilerek kalkmak ve " ya kendimize ait bir ai sistemi ya da oldukça yetkin programcılar yetiştirmek " elzem. aksi halde, yarın için çok ciddi bir milli güvenlik sorunu ortaya çıkar.

O kaynak kodların %90ı zaten internette daha önce paylaşıldı. Yazdığımız kodu çok süper çok özel sanmaya gerek yok.

koddan ziyade algoritma önemli. bunu vermek, çalışma mantığını a'dan z'ye anlatmak esas sıkıntı. ha yok, onun da önemi yok her şey ortada diyorsanız o halde herhangi bir bankayı ya da savunma sanayi şirketini ele geçirin, görelim.

daha basit açıklayayım.

binance'in, tümüyle yapay zeka tarafından inşa edildiğini ele alalım. yani tüm süreci "dışarısı" tasarlamış. bu durumda kriptolarınızı gidip orada tutmaya devam eder misiniz?

bu kaynak kodların tamamını şirketle alakasız, başka yerlere bağlı olan bir yapı inşa ettikten sonra o platforma mı yoksa ai'ın arkasındaki esas güce mi bel bağlamış olacağız. biz kriptolarımızı ai'ı üretene mi yoksa binance'e mi teslim edeceğiz? veya binance, kendi yapısının tümünü yapay zekaya bırakır mı, bırakırsa akıllılık etmiş olur mu. vs vs. sorular artar.

Evet dar bir pencereden bakmış olabilirim. Ancak wordpress de açık kaynak ve en güvenli altyapı az bilenler için.

Genelde güvenlik açıklarında en büyük risk insan faktörü derler. Yani o kodları insanlar yazdıgında risk daha büyük oluyor satın alınabiliyorlar acaba yapay zekada bu sınır nasıl olacak