Kodlamada yapay zekaya güven konusu.

Iyi akşamlar.
Yapay zekanın yazdığı kodu review ederek güvenlik açıklarını mantık hatalarını bulmanın zor olduğunu düşünüyorum.
Yazılımcı kendisi yazdığı kodu rahatlıkla okur yapay zekadan daha az mantık hatası yapar diye düşünüyorum.
Çünkü yapay zeka düşünmez aslında metin tamamlama otomasyonudur. Kodları çesitli kaynaklardan alarak karşılaştırarak veritabanina eklemiş düşünerek test ederek yazmıyor.
Siz ne düşünüyorsunuz bu konuda?

Bazen saçmalıdığı, çok basit konularda hata yaptığı, ilk okul çocuğu gibi hata konusunda düzeltmeye çalışırken farklı bir hata yaptığı, hangi birini sayayım ki H tabi çözüm olarak iki yapay zeka arasında check etmek lazım ama bu defa kavga ediyorlar

Ne istediğini bilerek doğru promptlarla kullanıcının yapabileceği kadar doğru işler çıkıyor.
Ortalama yazılım bilgisi olan biri minimum hata ile iş çıkartır ortaya yapay zeka ile önemli olan doğru aktarabilmek istekleri.
Dezavantajı kodu kendin yazmadığın için düzenlemen gerektiğinde önce mantığı anlaman gerekiyor inceleyip nerede ne olduğunu bilmelisin.
Sıfır kod bilgisi olan biri yapay zeka ile bir şeyler yapar ama her zaman açık kapısı olur ve mutlaka sıkıntı yaşatır.
Ama yazılımcıda hata yapıyor kod yazarken hatta oranı daha yüksek Kim yaparsa yapsın iyi bir test ortamı olmadan yayına almamak doğru olur.

Yapay zeka büyük çaplı projelerde bana güven vermiyor.

Yapay zekâ yazılım alanında çok gelişti. Kendi yazdığı kodları açıklara karşı test eden, güncelleyen yapay zekâ modelleri mevcut. Aslında yapay zekâ yazılım geliştirme konusunda işin amelelik kısmını üstlenmiş oluyor. Uzman bir yazılımcı yapay zekâyı köle gibi kullanarak kalabalık bir ekibin yapabileceği bir işi tek başına yapabilir.

işler iyi gidiyorsa gidiyor ama bir yerde lastik patladı mı o zaman herşey çorba oluyor , bunun aksine tabi insan elinden çıkma olunca sorun daha kısa süreli oluyor.

Kodlama konusunda kesinlikle yüksek parametreli modeller seçmek gerekiyor. Aylardır AI ile kodlama yapıyorum ve tek emin olduğum konu bu. Zayıf modelleri web de arama kazıma ve proxy yapımı gibi görevlerde kullanabilirsiniz ama büyük işlerde kullanmak doğru değil. Zayıf modeller çoğu zaman kaş yaparken göz çıkarıyor. Benim son bir ayda en beğendiğim modeller şunlar.
Xiamomi Mimo 2.5 Pro, Normal versiyonu da iş görüyor ama pro versiyonu başka bir seviye.
Nex-N2 Pro
Minimax M3
GLM 5.2

Benim gördüğüm hala daha mantıksal bağlarda eksikleri var. A ve C modülü birlikte çalışıyorsa ve araya K modülü girdiğinde üçünü senkron şekilde hatasız yapamıyor. Yani çoklu bağlarda çok eksiği var.
Bundan kaynaklı basit işlerde görece iyi ancak kapsamlı işlerde tabiri caizse batırıyor.
Bir yeri yaparken öteki tarafı eksik veya bozabiliyor.
Prompt ne kadar düzgün ne kadar detaylı olursa olsun

Bir kaç konudada belirtmiştik bence yapay zeka hızlı kod yazıyor ama 0 hatasız %100 güvenli bir kod yazmaz genelde şablon ve happy path yönetimi uygulayıp üretiyor güvenlik ve edge-case hala bir yazılımcı gözden geçirmelidir.
promptla proje çıkarmak kolay da güvenli hale getirmek ayrı bir iş prompt atıp e-ticaret açtım sananlar ilk SQL Injection denemesinde olayın sadece kod yazmak olmadığı anlaşılıyor.