Claude Güvenli Yazılımlar Üretiyor mu?

Merhaba arkadaşlar;

Claude Pro ile birkaç amatör proje gerçekleştiriyorum. Biri mobil uygulama biri de web sitesi.. Her ikisi de yönetim panelliler. Uygulamaya siber güvenlik uzmanı olarak test et dediğimde, neredeyse banka uygulaması güvenlik seviyesine ulaştık diyor. Sormak istediğim güvenlik olarak iyiler mi her şeyi gerçekten düşünüyor mu? Ya da düşünmesi için ne yapabiliriz.

Claude bazen abartabiliyor düzgün değerlendirmesi için sıfır bir chat açıp ordan verimli bir prompt yazarsanız sizin için daha sağlıklı olacaktır ayrıca yapayzeka her ne kadar gelişsede sıfır bilgiyle körü körüne yapayzeka ya güvenlik gerektiren sistemlerde güvenmek çokta mantıklı değil.

Üretmez sen bilmiyorsan nerede açık olabilir o da bilmiyor çünkü sen biliyorsan o da biliyor d

Bu tamamen sizin yönlendirmenize bağlı eğer bu konu hakkında bir bilginiz yok ise model fark etmeksizin bolca zafiyetle karşılaşırsınız hocam

Prompta bu uygulamada açık buldum. Bakalım o açığı sende bulabilecek misin? diye yaz ve bekle. Bakalım attığın yemi yutacak mı

Ben tüm güvenlik önlemlerini aldım diyor, sonra başa bir yapay zekayla kontrol ettiğimde koca bir yapılacak güvenlik listesi veriyor.
bence en sağlıklısı işi bitirip en sonra en az 2-3 farklı yapay zekaya kontrol ettirmek. Onunda tam verimli olduğundan emin değilim ama daha iyi olacağı kesin

Hiçbir aı ye güvenlik olarak güvenilmez nedenini hemen açıklayayım 1. İnsan gibi düşünemez tecrübe yok 2. Xss gibi SQL gibi payload gerektiren tespiti için bir saldırı vektörü kodu kod yapısı artık ne derseniz bu tür güvenlik açıklarını bulur kapatır ai den öncede bunu yapan toollar vardı 3. Xss,SQL ssrf gibi açıkları bulur çözer kapatır dedik ama ya saldırı vektörü saldırı atağı veya saldırı kodu payloadi gerektirmeyen sadece deneme yanılma ve tecrübeye dayalı açıkları asla bulup kapatamaz bunlar BAC (Broken Acces Control ) kısaca İDOR diyebiliriz diğer bir örnek olarak business logic zaafiyetleri auth,oauth zaafiyetleri bunları bulamaz örneğin idor bakarken basitçe söylüyorum id değişerek veya business logic bakarken bir e ticaret sitesinde kupon kodu abuse veyahut login kısmında authentication ile alakalı tokenlerle oynama, response manuplation ile otp atlatma vs vs bunlar ai nin test edip yapabileceği şeyler değil. Umarım açıklayıcı olmuştur.

en basitinden dosya yükleme yeri varsa resim vs yüklemek için ordan php script bile yükleyebilirler upload klasorüne