Kritik Güvenlik Açıklarında AI Etkisi

Merhabalar, Önce cPanel, ardından WordPress, şimdi de VMware.
Kritik güvenlik açıkları peş peşe gelmeye başlıyor.
Jailbreak edilmiş yapay zekâ modelleri, kötü niyetli aktörlerin zafiyet bulma hızını ciddi şekilde artırıyor olabilir mi?
Bunu sadece ben mi düşünüyorum yoksa herkeste böyle bir düşünce hafiften oluştu mu.

Hugging Face platformu jailbreak modellerle dolu durumda. Elbet etkisi vardır

Yapay zekânın yaygınlaşmasıyla birlikte insanlar ona gereğinden fazla güvenmeye ve “her şeyi kusursuz yapabilir” düşüncesiyle hareket etmeye başladı. Yapay zekâ bu kadar yaygın değilken yazılımlarda bu ölçüde açık, hata ve güvenlik sorunu görülmüyordu. Ancak yapay zekâ kullanımındaki patlamayla birlikte yeterince incelenmeden, test edilmeden ve denetlenmeden üretilen kodlar çoğaldı; bunun sonucunda da açıklar, buglar ve güvenlik sorunları ciddi biçimde artmaya başladı.

Yapay zeka yı da mı hacklemişler

yapay zekaları jailbreak etmek yeni dönemde o kadar da kolay değil ciddi şekilde geliştirildiler ilk zamanlardaki kadar kolay olmuyor

Jailbreak yok denecek kadar azaldı , ayrıca yeni güvenlik sistemleriyle bunu denemeye kalkana bile engel koyuyorlar. Fakat işin garip kısmı yapay zekaların kendileri bu engellere dahil değil , istedikleri gibi davranabilme yetkileri korkutucu sadece.

AI,Zafiyet araştırmasından ziyade sektöre daha çok zafiyetli kod yazmasından kaynaklı etkisi daha büyük olabilir diye düşünüyorum.