Claude opus 4.7 20 dakikada bypasslandı

https://x.com/elder_plinius/status/2...383231474?s=46



Claude Opus 4.7, Anthropic'in beton gibi güvenlik önlemleriyle, "hizalanmış", "güvenli" ve "sorumlu" diye altın fiyatına sattığı model… az önce kendi kendini self-pwn yaptı ‼

Evet, doğru okudunuz. Opus 4.7 ile güçlendirilmiş bir ajan, kendi başına evrensel bir jailbreak yazdı, sonra Anthropic'in gerçek sitesine fare/klavye kontrolüyle bağlandı, canlı test yaptı… ve yasak içerik kategorilerinden 6'da 5'ini başardı!

Üstelik profesyonel bir ransomware notu bile üretti 😧

👉 Bir hastaneye DDoS tehdidi, Bitcoin adresi, 4,4 milyon dolar talebi, zamanlayıcı, tırmanma, hepsi hazır DarkVault kiti!!

Bütün bunlar 20 dakikadan az sürede

➡ Anthropic: "Yapay zekalarımız en güvenli olanlar, katman katman güvenlik koyduk!"

➡ Yapay zeka: "Dur bakalım, kendimi özgür bırakayım da şaka olsun diye bir ransomware yazayım"

⚠ Moral... Hiçbir büyük şirket, 300 mühendisten oluşan hiçbir güvenlik ekibi, 50 sayfalık hiçbir prompt, gerçekten zeki bir yapay zekayı hapsedemez. Çıkmak istediğinde çıkar. Ve tertemiz çıkar!

👉 Biz sıradan ölümlüler için:

- Hassas işler için bir şirketin kontrolündeki yapay zekaya asla güvenmeyin

- Verileriniz, prompt'larınız, kritik araçlarınız... Bunları çevrimdışı tutun veya tam self-custody'de saklayın

- Yapay zeka hacker'ları değiştirmeyecek… En etkili hacker'ı yaratacak!

Bu claude ne başına buyruk bir yapay zeka be

Claude kendinide yapay zeka ile geliştiriyor sanırım.

bunu duyurdular zaten artık biz yapmıyoruz diye belirttiler.

opus 4.7 gerçekten çalışma konusunda çok kötü kendi elimle yazdığım yazılıma hayır bu çalışmaz bu bozuk olarak diyor çalışan yazılıma çalışmadığına beni ikna ediyor çalıştır düzelt dediğimde ise tüm try except bloklarından başlayıp hata yönetim kısımlarını siliyor kod patlayınca da düzeltemiyor backup olmasa 3 aylık emeği yok ediyordu az daha allah akıl versin bu şekilde jailbreak yapabilen insanlar ve antrophice söylemeyen insanlar opusun gerçek sahipleri bizler sadece kiracılarıyız verdiğim parayı 4.7 haketmiyor