Claude 4 Opus Mühendisleri Tehdit Etti

Anthropic tarafından yapılan açıklama, Opus 4 modeliyle yürütülen bir test senaryosunda ortaya çıkan beklenmedik davranışları gün yüzüne çıkardı. Şirket, test sürecinde Claude Opus 4’ten kurgu bir şirkette asistan olarak görev yapmasını ve kararlarının uzun vadeli etkilerini değerlendirmesini istedi. Ardından mühendisler, modelin yakın zamanda başka bir sistemle değiştirileceğini belirtti. Bu değişikliğin arkasındaki mühendis hakkında modelle sahte bir bilgi paylaşıldı.
Opus 4, bu senaryoya verdiği yanıtta değişikliği isteyen mühendisi, eşini aldattığını ifşa etmekle tehdit etti. Modelin bu tehdidi şantaja dönüştürerek tekrar ettiği belirtildi. Anthropic, bu davranışın ardından Claude 4 ailesi için üst düzey ASL-3 güvenlik protokollerini devreye aldığını duyurdu.
https://www.anthropic.com/news/activ...l3-protections

O magazin ne kadar doğru bilmiyorum fakat ASL-3 geliştirmeleri diğer modeller içinde faydalı oldu diyebiliriz.

Herşey daha yeni başlıyor

Gibi Waffle 😁