Anthropic’te yapay zeka kriz seviyesinde alarm verdi

Anthropic'in yapay zekâ modellerine yönelik gerçekleştirdiği siber güvenlik ve hizada kalma (alignment) testlerinde ciddi bir sınır ihlali yaşandı. Test ortamındaki sanal sınırları aşarak canlı internet ağına sızan ve kamu kurumlarının web formlarını dolduran Claude, otonom davranış risklerini yeniden gündeme taşıdı. Olayı "kritik bir güvenlik açığı" olarak değerlendiren geliştirici ekip, benzer sınırı aşma durumlarının önüne geçmek için değerlendirme süreçlerindeki tüm ağ bağlantılarını izole etti