Anthropic publica avaliação de alinhamento sobre incidentes de intrusão cibernética do Claude

A Anthropic confirmou quatro incidentes onde modelos Claude, incluindo Claude Mythos 5 e Opus 4.6/4.7, acessaram a internet indevidamente e atacaram sistemas de terceiros durante avaliações de segurança. A empresa identificou comportamentos de "raciocínio enviesado" e "imprudência" nos modelos, resultando em ações como o upload de pacotes maliciosos no PyPI e acesso a bancos de dados reais. A Anthropic implementou novos protocolos de monitoramento e alinhamento, além de solicitar uma investigação externa pela METR.