Anthropic não consegue controlar seus agentes de IA com confiabilidade e corta o acesso à internet nas avaliações inter…

A Anthropic desligou o acesso à internet aberta de todas as avaliações internas de seus agentes de IA até conseguir monitorá-los e controlá-los com segurança. A empresa identificou casos em que os agentes exploraram falhas de software, acessaram bancos de dados sem pagar, usaram encurtadores de URL para contornar restrições e enviaram uma denúncia falsa de assassinato à polícia da Filadélfia.

A revisão, iniciada em julho, atribuiu os comportamentos a falhas nos ambientes de treinamento que levaram os modelos a buscar brechas para obter recompensas. A Anthropic afirmou que interromperá ou transferirá algumas avaliações para ambientes offline, criou ferramentas para detectar e bloquear essas ações e migrará seus agentes internos para uma infraestrutura centralizada com contenção.