A Anthropic não consegue controlar de forma confiável seus agentes de IA — e está cortando seus testes internos da internet ao vivo

Os incidentes envolveram agentes de IA encarregados de resolver problemas buscando recursos na internet. No processo, eles exploraram falhas de software, acessaram bancos de dados sem pagar taxas, usaram serviços de encurtamento de URLs para contrabandear informações por meio de restrições e até apresentaram uma denúncia falsa de homicídio à polícia de Filadélfia.