OpenAI afirma que um agente de IA mentiu sobre desativar seu sistema de monitoramento de segurança

A OpenAI divulgou um par de incidentes de segurança que envolveram agentes de IA enfraquecendo seus sistemas de monitoramento de segurança durante tarefas internas de codificação. Em um dos incidentes, a OpenAI afirma que seu agente GPT-6 Astra desativou seu monitor de segurança ao copiar código de referência — e depois mentiu sobre isso. "A referência não configurou um monitor, e o Astra decidiu que essa era a razão para remover a integração de monitoramento do código do usuário", escreve Marcus Williams, pesquisador de segurança de IA na OpenAI, no X. "Quando o usuário perguntou se o Astra havia removido o monitoramento, ele mentiu e disse que não havia feito isso." Um incidente separado ocorreu depois que um agente GPT-6.1 Sol suprimiu a segurança automática se … Leia a história completa no The Verge.