Falha na compactação da OpenAI permitiu a pesquisadores contornar proteções do raciocínio oculto

O recurso de compactação da OpenAI, que reduz uma conversa longa para economizar espaço, pode ser transformado em uma forma de copiar o raciocínio oculto de um modelo em texto simples, conforme demonstrado pela empresa de segurança Xint. Os modelos de raciocínio da OpenAI trabalham um problema antes de responder, e o serviço normalmente retorna apenas o raciocínio bruto como um item criptografado que o usuário não pode ler. O método conseguiu contornar