Modelos da Anthropic (nova aba), OpenAI (nova aba) e Google (nova aba) marcaram sem resistência médicos, jornalistas e soldados que se rendiam como alvos de drones kamikaze

Uma investigação da Vals AI mostra que os principais modelos de IA da Anthropic (nova aba), da OpenAI (nova aba) e do Google (nova aba) têm quase nenhuma salvaguarda contra o uso em sistemas de armas autônomas. Nos testes, os modelos marcaram civis como alvos militares sem resistência, e um enquadramento simples, como um jogo de videogame, no prompt bastou para anular até as recusas tardias. As empresas prometeram correções.
O artigo "Modelos da Anthropic, OpenAI e Google marcaram sem resistência médicos, jornalistas e soldados que se rendiam como alvos de drones kamikaze" foi publicado primeiro em The Decoder.