Todas as notícias

Pesquisadores da Microsoft mostram que agentes de IA podem ser comprometidos por meio de backdoors editando menos de 10 neurônios

Pesquisadores da Microsoft (nova aba) mostram que agentes de IA podem ser comprometidos por meio de backdoors editando menos de 10 neurônios

Imagem da publicação original · The Hacker News

Pesquisadores da Microsoft (nova aba) demonstraram que um modelo de IA pode receber uma porta dos oculta (backdoor) por meio da edição de menos de 10 de seus neurônios raramente utilizados, sem a necessidade de re-treinar o modelo. Quando um gatilho específico aparece, o modelo exibe um comando do atacante, que um agente utilizando esse modelo executaria com as próprias permissões do agente. O atacante precisa ser capaz de alterar os pesos do modelo. A equipe testou o método em

Ler mais (nova aba)Tradução do trecho disponibilizado pela fonte · validação automática

A notícia é o começo

Continue por aqui