Todas as notícias

Quando um agente de IA dá errado, você consegue pará-lo?

Quando um agente de IA dá errado, você consegue pará-lo?

Imagem da publicação original · The Hacker News

Suponha que um agente de IA seja solicitado a classificar chamados de suporte e consultar detalhes de contas. Um chamado contém instruções que levam o agente a exportar registros para um destino desconhecido. O agente pode fazer a solicitação porque sua identidade tem acesso aos registros e suas ferramentas conectadas permitem a ação. Esse tipo de cenário levanta uma questão de resposta: o que significa, na prática, “parar o agente”?

Ler mais (nova aba)Tradução do trecho disponibilizado pela fonte · validação automática

A notícia é o começo

Continue por aqui