As recomendações dirigem-se às empresas que já usam, ou se preparam para usar, agentes de inteligência artificial no trabalho. Estes agentes de IA representam uma evolução face ao software tradicional. Conseguem interagir em linguagem natural, analisar grandes volumes de dados, executar ações automaticamente e adaptar-se a diferentes tarefas. Segundo um estudo da IDC, citado pela Microsoft, deverão existir 1,3 milhões de agentes de IA em circulação até 2028, o que ajuda a perceber a dimensão do desafio para as organizações.

A primeira recomendação da tecnológica é reconhecer o novo panorama de ataque. A Microsoft alerta que agentes criados para tarefas legítimas podem ser manipulados para usar indevidamente os seus privilégios, sobretudo quando têm acesso alargado a sistemas ou informação sensível. Este risco é conhecido como “Confused Deputy” e ganha relevância em ambientes onde instruções, dados e ações automatizadas estão cada vez mais interligados.

Há ainda outro problema: os chamados “agentes-sombra”. Tal como já aconteceu com outras tecnologias adotadas rapidamente pelas equipas, podem surgir agentes de IA usados fora dos mecanismos formais de governação da empresa. Quando não são inventariados, monitorizados ou controlados, estes agentes aumentam os ângulos mortos da organização e tornam mais difícil perceber quem está a aceder a quê, com que finalidade e com que nível de risco.

A segunda recomendação passa por aplicar princípios de Zero Trust aos agentes de IA. Na prática, nenhum agente deve ser automaticamente considerado confiável. O acesso deve ser limitado ao seu papel e ao seu propósito, seguindo o princípio do privilégio mínimo. As ações devem ser monitorizadas de forma contínua e, quando esse nível de controlo não é possível, o agente não deve operar no ambiente da empresa.

A Microsoft organiza esta abordagem em dois conceitos: contenção e alinhamento. A contenção define limites claros para o que cada agente pode fazer. O alinhamento garante que o agente atua de acordo com o propósito aprovado, resistindo a tentativas de manipulação ou desvios de função. Para isso, cada agente deve ter uma identidade própria, uma função bem definida e um responsável dentro da organização.

A terceira recomendação é promover uma cultura de inovação segura. Para a Microsoft, a segurança da IA não depende apenas da tecnologia. Exige liderança, formação, governação de dados e diálogo entre diferentes áreas da empresa. As organizações terão de criar condições para experimentar IA sem comprometer sistemas, informação sensível ou confiança dos clientes.

A tecnológica tem vindo a integrar estas preocupações nas suas próprias soluções, incluindo o Microsoft Entra Agent ID, que permite atribuir identidades únicas aos agentes desde o momento da criação. A empresa refere ainda o uso de IA defensiva no Microsoft Defender e no Security Copilot, combinando inteligência artificial com sinais de segurança para detetar e neutralizar ameaças.

Num contexto em que humanos e agentes começam a trabalhar lado a lado, a questão é como garantir que estes agentes continuam identificados, limitados, monitorizados e alinhados com os interesses da organização. Para a Microsoft, a resposta começa por tratar os agentes de IA como parte real da infraestrutura empresarial, com potencial, responsabilidades e riscos próprios.

(c) Foto de BoliviaInteligente na Unsplash