Segurança do agente de IA: monitoramento, permissões e aprovação humana

B2Shift · Publicado a 27 de agosto de 2026 · Atualizado a 27 de agosto de 2026

Um agente de IA que pode realizar ações — e não apenas gerar texto — herda os requisitos de segurança de tudo o que está conectado, além de alguns dos seus próprios. A maioria dos incidentes remonta ao acesso demasiado amplo e não ao modelo em si.

O acesso com privilégios mínimos é o controle que mais importa

Um agente deve possuir sua própria identidade e suas próprias permissões de escopo, nunca as credenciais emprestadas de um administrador. Conceda apenas os sistemas e campos exigidos pela tarefa específica. Ampliar o acesso posteriormente é uma alteração de configuração; descobrir que um agente teve acesso desnecessário após um ano de funcionamento é um problema de auditoria, não uma solução rápida.

Divida as ações por reversibilidade, não por quão impressionantes elas soam

Leitura, rascunho, classificação e roteamento geralmente podem ser executados sem supervisão. Enviar dinheiro, publicar um preço, responder a uma reclamação em seu nome ou excluir um registro merecem uma porta de aprovação humana – ou, no mínimo, uma janela de atraso na qual uma pessoa pode intervir. Tratar todas as ações da mesma forma restringe excessivamente os casos úteis ou restringe insuficientemente os perigosos.

Monitore desvios, não apenas tempo de atividade

Um agente pode estar tecnicamente on-line e silenciosamente errado: respondendo com conhecimento obsoleto, classificando incorretamente uma parcela crescente de solicitações ou saindo do escopo pretendido à medida que os sistemas upstream mudam. O monitoramento precisa acompanhar a qualidade dos resultados e as tendências de confiança, e não apenas se o serviço responde.

Torne cada decisão reconstruível

Cada ação deve registrar o que a desencadeou, que contexto usou, o que decidiu, sua confiança, se um humano a aprovou e o que mudou como resultado. O OWASP Top 10 para aplicações LLM documenta as classes de falhas comuns – agência excessiva, manipulação de saída insegura, injeção imediata – que vale a pena verificar seu projeto antes do lançamento.

O tratamento da confiança é um caminho projetado, não uma reflexão tardia

Os casos de baixa confiança devem ter um destino explícito: uma pessoa nomeada ou uma fila de revisão, nunca uma melhor estimativa silenciosa. O modo de falha que você deseja é "isso foi para um humano"; aquele contra o qual você está projetando é "isso deu errado e ninguém percebeu por três semanas". Consulte Agentes de IA/Funcionários de IA para saber como isso é definido em uma construção e como manter a automação de IA segura e ciente do GDPR para a metade deste quadro de proteção de dados.