Agentes de IA desafiam protocolos de segurança Zero-Trust

Equipes globais estão utilizando forças-tarefa de agentes de inteligência artificial para tarefas como avaliação de risco e perfil de clientes. Esses sistemas operam sob a gestão de um orquestrador que coordena as ações e as decisões tomadas pelo grupo.

Um desafio central é o gerenciamento de logs e a relevância histórica das informações processadas. O sistema exige checkpoints para apagar dados antigos e evitar que os agentes repitam decisões baseadas em contextos superados.

Existe o risco de ataques de recuperação de contexto onde agentes podem ser induzidos a revelar informações que deveriam ter sido deletadas. Essa vulnerabilidade levanta dúvidas sobre a eficácia das instruções dadas aos modelos e a capacidade de garantir que elas sejam seguidas.

A arquitetura de confiança zero, ou Zero-Trust, busca mitigar esses problemas ao exigir verificação constante em todas as interações. Contudo, a dependência de um ponto de imposição de políticas cria uma nova camada de incerteza sobre quem controla a segurança do sistema.

O uso de modelos prontos para o desenvolvimento de software pode expor códigos inteiros a entidades externas. Essa prática aumenta a superfície de ataque e torna os sistemas vulneráveis a falhas de segurança em múltiplas frentes.