Jornal do Dev

Uber cria framework de segurança para agentes autônomos

IA & AgentesEdição nº 19

Uber's Secure AI Framework Governs Autonomous AI Agents across Their Lifecycle

Uber desenvolveu um framework que avalia se ações de agentes autônomos são apropriadas considerando pedido do usuário, propósito do agente, permissões e contexto da interação.

Uber publicou um framework de segurança para agentes autônomos que avalia, ao longo do lifecycle, se uma ação é apropriada considerando pedido do usuário, propósito do agente, permissões e contexto da interação. O trabalho reconhece que controles de identidade e autorização tradicionais não conseguem impedir riscos específicos de agentes, como prompt injection, tool e memory poisoning, goal hijacking, behavioral drift e ações motivadas por hallucination, e descreve três camadas: provisionamento (registro do agente, propriedade, intents e classificação de risco), enforcement em runtime (checagens comportamentais antes de executar ações) e Continuous Assurance pós-deploy (observabilidade unificada, auditoria, explainability e replay de interações).

Por que importa: equipes que adotam agentic AI precisam aplicar governance integrada ao agente, trocando controles genéricos por políticas por agente para reduzir falsos positivos e risco operacional. O que fazer: registre e classifique agentes, automatize análise de configuração e dependências, implemente checkpoints de decisão em runtime e mantenha trilhas de execução e gravações para replay e auditoria contínua.

Na área de provisionamento, um agente-robô sobe numa plataforma de registro. Um quiosque verifica seu persona, intents e restrições por ícones enquanto uma máquina chamada Argus analisa código e emite um token de aprovação que é anexado ao agente.
Na sala de execução, o agente tenta pegar uma caixa de ações reais. Um AI Guard está entre o agente e a prateleira segurando um carimbo de veredicto, enquanto um braço runtime chamado Agent Guard traz a ação proposta para inspeção e o guard avalia o contexto antes de permitir ou bloquear.
Na oficina de observabilidade, uma fita chamada trace unificado conecta ações do agente, chamadas de ferramenta e decisões dos guardas. Engenheiros giram uma manivela de replay para rebobinar e revisar interações e testar mudanças de política. A mascote caneca observa no canto.

Quadrinho 1 de 3

  • #agentic-ai
  • #agents
  • #authorization

Ver a edição completa