Agent Substrate: Advancing Kubernetes for Agents at Scale
NVIDIA apresenta Agent Substrate para adaptar Kubernetes ao comportamento de agents, que passam muito tempo ocioso esperando prompts humanos, resultados de ferramentas ou respostas de modelos.
- O artigo critica o padrão de executar one Pod per agent no Kubernetes, apontando que agents ficam majoritariamente idle aguardando prompt humano, tool result ou model response.
- Engenheiros devem reconsiderar arquitetura de deploy: em vez de one Pod per agent, avaliar runtime compartilhado ou multiplexing para reduzir custo e latência ao escalar agents.
- #agents
- #kubernetes
- #cloud
- #cncf
- #compute