# Deploy de agentes de IA com Docker e Kubernetes > Guia para deploy de agentes de IA com Docker e Kubernetes: do container à orquestração K8s, com escalabilidade e observabilidade em produção. URL: https://bixtecnologia.com.br/deploy-agentes-ia-docker-kubernetes/ Idioma: pt-BR Publicado em: 2026-06-29T12:00:00.000Z Autor: Isabella Machado ## Deploy de agentes de IA com Docker e Kubernetes em 2026: guia para produção Guia para colocar agentes de IA em produção com Docker e Kubernetes em 2026. 29 de junho de 2026 8 min de leitura Isabella Machado ## Deploy de agentes de IA com Docker e Kubernetes em 2026: guia para produção O mercado de agentes de IA amadureceu rapidamente nos últimos 18 meses, mas a maioria das equipes técnicas ainda esbarra no mesmo obstáculo: o agente funciona perfeitamente no notebook do desenvolvedor e quebra na primeira semana em produção. O problema raramente está no modelo. Está na infra. Colocar um agente de IA em produção é fundamentalmente diferente de fazer o deploy de uma API REST convencional. Agentes consomem mais memória, mantêm contexto entre chamadas, dependem de serviços externos (LLMs, bases vetoriais, ferramentas customizadas) e têm padrões de uso menos previsíveis. Essas características exigem decisões de arquitetura que começam antes do primeiro `docker build`. Neste guia, o foco é o deploy de agentes de IA com Docker e Kubernetes em ambientes reais: como estruturar a imagem, configurar recursos, escalar com critério e manter observabilidade desde o primeiro dia. ## O que muda quando um agente de IA vai para produção APIs REST convencionais têm comportamento previsível: recebem uma requisição, processam e retornam. [Agentes de IA](https://bixtecnologia.com.br/) são diferentes porque podem encadear múltiplas chamadas a ferramentas, consultar bases de dados, executar raciocínio em loop e manter estado entre interações. Esse comportamento cria três desafios centrais na infraestrutura. O primeiro é o consumo de memória. Um agente baseado em LLM via API não carrega o modelo localmente, mas ainda precisa armazenar contexto de conversas, resultados intermediários de ferramentas e buffers de streaming. Dependendo do caso de uso, o pico de memória pode ser 4 a 10 vezes maior do que o baseline do processo em idle. O segundo desafio é a latência não determinística. Chamadas para [LLMs externos](https://bixtecnologia.com.br/) variam de 200ms a vários segundos dependendo do provedor, do modelo e do tamanho do contexto. Isso afeta timeouts, configurações de liveness probe no Kubernetes e estratégias de retry. O terceiro ponto, frequentemente subestimado, é o gerenciamento de dependências: um agente típico conecta LLM, banco vetorial, APIs externas e ferramentas customizadas. Cada conexão precisa de tratamento de falha independente para que o sistema como um todo seja resiliente. ## Como containerizar agentes de IA com Docker ### Estruturando a imagem para agentes A base de uma boa imagem [Docker](https://docs.docker.com/get-started/) para agentes começa com o isolamento correto de dependências. Use imagens slim ou alpine como ponto de partida. Para agentes que consomem LLMs via API (sem rodar modelo localmente), `python:3.12-slim` é uma escolha sólida. Multi-stage builds eliminam dependências de build do artefato final e reduzem a superfície de ataque. ```dockerfile # Estágio de build FROM python:3.12-slim AS builder WORKDIR /app COPY requirements.txt . RUN pip install --user --no-cache-dir -r requirements.txt # Imagem final FROM python:3.12-slim WORKDIR /app COPY --from=builder /root/.local /root/.local COPY . . ENV PATH=/root/.local/bin:$PATH CMD ["python", "-m", "agent.server"] ``` Para agentes que rodam modelos locais (via [Ollama](https://ollama.com/) ou llama.cpp), o tamanho da imagem cresce substancialmente. Nesses casos, mantenha os pesos do modelo fora da imagem e monte como volume ou carregue de armazenamento externo na inicialização. Embutir pesos de 7B parâmetros (cerca de 4GB) em imagens Docker inviabiliza o pull e o cache nos nodes do cluster. ### Variáveis de ambiente e segredos API keys de LLMs e tokens de serviços externos nunca devem aparecer no Dockerfile nem no código-fonte. No [Kubernetes](https://kubernetes.io/docs/concepts/configuration/secret/), use `Secret` para credenciais e `ConfigMap` para configurações não sensíveis. Em desenvolvimento local, `.env` com `python-dotenv` é prático. Em produção, avalie soluções como HashiCorp Vault, AWS Secrets Manager ou o equivalente na sua nuvem para rotação automática e auditoria de acesso. ## Deploy de agentes de IA com Docker e Kubernetes: orquestração e escala ### Configurando recursos com critério O Kubernetes precisa de `requests` e `limits` de recursos bem definidos para agentes de IA. Sem `limits` configurados, um agente que recebe uma conversa longa pode consumir toda a memória do node e derrubar outros pods em execução. | Componente | `requests` (mínimo garantido) | `limits` (máximo permitido) | Observação | | --- | --- | --- | --- | | Agente via API de LLM | 256Mi RAM, 0.5 CPU | 1Gi RAM, 2 CPU | Ajustar conforme tamanho de contexto | | Agente com modelo local (7B) | 8Gi RAM, 2 CPU | 16Gi RAM, 4 CPU | GPU node quando disponível | | Worker de ferramentas (tools runner) | 128Mi RAM, 0.25 CPU | 512Mi RAM, 1 CPU | Geralmente stateless | | Cache de contexto (Redis) | 512Mi RAM, 0.5 CPU | 2Gi RAM, 1 CPU | Persistência depende do caso | O `readinessProbe` e o `livenessProbe` merecem atenção especial. Agentes que inicializam [conexões com LLMs externos](https://bixtecnologia.com.br/) podem levar mais tempo do que APIs convencionais para ficarem prontos. Um `initialDelaySeconds` muito baixo causa falsos negativos e reinicializações desnecessárias nos primeiros minutos após o deploy. ### Estratégias de escalabilidade para agentes O Horizontal Pod Autoscaler (HPA) funciona bem para agentes stateless, onde cada requisição é independente. Para agentes com contexto de conversa persistente, a escalabilidade horizontal exige que o estado seja externalizado, normalmente em Redis ou em banco de dados com TTL configurado. Nunca armazene o histórico de conversa na memória do processo se a intenção é escalar. Para workloads mais pesados, o padrão de [workers assíncronos](https://bixtecnologia.com.br/) é eficiente: o agente recebe a tarefa, coloca em fila (RabbitMQ, Kafka ou SQS) e retorna um job ID imediatamente. Workers paralelos processam as tarefas de forma independente. Esse padrão desacopla a latência do LLM da experiência do usuário e permite escalar workers de forma separada do serviço de entrada. Para rollouts sem downtime, `RollingUpdate` com `maxUnavailable: 0` garante que sempre há pods disponíveis durante a atualização. Combine com readiness probes bem calibradas para evitar que novos pods recebam tráfego antes de estar completamente prontos. ## Observabilidade desde o primeiro dia Agentes de IA têm comportamento distribuído por natureza: um único request do usuário pode gerar 10 chamadas a ferramentas e 3 consultas ao LLM. Sem rastreamento distribuído, depurar falhas em produção se torna um exercício de adivinhação. [OpenTelemetry](https://opentelemetry.io/) é o padrão emergente para instrumentação de agentes. Frameworks como LangChain, LlamaIndex e PydanticAI já têm integrações nativas com OTEL, o que permite capturar spans por chamada de ferramenta, latência do LLM, tokens consumidos e erros de parsing. Integre com Jaeger ou Grafana Tempo para visualização centralizada. As métricas essenciais para monitorar: latência por etapa do agente (não só end-to-end), taxa de erro por ferramenta, uso de tokens por sessão, tempo em fila (quando usar workers) e taxa de retry nas chamadas ao LLM. Com essas práticas em vigor, o ambiente de produção para agentes de IA deixa de ser uma incógnita. Containerizar corretamente, externalizar estado, configurar recursos com critério e instrumentar desde o início são as práticas que separam um protótipo funcional de um sistema que sustenta carga real. A diferença entre os dois não está no modelo escolhido, mas em como a infra foi construída ao redor dele. Se sua empresa está estruturando a infra para [escalar agentes de IA em produção](https://proposta.bixtecnologia.com.br/), nossos [especialistas](https://proposta.bixtecnologia.com.br/) podem ajudar a definir a arquitetura mais adequada para o seu contexto. Fale com a nossa [equipe](https://proposta.bixtecnologia.com.br/) e avance na maturidade dos seus sistemas de IA. ⬇️ [![Fale com os especialistas da BIX Tecnologia e estruture a infraestrutura dos seus agentes de IA em produção](https://images.bix-tech.com/PT_fb2719e00c.png)](https://proposta.bixtecnologia.com.br/) **O que é necessário para fazer o deploy de agentes de IA em produção com Docker e Kubernetes?** Para colocar agentes de IA em produção com Docker e Kubernetes, são necessários: imagens Docker otimizadas (slim, multi-stage), configuração explícita de `requests` e `limits` de memória e CPU, gerenciamento externo de segredos, probes calibradas para o tempo de inicialização do agente e rastreamento distribuído com OpenTelemetry. O estado do agente precisa ser externalizado em Redis ou banco de dados para permitir escalabilidade horizontal sem perda de contexto. **Por que agentes de IA são mais difíceis de containerizar do que APIs convencionais?** Agentes de IA consomem mais memória, têm latência não determinística dependente do LLM externo e frequentemente mantêm estado entre chamadas. Isso exige configurações de recursos mais conservadoras, `initialDelaySeconds` maiores nos health checks e uma estratégia de externalização de contexto para que o escalonamento horizontal funcione corretamente. Uma API REST convencional não tem nenhum desses requisitos. **Como escalar agentes de IA horizontalmente no Kubernetes?** Agentes stateless escalam com HPA normalmente. Para agentes com histórico de conversa, o estado precisa ser externalizado em Redis ou banco com TTL antes de escalar. Uma alternativa eficiente é o padrão de workers assíncronos: o serviço de entrada recebe o request e coloca em fila; workers independentes processam e retornam o resultado. Isso desacopla a latência do LLM da experiência do usuário final. **Qual a diferença entre deploy de agente com modelo local e via API de LLM?** Agentes que consomem LLMs via API (como OpenAI, Anthropic ou Google Gemini) têm imagens menores e menos requisitos de hardware, mas dependem de latência de rede e quotas de token. Agentes com modelo local precisam de imagens maiores, mais RAM (8GB ou mais) e idealmente GPUs. A escolha depende de custo, latência aceitável, privacidade dos dados e volume de requisições. A BIX Tecnologia trabalha com ambas as arquiteturas conforme a realidade de cada operação. **Como monitorar agentes de IA em produção com Kubernetes?** Use OpenTelemetry para rastreamento distribuído: capture spans por chamada de ferramenta, latência por etapa do agente e tokens consumidos por sessão. As métricas essenciais são: latência end-to-end, taxa de erro por ferramenta, uso de tokens por sessão e taxa de retry nas chamadas ao LLM. Ferramentas como Jaeger, Grafana Tempo e Prometheus são padrão no ecossistema Kubernetes e integram bem com frameworks de agentes modernos. ## Artigos relacionados Inteligência Artificial ### [FinOps para IA: como medir e reduzir o custo de LLM na empresa](https://bixtecnologia.com.br/finops-para-ia/) Como aplicar FinOps aos gastos com IA: visibilidade por caso de uso, técnicas para reduzir o custo de LLM e unidade econômica para provar retorno. 5 de novembro de 2026 14 min de leitura Inteligência Artificial Desenvolvimento de Software ### [Agentes de IA em produção: o que muda do piloto à operação](https://bixtecnologia.com.br/agentes-de-ia-em-producao/) O que muda ao levar agentes de IA do piloto à operação: avaliação, observabilidade, custo, segurança e quem cuida depois. 4 de novembro de 2026 11 min de leitura Desenvolvimento de Software Inteligência Artificial ### [O que é vibe coding e quando ele serve em produção](https://bixtecnologia.com.br/vibe-coding/) O que é vibe coding, onde ele funciona e o que exigir antes da produção. 13 de outubro de 2026 11 min de leitura Inteligência Artificial Desenvolvimento de Software ### [Prompt injection: como proteger agentes de IA em produção](https://bixtecnologia.com.br/prompt-injection-agentes-de-ia/) Como proteger agentes de IA de prompt injection direto e indireto. 22 de setembro de 2026 12 min de leitura Engenharia de Dados Inteligência Artificial ### [Claude Code na engenharia de dados: como refatorar pipelines e escrever testes](https://bixtecnologia.com.br/claude-code-engenharia-de-dados/) Refatore pipelines e crie testes com o Claude Code na engenharia de dados 25 de agosto de 2026 10 min de leitura ![Ilustração de uma arquitetura RAG com Azure OpenAI e Azure AI Search, com documentos divididos em chunks, índice vetorial e resposta com citação](https://bixtecnologia.com.br/img/cover_rag_azure_pt_0da1e449e6-960.webp) Inteligência Artificial Engenharia de Dados ### [Arquitetura RAG com Azure OpenAI e Azure AI Search: implementando IA generativa sobre seus dados corporativos](https://bixtecnologia.com.br/arquitetura-rag-azure-openai-ai-search/) Arquitetura RAG com Azure OpenAI e Azure AI Search, do índice à resposta. 5 de agosto de 2026 11 min de leitura --- BIX Tecnologia · Contato: https://bixtecnologia.com.br/contato/ Índice do site para agentes: https://bixtecnologia.com.br/llms.txt