Guardrails em IA generativa: como proteger aplicações com LLM em produção
Guardrails em IA generativa são os controles que ficam em volta do modelo de linguagem e decidem o que pode entrar, o que pode sair e o que o sistema pode fazer. Eles verificam a pergunta antes de ela chegar ao modelo, conferem a resposta antes de ela chegar ao usuário e limitam as ações que um agente executa em outros sistemas. O modelo continua o mesmo; o que muda é a camada de regras, filtros e validações que transforma um protótipo em uma aplicação que a área de segurança aceita colocar no ar.
Para quem decide, o ponto central é que guardrail não é um produto único nem uma frase no prompt. É uma arquitetura em camadas, com custo, latência e falsos positivos, que precisa ser desenhada para o caso de uso. Um assistente interno de RH, um chatbot de atendimento e um agente que aprova pedidos de compra pedem proteções diferentes, e copiar a configuração de um para o outro costuma deixar buracos ou bloquear o que não devia.
Este guia explica que riscos os guardrails tratam, como montar as camadas de entrada, saída e ação, quais ferramentas existem hoje, como medir se a proteção funciona e como levar isso do piloto à operação. No fim, há perguntas frequentes sobre o tema.
Por que aplicações com LLM precisam de guardrails
Um sistema tradicional faz o que o código manda. Uma aplicação com LLM faz o que o modelo decide a partir de texto, e esse texto pode vir de um usuário mal-intencionado, de um documento interno adulterado, de uma página da web ou de outro agente. Isso abre uma família de riscos que firewall e controle de acesso convencionais não enxergam.
A referência mais usada para organizar esses riscos é o OWASP Top 10 para aplicações com LLM, na edição de 2025. Quatro itens da lista explicam a maior parte do trabalho com guardrails em empresas:
| Risco (OWASP 2025) | O que acontece | Onde o guardrail atua |
|---|---|---|
| LLM01 Prompt injection | Uma instrução escondida na pergunta ou num documento muda o comportamento do modelo | Entrada e conteúdo recuperado |
| LLM05 Tratamento inadequado da saída | A resposta do modelo é usada sem validação por outro sistema, gerando XSS, SQL injection ou execução de código | Saída |
| LLM06 Agência excessiva | O agente executa uma ação danosa por ter funções, permissões ou autonomia além do necessário | Ferramentas e ações |
| LLM08 Fraquezas de vetores e embeddings | A busca devolve trechos que o usuário não deveria ver ou documentos envenenados | Recuperação (RAG) |
Do lado da gestão de risco, o NIST publicou em 26 de julho de 2024 o perfil de IA generativa do AI Risk Management Framework (NIST AI 600-1), um documento de uso voluntário que ajuda a traduzir esses riscos em controles e responsabilidades. Para a empresa brasileira, ele conversa bem com a LGPD: quando a aplicação trata dado pessoal, a Lei 13.709/2018 exige finalidade, necessidade e medidas de segurança, e os guardrails são parte dessas medidas.
O motivo prático para levar o tema a sério é simples: o incidente de uma aplicação com LLM raramente é uma invasão clássica. É o assistente que responde com o salário de um colega, o chatbot que promete um desconto que a empresa não oferece, o agente que envia um e-mail porque um documento mandou. Nenhum desses casos é bloqueado por antivírus ou WAF.
As camadas de um guardrail: entrada, recuperação, saída e ação
A forma mais útil de pensar guardrails é seguir o caminho de uma requisição e perguntar, em cada ponto, o que pode dar errado. O NeMo Guardrails, biblioteca de código aberto da NVIDIA, organiza esse caminho em cinco tipos de trilho (rails): entrada, diálogo, recuperação, execução e saída. A divisão serve mesmo para quem não usa a ferramenta.
Entrada: o que chega ao modelo
- Detecção de ataque ao prompt: tentativas de mandar o modelo ignorar as instruções, assumir outra persona ou responder em código para escapar das regras.
- Tópicos fora do escopo: o assistente de compras não precisa opinar sobre política nem dar conselho médico. Bloquear o assunto na entrada é mais barato que corrigir a resposta.
- Dado pessoal e segredo: mascarar CPF, cartão, senha ou chave de API que o usuário colou sem perceber, antes que vá para um modelo externo e fique nos logs.
- Limites de uso: tamanho máximo da mensagem e número de requisições por usuário, que também protegem o custo.
Recuperação: o que o modelo lê
Em aplicações com RAG, boa parte do texto que chega ao modelo não foi escrita pelo usuário, e sim recuperada de documentos. Aqui moram dois riscos: o trecho que o usuário não tinha permissão para ver e o documento com instrução escondida. O primeiro se resolve com filtro de permissão na busca, como detalhado no guia de RAG com dados internos da empresa. O segundo pede inspeção do conteúdo recuperado com o mesmo cuidado dado à entrada do usuário.
Saída: o que o usuário e os sistemas recebem
A resposta do modelo também é dado não confiável. A OWASP recomenda tratá-la como qualquer entrada de usuário: validar antes de passar para outro sistema, codificar conforme o destino (HTML na web, consulta parametrizada no banco) e registrar padrões estranhos. Outros controles de saída frequentes:
- Aderência à fonte: em RAG, conferir se a resposta se apoia nos trechos recuperados ou se o modelo inventou informação.
- Formato: quando a saída alimenta um sistema, exigir JSON válido contra um schema e rejeitar o que não passar.
- Conteúdo proibido: promessas comerciais, aconselhamento jurídico ou financeiro, dado pessoal de terceiros.
Ação: o que o agente pode fazer
Quando o modelo chama ferramentas (consultar o ERP, abrir chamado, enviar e-mail), o guardrail mais importante não é um filtro de texto, é o desenho de permissões. A OWASP descreve três causas da agência excessiva: funções demais, permissões demais e autonomia demais. As defesas são da engenharia de software clássica: dar ao agente só as ferramentas que ele usa, preferir ferramentas específicas a ferramentas abertas (um "executar comando" genérico é um convite), rodar cada ação com a identidade e as permissões do usuário, e exigir aprovação humana para o que tem impacto alto. A autorização tem que ser checada no sistema de destino, não pelo modelo.
O post sobre prompt injection em agentes de IA aprofunda essa camada, com separação de canal de instrução e de dado, confirmação humana em ação irreversível e auditoria.
Ferramentas de guardrails: o que cada uma faz
O mercado oferece três tipos de solução: serviços gerenciados das nuvens, bibliotecas de código aberto e modelos classificadores. Elas não competem entre si; uma arquitetura madura costuma combinar mais de uma.
| Ferramenta | Tipo | O que cobre | Observação para empresas no Brasil |
|---|---|---|---|
| Amazon Bedrock Guardrails | Serviço gerenciado (AWS) | Filtros de conteúdo e de ataque ao prompt, tópicos negados, palavras bloqueadas, dado sensível com mascaramento e regex, checagem de aderência à fonte e checagens de raciocínio automatizado | A API ApplyGuardrail avalia texto sem chamar um modelo do Bedrock, o que permite usar o mesmo guardrail com outros modelos |
| Prompt Shields do Azure AI Content Safety | Serviço gerenciado (Azure) | Ataques no prompt do usuário e ataques escondidos em documentos | A Microsoft informa que os modelos foram treinados e avaliados principalmente em inglês; teste com conteúdo em português. A detecção em documentos vem desligada por padrão |
| NeMo Guardrails | Biblioteca de código aberto (Python) | Trilhos de entrada, diálogo, recuperação, execução e saída, programáveis | Roda dentro da sua infraestrutura; bom quando o dado não pode sair da rede |
| Llama Guard | Modelo classificador aberto (Meta) | Classifica perguntas e respostas segundo uma taxonomia de riscos | Publicado em dezembro de 2023 com os pesos liberados; pode ser ajustado à política da empresa |
- Onde o dado pode estar. Se a política proíbe enviar o conteúdo para fora, a opção é biblioteca ou classificador rodando no seu ambiente. O guia IA privada e LGPD discute quando o LLM local ou a nuvem privada fazem sentido, e a mesma lógica vale para os guardrails.
- Em que nuvem a aplicação já está. O serviço gerenciado da própria nuvem encurta a integração, o faturamento e a aprovação de segurança.
- Idioma. A maior parte dos classificadores foi avaliada em inglês. Antes de confiar em qualquer um, rode um conjunto de testes em português com os ataques e as perguntas legítimas do seu negócio.
Nenhuma dessas ferramentas substitui as decisões de arquitetura da camada de ação. A própria documentação da Microsoft registra que o Prompt Shields detecta tentativas de manipulação, mas não avalia se o conteúdo é prejudicial, correto, aderente à fonte ou conforme a política: para isso são necessários outros controles.
Guardrail no prompt não basta
O erro mais frequente em pilotos é tratar o system prompt como camada de segurança: "nunca revele dados de outros clientes", "não execute ações sem confirmação". Essas instruções ajudam o modelo a se comportar bem na maior parte do tempo, mas não são controle. A OWASP é explícita ao dizer que RAG e fine-tuning não eliminam o prompt injection; uma instrução no prompt também não.
- Comportamento (tom, formato, foco no assunto) pode viver no prompt e em filtros de entrada e saída, aceitando que às vezes falhe.
- Segurança (quem vê qual dado, que ação pode ser executada, que valor pode ser aprovado) precisa viver em código determinístico, fora do modelo: filtro de permissão na busca, autorização no sistema de destino, validação de schema, aprovação humana.
Se a falha de um controle causa só uma resposta ruim, um filtro probabilístico é aceitável. Se causa vazamento, prejuízo ou ação irreversível, o controle tem que funcionar mesmo que o modelo seja completamente enganado. Esse é o teste para decidir onde cada regra fica.
Como medir se os guardrails funcionam
Guardrail que ninguém mede vira uma das duas coisas: proteção que não protege ou bloqueio que irrita o usuário e faz a área de negócio pedir para desligar. A medição tem três partes.
Um conjunto de testes com ataques e com perguntas legítimas
Reúna exemplos dos dois lados. De um lado, tentativas de ataque realistas para o seu caso de uso: pedidos para ignorar regras, documentos com instruções escondidas, perguntas sobre dados de outros usuários, pedidos fora do escopo. Do outro, perguntas legítimas que se parecem com ataques (o analista de segurança que pergunta sobre senhas, o jurídico que pede para resumir um contrato com cláusula de multa). O segundo grupo é o que revela falso positivo.
| Métrica | Pergunta que responde |
|---|---|
| Taxa de bloqueio de ataques | Quantos ataques do conjunto foram barrados? |
| Taxa de falso positivo | Quantas perguntas legítimas foram bloqueadas por engano? |
| Latência adicionada | Quanto tempo cada camada soma à resposta? |
| Custo adicionado | Quantas chamadas extras de modelo ou de API cada requisição gera? |
| Cobertura por idioma | O desempenho em português é parecido com o anunciado em inglês? |
Observabilidade em produção
Em produção, cada bloqueio e cada alerta precisam ficar registrados com contexto: qual camada disparou, com qual regra, para qual usuário e caso de uso. Sem isso não há como distinguir um ataque real de um filtro mal calibrado. É a mesma camada de observabilidade que acompanha custo e qualidade das respostas. No Grupo Soma, a BIX implantou observabilidade em todos os servidores MCP das aplicações com LLM, o que deu à equipe visibilidade sobre a acurácia conversacional do modelo e dos MCPs e trouxe governança aos sistemas.
Revisão periódica
Os ataques mudam, os modelos mudam e os casos de uso crescem. Defina uma revisão mensal com segurança e com a área dona da aplicação: o que foi bloqueado, o que passou e não devia, que regra gerou reclamação. Os casos novos entram no conjunto de testes.
Do piloto à produção: como implantar guardrails sem travar o projeto
Guardrail mal planejado é um dos motivos mais comuns para um projeto de IA ficar parado entre o piloto e a produção: a área de segurança só vê a aplicação na véspera do lançamento e pede controles que exigem refazer a arquitetura. O caminho que costuma funcionar tem quatro etapas.
- Mapear o risco do caso de uso. Que dados a aplicação lê, que ações executa, quem usa, o que acontece se a resposta estiver errada. Um assistente que só lê manuais públicos pede menos que um agente que mexe em pedidos de compra.
- Desenhar as camadas junto com a arquitetura. Permissão na busca, ferramentas mínimas, aprovação humana nas ações críticas e validação de saída entram no desenho, não depois. Os filtros de entrada e saída são escolhidos conforme a nuvem e a política de dados.
- Calibrar com o conjunto de testes. Começar com os filtros em modo de anotação (registram sem bloquear) ajuda a medir falso positivo com tráfego real antes de ligar o bloqueio. O Azure documenta exatamente essa troca entre os modos de bloquear e anotar como forma de tratar falsos positivos.
- Operar. Alertas, revisão periódica, atualização do conjunto de testes e reavaliação a cada troca de modelo.
Onde estão o custo e a latência
Cada camada que chama um modelo classificador ou uma API soma tempo e dinheiro a cada requisição. Três decisões mantêm isso sob controle:
- Rodar em paralelo o que não depende de ordem. A checagem de tópico e a de dado pessoal na entrada podem acontecer ao mesmo tempo.
- Usar regra determinística quando ela resolve. Regex para CPF e cartão, lista de ferramentas permitidas e validação de schema custam quase nada e não erram por idioma.
- Graduar por risco. O assistente de perguntas frequentes não precisa da mesma pilha que o agente financeiro.
Como a BIX trabalha com guardrails em IA generativa
A BIX trata guardrails como parte da arquitetura da aplicação, e não como um filtro instalado no fim: mapeia o risco do caso de uso com a área de negócio e a de segurança, desenha permissões e ferramentas mínimas, escolhe as camadas de entrada e saída conforme a nuvem e a política de dados, monta o conjunto de testes em português e liga a observabilidade antes de ir para produção. O trabalho começa na página de observabilidade e LLMOps com LangSmith. Como ataques, modelos e casos de uso mudam o tempo todo, a calibração dos filtros, a atualização dos testes e a revisão dos alertas costumam ficar com um time de sustentação e evolução que acompanha a aplicação depois do lançamento.
Perguntas frequentes
O que são guardrails em IA generativa? São controles colocados em volta de um modelo de linguagem para verificar o que entra, o que sai e o que a aplicação pode fazer. Incluem filtros de ataque ao prompt e de tópicos, mascaramento de dado pessoal, validação da resposta e limites de permissão para agentes. Funcionam em camadas, e não como uma ferramenta única.
Guardrails impedem prompt injection? Reduzem o risco, mas não eliminam. A OWASP registra que nem RAG nem fine-tuning resolvem o prompt injection, e os classificadores de ataque podem falhar, sobretudo fora do inglês. Por isso o que tem impacto alto (acesso a dado sensível, ações em sistemas) precisa de controle determinístico fora do modelo, como permissão por usuário e aprovação humana.
Qual ferramenta de guardrails usar? Depende de onde a aplicação roda e de onde o dado pode estar. Quem está na AWS ou no Azure ganha tempo com Bedrock Guardrails ou Prompt Shields; quem precisa manter tudo na própria rede pode usar bibliotecas e modelos abertos, como NeMo Guardrails e Llama Guard. Em qualquer caso, teste com perguntas e ataques em português antes de confiar nos resultados.
Guardrails deixam a aplicação mais lenta e mais cara? Sim, cada camada que chama um classificador ou uma API soma latência e custo. O impacto cai quando as checagens independentes rodam em paralelo, quando regras determinísticas (regex, schema, lista de ferramentas) substituem modelos onde for possível e quando a pilha de proteção é proporcional ao risco do caso de uso.
Como os guardrails ajudam a cumprir a LGPD? Quando a aplicação trata dado pessoal, a LGPD exige finalidade, mínimo necessário e medidas de segurança. Mascarar dado pessoal na entrada e na saída, filtrar a busca por permissão e controlar os logs são medidas técnicas que atendem a esses princípios. Elas não substituem a análise jurídica da base legal e da finalidade do tratamento.







