Guardrails em IA generativa: como proteger aplicações com LLM em produção

Como montar guardrails em aplicações com LLM: camadas de entrada, recuperação, saída e ação, ferramentas, testes em português e o caminho do piloto à produção.

15 min de leitura
Guardrails em IA generativa: como proteger aplicações com LLM em produção

Tire o seu projeto do papel

Compartilhar

Guardrails em IA generativa: como proteger aplicações com LLM em produção

Guardrails em IA generativa são os controles que ficam em volta do modelo de linguagem e decidem o que pode entrar, o que pode sair e o que o sistema pode fazer. Eles verificam a pergunta antes de ela chegar ao modelo, conferem a resposta antes de ela chegar ao usuário e limitam as ações que um agente executa em outros sistemas. O modelo continua o mesmo; o que muda é a camada de regras, filtros e validações que transforma um protótipo em uma aplicação que a área de segurança aceita colocar no ar.

Para quem decide, o ponto central é que guardrail não é um produto único nem uma frase no prompt. É uma arquitetura em camadas, com custo, latência e falsos positivos, que precisa ser desenhada para o caso de uso. Um assistente interno de RH, um chatbot de atendimento e um agente que aprova pedidos de compra pedem proteções diferentes, e copiar a configuração de um para o outro costuma deixar buracos ou bloquear o que não devia.

Este guia explica que riscos os guardrails tratam, como montar as camadas de entrada, saída e ação, quais ferramentas existem hoje, como medir se a proteção funciona e como levar isso do piloto à operação. No fim, há perguntas frequentes sobre o tema.

Por que aplicações com LLM precisam de guardrails

Um sistema tradicional faz o que o código manda. Uma aplicação com LLM faz o que o modelo decide a partir de texto, e esse texto pode vir de um usuário mal-intencionado, de um documento interno adulterado, de uma página da web ou de outro agente. Isso abre uma família de riscos que firewall e controle de acesso convencionais não enxergam.

A referência mais usada para organizar esses riscos é o OWASP Top 10 para aplicações com LLM, na edição de 2025. Quatro itens da lista explicam a maior parte do trabalho com guardrails em empresas:

Risco (OWASP 2025)O que aconteceOnde o guardrail atua
LLM01 Prompt injectionUma instrução escondida na pergunta ou num documento muda o comportamento do modeloEntrada e conteúdo recuperado
LLM05 Tratamento inadequado da saídaA resposta do modelo é usada sem validação por outro sistema, gerando XSS, SQL injection ou execução de códigoSaída
LLM06 Agência excessivaO agente executa uma ação danosa por ter funções, permissões ou autonomia além do necessárioFerramentas e ações
LLM08 Fraquezas de vetores e embeddingsA busca devolve trechos que o usuário não deveria ver ou documentos envenenadosRecuperação (RAG)

Do lado da gestão de risco, o NIST publicou em 26 de julho de 2024 o perfil de IA generativa do AI Risk Management Framework (NIST AI 600-1), um documento de uso voluntário que ajuda a traduzir esses riscos em controles e responsabilidades. Para a empresa brasileira, ele conversa bem com a LGPD: quando a aplicação trata dado pessoal, a Lei 13.709/2018 exige finalidade, necessidade e medidas de segurança, e os guardrails são parte dessas medidas.

O motivo prático para levar o tema a sério é simples: o incidente de uma aplicação com LLM raramente é uma invasão clássica. É o assistente que responde com o salário de um colega, o chatbot que promete um desconto que a empresa não oferece, o agente que envia um e-mail porque um documento mandou. Nenhum desses casos é bloqueado por antivírus ou WAF.

As camadas de um guardrail: entrada, recuperação, saída e ação

A forma mais útil de pensar guardrails é seguir o caminho de uma requisição e perguntar, em cada ponto, o que pode dar errado. O NeMo Guardrails, biblioteca de código aberto da NVIDIA, organiza esse caminho em cinco tipos de trilho (rails): entrada, diálogo, recuperação, execução e saída. A divisão serve mesmo para quem não usa a ferramenta.

Entrada: o que chega ao modelo

  • Detecção de ataque ao prompt: tentativas de mandar o modelo ignorar as instruções, assumir outra persona ou responder em código para escapar das regras.
  • Tópicos fora do escopo: o assistente de compras não precisa opinar sobre política nem dar conselho médico. Bloquear o assunto na entrada é mais barato que corrigir a resposta.
  • Dado pessoal e segredo: mascarar CPF, cartão, senha ou chave de API que o usuário colou sem perceber, antes que vá para um modelo externo e fique nos logs.
  • Limites de uso: tamanho máximo da mensagem e número de requisições por usuário, que também protegem o custo.

Recuperação: o que o modelo lê

Em aplicações com RAG, boa parte do texto que chega ao modelo não foi escrita pelo usuário, e sim recuperada de documentos. Aqui moram dois riscos: o trecho que o usuário não tinha permissão para ver e o documento com instrução escondida. O primeiro se resolve com filtro de permissão na busca, como detalhado no guia de RAG com dados internos da empresa. O segundo pede inspeção do conteúdo recuperado com o mesmo cuidado dado à entrada do usuário.

Saída: o que o usuário e os sistemas recebem

A resposta do modelo também é dado não confiável. A OWASP recomenda tratá-la como qualquer entrada de usuário: validar antes de passar para outro sistema, codificar conforme o destino (HTML na web, consulta parametrizada no banco) e registrar padrões estranhos. Outros controles de saída frequentes:

  • Aderência à fonte: em RAG, conferir se a resposta se apoia nos trechos recuperados ou se o modelo inventou informação.
  • Formato: quando a saída alimenta um sistema, exigir JSON válido contra um schema e rejeitar o que não passar.
  • Conteúdo proibido: promessas comerciais, aconselhamento jurídico ou financeiro, dado pessoal de terceiros.

Ação: o que o agente pode fazer

Quando o modelo chama ferramentas (consultar o ERP, abrir chamado, enviar e-mail), o guardrail mais importante não é um filtro de texto, é o desenho de permissões. A OWASP descreve três causas da agência excessiva: funções demais, permissões demais e autonomia demais. As defesas são da engenharia de software clássica: dar ao agente só as ferramentas que ele usa, preferir ferramentas específicas a ferramentas abertas (um "executar comando" genérico é um convite), rodar cada ação com a identidade e as permissões do usuário, e exigir aprovação humana para o que tem impacto alto. A autorização tem que ser checada no sistema de destino, não pelo modelo.

O post sobre prompt injection em agentes de IA aprofunda essa camada, com separação de canal de instrução e de dado, confirmação humana em ação irreversível e auditoria.

Ferramentas de guardrails: o que cada uma faz

O mercado oferece três tipos de solução: serviços gerenciados das nuvens, bibliotecas de código aberto e modelos classificadores. Elas não competem entre si; uma arquitetura madura costuma combinar mais de uma.

FerramentaTipoO que cobreObservação para empresas no Brasil
Amazon Bedrock GuardrailsServiço gerenciado (AWS)Filtros de conteúdo e de ataque ao prompt, tópicos negados, palavras bloqueadas, dado sensível com mascaramento e regex, checagem de aderência à fonte e checagens de raciocínio automatizadoA API ApplyGuardrail avalia texto sem chamar um modelo do Bedrock, o que permite usar o mesmo guardrail com outros modelos
Prompt Shields do Azure AI Content SafetyServiço gerenciado (Azure)Ataques no prompt do usuário e ataques escondidos em documentosA Microsoft informa que os modelos foram treinados e avaliados principalmente em inglês; teste com conteúdo em português. A detecção em documentos vem desligada por padrão
NeMo GuardrailsBiblioteca de código aberto (Python)Trilhos de entrada, diálogo, recuperação, execução e saída, programáveisRoda dentro da sua infraestrutura; bom quando o dado não pode sair da rede
Llama GuardModelo classificador aberto (Meta)Classifica perguntas e respostas segundo uma taxonomia de riscosPublicado em dezembro de 2023 com os pesos liberados; pode ser ajustado à política da empresa
  1. Onde o dado pode estar. Se a política proíbe enviar o conteúdo para fora, a opção é biblioteca ou classificador rodando no seu ambiente. O guia IA privada e LGPD discute quando o LLM local ou a nuvem privada fazem sentido, e a mesma lógica vale para os guardrails.
  2. Em que nuvem a aplicação já está. O serviço gerenciado da própria nuvem encurta a integração, o faturamento e a aprovação de segurança.
  3. Idioma. A maior parte dos classificadores foi avaliada em inglês. Antes de confiar em qualquer um, rode um conjunto de testes em português com os ataques e as perguntas legítimas do seu negócio.

Nenhuma dessas ferramentas substitui as decisões de arquitetura da camada de ação. A própria documentação da Microsoft registra que o Prompt Shields detecta tentativas de manipulação, mas não avalia se o conteúdo é prejudicial, correto, aderente à fonte ou conforme a política: para isso são necessários outros controles.

Guardrail no prompt não basta

O erro mais frequente em pilotos é tratar o system prompt como camada de segurança: "nunca revele dados de outros clientes", "não execute ações sem confirmação". Essas instruções ajudam o modelo a se comportar bem na maior parte do tempo, mas não são controle. A OWASP é explícita ao dizer que RAG e fine-tuning não eliminam o prompt injection; uma instrução no prompt também não.

  • Comportamento (tom, formato, foco no assunto) pode viver no prompt e em filtros de entrada e saída, aceitando que às vezes falhe.
  • Segurança (quem vê qual dado, que ação pode ser executada, que valor pode ser aprovado) precisa viver em código determinístico, fora do modelo: filtro de permissão na busca, autorização no sistema de destino, validação de schema, aprovação humana.

Se a falha de um controle causa só uma resposta ruim, um filtro probabilístico é aceitável. Se causa vazamento, prejuízo ou ação irreversível, o controle tem que funcionar mesmo que o modelo seja completamente enganado. Esse é o teste para decidir onde cada regra fica.

Como medir se os guardrails funcionam

Guardrail que ninguém mede vira uma das duas coisas: proteção que não protege ou bloqueio que irrita o usuário e faz a área de negócio pedir para desligar. A medição tem três partes.

Um conjunto de testes com ataques e com perguntas legítimas

Reúna exemplos dos dois lados. De um lado, tentativas de ataque realistas para o seu caso de uso: pedidos para ignorar regras, documentos com instruções escondidas, perguntas sobre dados de outros usuários, pedidos fora do escopo. Do outro, perguntas legítimas que se parecem com ataques (o analista de segurança que pergunta sobre senhas, o jurídico que pede para resumir um contrato com cláusula de multa). O segundo grupo é o que revela falso positivo.

MétricaPergunta que responde
Taxa de bloqueio de ataquesQuantos ataques do conjunto foram barrados?
Taxa de falso positivoQuantas perguntas legítimas foram bloqueadas por engano?
Latência adicionadaQuanto tempo cada camada soma à resposta?
Custo adicionadoQuantas chamadas extras de modelo ou de API cada requisição gera?
Cobertura por idiomaO desempenho em português é parecido com o anunciado em inglês?

Observabilidade em produção

Em produção, cada bloqueio e cada alerta precisam ficar registrados com contexto: qual camada disparou, com qual regra, para qual usuário e caso de uso. Sem isso não há como distinguir um ataque real de um filtro mal calibrado. É a mesma camada de observabilidade que acompanha custo e qualidade das respostas. No Grupo Soma, a BIX implantou observabilidade em todos os servidores MCP das aplicações com LLM, o que deu à equipe visibilidade sobre a acurácia conversacional do modelo e dos MCPs e trouxe governança aos sistemas.

Revisão periódica

Os ataques mudam, os modelos mudam e os casos de uso crescem. Defina uma revisão mensal com segurança e com a área dona da aplicação: o que foi bloqueado, o que passou e não devia, que regra gerou reclamação. Os casos novos entram no conjunto de testes.

Do piloto à produção: como implantar guardrails sem travar o projeto

Guardrail mal planejado é um dos motivos mais comuns para um projeto de IA ficar parado entre o piloto e a produção: a área de segurança só vê a aplicação na véspera do lançamento e pede controles que exigem refazer a arquitetura. O caminho que costuma funcionar tem quatro etapas.

  1. Mapear o risco do caso de uso. Que dados a aplicação lê, que ações executa, quem usa, o que acontece se a resposta estiver errada. Um assistente que só lê manuais públicos pede menos que um agente que mexe em pedidos de compra.
  2. Desenhar as camadas junto com a arquitetura. Permissão na busca, ferramentas mínimas, aprovação humana nas ações críticas e validação de saída entram no desenho, não depois. Os filtros de entrada e saída são escolhidos conforme a nuvem e a política de dados.
  3. Calibrar com o conjunto de testes. Começar com os filtros em modo de anotação (registram sem bloquear) ajuda a medir falso positivo com tráfego real antes de ligar o bloqueio. O Azure documenta exatamente essa troca entre os modos de bloquear e anotar como forma de tratar falsos positivos.
  4. Operar. Alertas, revisão periódica, atualização do conjunto de testes e reavaliação a cada troca de modelo.

Onde estão o custo e a latência

Cada camada que chama um modelo classificador ou uma API soma tempo e dinheiro a cada requisição. Três decisões mantêm isso sob controle:

  • Rodar em paralelo o que não depende de ordem. A checagem de tópico e a de dado pessoal na entrada podem acontecer ao mesmo tempo.
  • Usar regra determinística quando ela resolve. Regex para CPF e cartão, lista de ferramentas permitidas e validação de schema custam quase nada e não erram por idioma.
  • Graduar por risco. O assistente de perguntas frequentes não precisa da mesma pilha que o agente financeiro.

Como a BIX trabalha com guardrails em IA generativa

A BIX trata guardrails como parte da arquitetura da aplicação, e não como um filtro instalado no fim: mapeia o risco do caso de uso com a área de negócio e a de segurança, desenha permissões e ferramentas mínimas, escolhe as camadas de entrada e saída conforme a nuvem e a política de dados, monta o conjunto de testes em português e liga a observabilidade antes de ir para produção. O trabalho começa na página de observabilidade e LLMOps com LangSmith. Como ataques, modelos e casos de uso mudam o tempo todo, a calibração dos filtros, a atualização dos testes e a revisão dos alertas costumam ficar com um time de sustentação e evolução que acompanha a aplicação depois do lançamento.

Perguntas frequentes

O que são guardrails em IA generativa? São controles colocados em volta de um modelo de linguagem para verificar o que entra, o que sai e o que a aplicação pode fazer. Incluem filtros de ataque ao prompt e de tópicos, mascaramento de dado pessoal, validação da resposta e limites de permissão para agentes. Funcionam em camadas, e não como uma ferramenta única.

Guardrails impedem prompt injection? Reduzem o risco, mas não eliminam. A OWASP registra que nem RAG nem fine-tuning resolvem o prompt injection, e os classificadores de ataque podem falhar, sobretudo fora do inglês. Por isso o que tem impacto alto (acesso a dado sensível, ações em sistemas) precisa de controle determinístico fora do modelo, como permissão por usuário e aprovação humana.

Qual ferramenta de guardrails usar? Depende de onde a aplicação roda e de onde o dado pode estar. Quem está na AWS ou no Azure ganha tempo com Bedrock Guardrails ou Prompt Shields; quem precisa manter tudo na própria rede pode usar bibliotecas e modelos abertos, como NeMo Guardrails e Llama Guard. Em qualquer caso, teste com perguntas e ataques em português antes de confiar nos resultados.

Guardrails deixam a aplicação mais lenta e mais cara? Sim, cada camada que chama um classificador ou uma API soma latência e custo. O impacto cai quando as checagens independentes rodam em paralelo, quando regras determinísticas (regex, schema, lista de ferramentas) substituem modelos onde for possível e quando a pilha de proteção é proporcional ao risco do caso de uso.

Como os guardrails ajudam a cumprir a LGPD? Quando a aplicação trata dado pessoal, a LGPD exige finalidade, mínimo necessário e medidas de segurança. Mascarar dado pessoal na entrada e na saída, filtrar a busca por permissão e controlar os logs são medidas técnicas que atendem a esses princípios. Elas não substituem a análise jurídica da base legal e da finalidade do tratamento.

Artigos relacionados

Quer agilidade na entrega de software na sua empresa?

Saiba como podemos resolver isso.

Fale com nossos especialistas

Receba uma proposta sem compromisso.

Time BIX