Auditoria de modelos de IA: o que rastrear antes que o regulador pergunte

A pergunta que derruba uma empresa numa auditoria de IA não é técnica: "por que o modelo decidiu isso, para esse cliente, nessa data?". Se a resposta depende de reconstruir o passado, ela chega tarde. Os dados que faltam no dia da pergunta não voltam. Rastreabilidade é algo que se liga no primeiro dia de produção, ou se perde.

Este texto é orientação de gestão e engenharia, não parecer jurídico. Obrigações específicas do seu setor precisam ser confirmadas com o seu jurídico e o seu encarregado de dados.

Estar certo não basta, é preciso mostrar

Em 2019, clientes do Apple Card, emitido pelo Goldman Sachs, denunciaram publicamente que mulheres recebiam limites muito menores que os maridos. O Departamento de Serviços Financeiros de Nova York investigou e, em março de 2021, concluiu que não houve violação das leis de crédito justo: o gênero não era fator na decisão. Mesmo assim, o relatório apontou falta de transparência. O regulador conseguiu acessar os dados de subscrição; os clientes afetados, não. Nem os atendentes sabiam explicar as decisões.

A lição serve para qualquer empresa que usa modelo para decidir sobre pessoas. O banco tinha um modelo defensável e ainda assim passou meses sob investigação e desgaste de marca, porque a explicação não estava pronta para quem perguntou.

O que a lei brasileira já permite cobrar

Não é preciso esperar o marco legal de IA. O PL 2338/2023 segue aguardando parecer na Câmara em setembro de 2026. A LGPD, que está em vigor desde 2020, já traz três pontos que mudam o que você precisa guardar:

• O artigo 20 dá ao titular o direito de pedir revisão de decisões tomadas unicamente por tratamento automatizado que afetem seus interesses, incluindo perfil de crédito e de consumo. O parágrafo 1º obriga o controlador a fornecer, quando solicitado, informações claras sobre os critérios e procedimentos usados. O parágrafo 2º permite que a ANPD faça auditoria para verificar aspectos discriminatórios quando a empresa se recusa a explicar alegando segredo comercial.
• O artigo 37 exige que controlador e operador mantenham registro das operações de tratamento de dados pessoais.
• O artigo 38 permite que a ANPD determine a elaboração de relatório de impacto à proteção de dados.

A ANPD também está mais bem equipada para cobrar. Desde a Lei 15.352/2026, é agência reguladora com autonomia financeira e 200 cargos novos de especialista. E a regulamentação do artigo 20 está na agenda: a Nota Técnica nº 12/2025 consolidou as contribuições da consulta sobre IA e decisões automatizadas.

O que os reguladores de fora já pedem

Duas referências internacionais ajudam a calibrar o nível de detalhe esperado.

O AI Act europeu, no artigo 12, exige que sistemas de alto risco registrem eventos automaticamente ao longo de toda a vida útil. Quem opera o sistema precisa guardar esses logs por pelo menos seis meses (artigo 26). Com o Digital Omnibus, as obrigações para sistemas do Anexo III, que incluem crédito e recrutamento, passaram a valer em 2 de dezembro de 2027. Se sua empresa atende clientes na União Europeia, é prazo de projeto, não de leitura.

No setor bancário americano, a SR 11-7, de 2011, foi por mais de uma década a referência de gestão de risco de modelos: documentação, validação independente, monitoramento. Em abril de 2026, os reguladores a substituíram por uma orientação revisada, baseada em risco. O detalhe importante: o texto novo declara que modelos de IA generativa e agêntica estão fora do escopo, por serem novos e mudarem rápido. Ou seja, nem os reguladores mais experientes em risco de modelo têm hoje um padrão pronto para LLMs. Quem usa esses modelos precisa montar a própria trilha.

O registro mínimo por decisão

Para cada decisão relevante tomada ou apoiada por um modelo, grave:

1. Identificador da decisão e data/hora.
2. Versão exata do que decidiu: modelo, pesos ou identificador do fornecedor, prompt de sistema, regras de negócio aplicadas depois do modelo. Em LLM, a versão do prompt vale tanto quanto a do modelo.
3. Entradas usadas e de onde vieram, com a versão da fonte. Em RAG, quais documentos foram recuperados. Em agentes, quais ferramentas foram chamadas e com quais parâmetros.
4. Saída do modelo e decisão final, separadas. Se uma regra ou uma pessoa mudou o resultado, isso precisa aparecer.
5. Os fatores que mais pesaram, no formato que faz sentido para o modelo: contribuição das variáveis num modelo de crédito, trechos citados numa resposta de LLM.
6. Revisão humana: quem revisou, quando, o que decidiu e com base em quê.
7. O que foi comunicado ao titular. Em 2024, a Air Canada foi condenada a pagar a um passageiro que seguiu uma informação errada do chatbot da empresa. Sem o registro do que o agente disse, você nem sabe se tem um problema.

O que registrar além da decisão

O log por decisão responde "o que aconteceu". A auditoria também vai perguntar "por que vocês acharam que era seguro". Para isso:

• Ficha do modelo: finalidade, dados de treino ou fontes de contexto, limitações conhecidas, população em que foi testado.
• Evidência de validação antes de entrar em produção: métricas, testes de viés por grupo quando houver decisão sobre pessoas, casos de teste adversariais para LLMs.
• Monitoramento contínuo: deriva de dados, taxa de revisão humana, taxa de contestação, reclamações.
• Controle de mudanças: toda troca de modelo, prompt ou fonte de dados com data, responsável e resultado de teste.
• Registro de incidentes e do que foi feito a respeito.

Isso vale também para modelo comprado. Em maio de 2025, um tribunal federal americano autorizou uma ação coletiva contra a Workday por suposta discriminação etária na triagem automatizada de candidatos, e o tribunal já havia admitido que o fornecedor da ferramenta pode responder diretamente. Se o modelo é de terceiro, o contrato precisa garantir acesso às evidências de que você vai precisar.

Um exemplo: o pedido de revisão de crédito

Uma fintech recusa um crédito pelo aplicativo. Três meses depois, o cliente pede revisão com base no artigo 20. Com a trilha montada, a resposta leva horas:

1. Busca pela decisão: data, versão 3.2 do modelo de score, política de crédito vigente naquele dia.
2. Entradas: renda declarada, histórico de pagamentos do bureau consultado naquela data, tempo de conta.
3. Fatores: dois atrasos recentes no bureau e comprometimento de renda acima do limite da política.
4. Regra final: a política recusa automaticamente acima de determinado comprometimento; não houve revisão humana porque o caso não caiu na faixa de exceção.
5. Revisão: um analista reavalia com dados atualizados e registra o resultado.

Sem a trilha, a mesma pergunta vira uma força-tarefa. O time de dados tenta descobrir qual modelo estava no ar, o bureau não guarda a consulta antiga e a resposta ao cliente sai genérica. Se o cliente reclamar à ANPD ou ao Procon, a empresa entra na conversa sem evidência.

O custo de guardar tudo

Rastrear tem preço, e parte dele é de privacidade. Os logs de decisão contêm dado pessoal, então valem as mesmas regras da LGPD: finalidade, acesso restrito, retenção definida e descarte. Guardar o prompt completo de cada conversa de um agente por tempo indeterminado cria um risco novo. Defina o que precisa ser guardado na íntegra, o que pode ser mascarado e por quanto tempo, e documente a decisão.

Há também custo de armazenamento e de engenharia. Ele é pequeno perto do custo de responder a um regulador sem dados.

Um teste para esta semana

Escolha cinco decisões que um modelo seu tomou ou apoiou há três meses. Tente responder, para cada uma: qual versão decidiu, com quais dados, por quê, e quem revisou. Se você não conseguir em um dia, o problema já existe; ele só ainda não foi perguntado.

A ISO/IEC 42001 formaliza essas exigências num sistema de gestão, e escrevemos sobre ela em ISO 42001 como régua de maturidade. Para decidir quais modelos merecem esse nível de trilha, comece pela classificação de risco descrita em como montar um comitê de governança de IA. E se quiser ajuda para desenhar a trilha e acompanhar a implantação, o Governance As a Service faz esse trabalho junto com o seu time.