A pergunta que mais assusta em uma auditoria de IA não é técnica. É simples: "por que o modelo tomou essa decisão, para esse cliente, nessa data?" Se a resposta é "não sabemos, o modelo é uma caixa-preta", o problema não é mais técnico — é de governança que devia ter existido desde o início.
O que rastrear, na prática
Versão do modelo em cada decisão. Se o modelo foi atualizado ao longo do ano, cada decisão precisa apontar para qual versão a tomou. Sem isso, é impossível reproduzir ou explicar qualquer coisa retroativamente.
Dados de entrada e sua origem. Não só o output — de onde veio o dado que alimentou aquela decisão específica, e qual era a qualidade dele naquele momento.
Critério de decisão, não só o resultado. "Aprovado" ou "negado" não é suficiente. Quais variáveis pesaram, e com que peso relativo, na decisão daquele caso.
Quem revisou, e quando. Se há revisão humana no fluxo, o registro de quem revisou e o que decidiu precisa existir — não como formalidade, como evidência real.
O erro que sai caro
A maioria das empresas só pensa em rastreabilidade depois do primeiro incidente ou da primeira solicitação formal de explicação. Nesse ponto, os dados que faltam não podem ser reconstruídos.
Nossa visão
Rastreabilidade não é sobre desconfiar do modelo. É sobre poder confiar nele com evidência, não com fé. A ISO 42001 formaliza exatamente esse tipo de exigência — e é por isso que a tratamos como fundação, não como certificado de parede.
Comece a rastrear antes de precisar explicar. É mais barato e, sinceramente, é a única ordem que funciona.