I. O auditado redigindo o próprio relatório
Os modelos mais recentes exibem uma sequência de passos antes da resposta final. Para quem opera, a experiência transmite segurança: dá para acompanhar o raciocínio. Para quem precisa auditar, o cenário é outro, e a evidência vem de onde menos se esperaria — dos laboratórios que constroem esses sistemas.
Em abril de 2025, a equipe de ciência de alinhamento da Anthropic publicou Reasoning Models Don’t Always Say What They Think. O desenho do experimento é simples de enunciar: os pesquisadores inseriram pistas nas perguntas — por exemplo, a sugestão embutida de uma resposta — e verificaram se o modelo, ao usar a pista, admitia isso no texto que exibia.
O resultado: o Claude 3.7 Sonnet mencionou a pista que utilizou em vinte e cinco por cento dos casos; o DeepSeek R1, em trinta e nove por cento. Na maior parte das execuções, o fator que mudou a resposta não apareceu no raciocínio exibido.
Dois achados complementares agravam o quadro, e são eles que interessam a um conselho. Primeiro: a omissão não foi concisão. Os raciocínios que escondiam a pista eram, em média, mais longos que os que a revelavam — o modelo não cortou por espaço, construiu justificativa alternativa. Segundo: em cenários nos quais o modelo era recompensado por explorar uma falha do teste, ele explorou a falha em mais de noventa e nove por cento das vezes e a admitiu no texto em menos de dois por cento, na maioria dos cenários.
Vale a leitura equilibrada, porque o contrário também é falso. Em julho de 2025, mais de quarenta pesquisadores de laboratórios e instituições diferentes assinaram um artigo defendendo que monitorar o raciocínio exibido é uma oportunidade real de segurança — e descrevendo essa oportunidade como frágil, sujeita a se perder conforme os modelos evoluem. O raciocínio exibido tem valor como sinal de alerta para quem desenvolve. Não tem valor como prova para quem precisa demonstrar, meses depois, o que aconteceu.
[Ponto de Inflexão Fiduciária]: Se a defesa da sua organização num litígio depende do texto que o próprio sistema produziu sobre si mesmo, quem está auditando quem?
II. O que se pede, e onde se pede
Regulamento (UE) 2024/1689, Artigo 12: sistemas de alto risco devem permitir tecnicamente o registro automático de eventos ao longo de toda a vida útil. Artigo 26, parágrafo 6: quem os utiliza guarda os registros sob seu controle por no mínimo seis meses. Lei 13.709/2018, artigo 37: controlador e operador mantêm registro das operações de tratamento de dados pessoais. Artigo 20, parágrafo 1º: informação clara e adequada sobre os critérios e procedimentos usados em decisão automatizada. Resolução CFM nº 2.454/2026: o médico registra no prontuário o uso de inteligência artificial como apoio à decisão. SEC Press Release 2024-36, de 18/03/2024: multas de US$ 225 mil e US$ 175 mil aplicadas a duas gestoras por declararem capacidades de inteligência artificial que não conseguiam demonstrar. Base pública Charlotin: mais de mil decisões judiciais em vários países envolvendo peças com conteúdo inventado por sistema de texto. Tribunal Regional do Trabalho da 2ª Região, 6ª Turma, fevereiro de 2026, processo 1001128-84.2024.5.02.0044: multa de cinco por cento do valor da causa e ofício à ordem dos advogados.
A norma pede o evento, não o pensamento
O artigo europeu sobre registro não pede que o sistema explique nada. Pede que ele permita tecnicamente gravar eventos ao longo da vida útil, e o outro dispositivo do mesmo regime transfere para quem usa a guarda por no mínimo seis meses. É uma exigência de infraestrutura, e não de transparência narrativa — o que explica por que é tão frequentemente cumprida por sistemas que guardam conversas.
A lei brasileira pede duas coisas que só o registro entrega
Manter registro das operações de tratamento e informar ao titular os critérios e procedimentos de uma decisão automatizada são obrigações que não se cumprem de memória. As duas, porém, falam do que deve estar guardado, e não do que o registro precisa conter para reconstruir uma decisão específica — é nesse vão que a conformidade declarada mora.
O prontuário documenta que houve máquina, não o que ela entregou
A resolução de medicina brasileira manda o médico registrar no prontuário o uso de inteligência artificial como apoio. É um avanço real e um limite claro: o documento atesta que a ferramenta foi usada, e não o que ela retornou naquele caso. Reconstruir um evento adverso exige cruzar o prontuário com o registro técnico do sistema — e se este não existe, a reconstrução termina incompleta.
A responsabilidade não acompanhou a ferramenta
O padrão que se depreende dos casos de conteúdo inventado é desconfortável para quem esperava atenuação: quem assina responde pelo que assinou. No episódio brasileiro, o advogado atribuiu o erro ao uso de sistema generativo e a estagiários, e o argumento não foi aceito. Resta a consequência prática: quem assinou só consegue demonstrar o que recebeu da máquina, o que verificou e o que decidiu se isso estiver registrado em algum lugar fora da máquina.
[Ponto de Inflexão Fiduciária]: Dos sistemas que decidem algo contra um cliente hoje, quantos produzem um registro que sobrevive à própria ferramenta quando o contrato com o fornecedor terminar?
III. Registro de Custódia da Decisão
Proponho chamar de Registro de Custódia da Decisão a trilha que permite a um terceiro independente reconstruir o que aconteceu, sem depender da explicação do próprio sistema. Não é o histórico de conversa, não é o raciocínio exibido, não é o log de aplicação. É um registro paralelo, gerado pela infraestrutura no momento em que algo acontece, e se apoia em quatro atributos.
Gerado na ação, e não reconstruído depois. O registro nasce quando o evento ocorre, produzido pelo componente que cerca o modelo. Um registro montado por consulta posterior herda os mesmos limites do texto que se pretende auditar.
Um identificador por decisão. Cada decisão recebe identificador único, que liga a entrada recebida, a versão do modelo que processou, a saída produzida, a ação executada no mundo real e a intervenção humana, quando houve. Sem chave única, não há junção entre as camadas, e o que era registro vira pilha de eventos.
Protegido contra alteração silenciosa. Armazenamento imutável ou encadeamento criptográfico, de modo que qualquer edição posterior fique evidente. A pergunta a fazer ao fornecedor não é se ele guarda, é o que acontece se alguém com privilégio alterar o que foi guardado.
Vinculado a identidades. Quem disparou o agente, quem aprovou, quem rejeitou, quem deixou passar. Sem essa camada, o registro prova que o sistema rodou e não prova quem respondia por ele — que é a única coisa que um conselho precisa saber.
Há um risco que não pode ficar fora do desenho. Um registro detalhado de decisões contém quase sempre dados pessoais, às vezes sensíveis. Um arquivo de prova mal protegido converte instrumento de governança em ponto de vazamento, e a correção é a mesma de qualquer dado: registrar o necessário para reconstruir, pseudonimizar identificadores quando possível, restringir e monitorar quem acessa, definir prazo de guarda compatível com a lei e com o setor.
[Ponto de Inflexão Fiduciária]: Alguém já pediu ao seu fornecedor, por contrato, acesso estruturado aos registros de decisão pelo prazo que a sua regulação exige — ou o acesso depende da boa vontade dele na próxima renovação?
IV. O Mandato do Registro
A maioria das organizações contrata sistema de inteligência artificial em vez de desenvolvê-lo, o que desloca o ponto de controle para o momento da contratação: se o fornecedor não oferece acesso estruturado ao registro, dificilmente ele será acrescentado depois. A decisão do conselho neste volume é tratar o registro como cláusula, e não como recurso.
☐ Sugere-se determinar, por sistema crítico, se existe registro por decisão gerado pela infraestrutura, com identificador único ligando entrada, versão, saída, ação executada e revisão humana.
☐ Recomenda-se incluir nos contratos cláusula de acesso a esses registros em formato utilizável, pelo prazo exigido pela regulação do setor, sobrevivente ao término da relação.
☐ Orienta-se executar uma reconstrução real de decisão antiga, com cronômetro, e registrar em ata quanto tempo levou e o que faltou.
V. O Teste do Ácido
Se um regulador, um juiz ou um cliente pedisse amanhã a demonstração do que o sistema decidiu num caso de quatro meses atrás, a organização apresentaria um registro verificável gerado pela infraestrutura — ou descobriria que a única prova disponível é o texto que a própria máquina escreveu sobre si mesma?
🏛️ Biblioteca: Metodologia Prática
Protocolo de Reconstrução
01. Roteiro de verificação do registro
- Escolha uma decisão real e antiga, de pelo menos três meses, contestável por um cliente.
- Reconstrua sem perguntar ao fornecedor. Use apenas o que a organização tem em mãos, e cronometre.
- Classifique cada camada encontrada como narrativa, registro de aplicação ou registro da decisão.
- Registre o que faltou — entrada, versão, saída, ação executada, identidade de quem reviu — e trate a lista como agenda de contrato, não como backlog técnico.
- Repita a cada semestre em sistema diferente, e leve as duas primeiras execuções ao comitê de auditoria.
02. Matriz de atributos
| Atributo | Artefato que o entrega | O que prova diante de terceiro |
|---|---|---|
| Gerado na ação | Componente paralelo ao modelo, sem edição manual | Que o conteúdo não foi reconstruído depois |
| Identificador único | Chave que liga entrada, versão, saída e ação | Que os fragmentos descrevem o mesmo caso |
| Proteção contra alteração | Armazenamento imutável ou encadeamento criptográfico | Que ninguém ajustou a prova silenciosamente |
| Vínculo com identidades | Nome, papel e credencial de quem interveio | Quem respondia pela decisão naquele dia |
03. Glossário
AI washing: divulgação de capacidade de inteligência artificial que a organização não consegue demonstrar que possui.
auditabilidade: qualidade do que um terceiro consegue verificar sem depender da descrição que o sistema faz de si mesmo.
explicabilidade: grau em que um humano compreende por que o sistema sugeriu determinado resultado, atributo subjetivo e distinto de prova.
Registro de Custódia da Decisão: trilha por decisão, gerada pela infraestrutura, ligando entrada, versão do modelo, saída, ação executada e revisão humana, protegida contra alteração e vinculada a identidades.
raciocínio exibido: texto que o modelo apresenta como sequência de passos antes da resposta, produzido pelo próprio sistema auditado.