I. A Cadeia que Nenhum Contrato Resolve
Em uma cadeia de decisão algorítmica típica, quatro camadas participam do resultado — e nenhuma carrega responsabilidade exclusiva pelo que o sistema produziu.
A primeira é o provedor do modelo, que treinou a base cognitiva do sistema. Seus contratos comerciais trazem cláusulas explícitas de exclusão de responsabilidade por decisões tomadas com base no modelo. A jurisprudência ainda não testou os limites dessas exclusões, mas os casos sugerem que elas deslocam o ponto de partida da análise de responsabilidade, sem eliminá-la.
A segunda é o desenvolvedor do sistema — quem escolheu o modelo, definiu os prompts, construiu os guardrails ou decidiu não construí-los e desenhou a interface. É nessa camada que a função objetivo se inscreve na arquitetura técnica, e por isso ela guarda a maior proximidade técnica com a origem de um dano.
A terceira é a organização que implantou o sistema. Ela aprovou o deployment, definiu o escopo de uso, estabeleceu ou não pontos de supervisão humana e conduziu ou não due diligence. É a camada mais diretamente avaliável pelo board, porque é nela que a custódia se materializa ou permanece ausente.
A quarta é o usuário final, que opera o sistema dentro — ou além — do escopo definido pelo implantador. Quando age fora do escopo, a questão jurídica passa a ser se o implantador tinha mecanismo para detectar e prevenir essa expansão.
O Bloomberg Law (2025) sintetizou a posição que os tribunais vêm consolidando: nenhum dos quatro pode ser totalmente responsável, e todos podem ser parcialmente culpáveis. O direito de agência tradicional pressupõe consentimento mútuo, controle identificável e escopo previamente definido — e sistemas de IA desafiam os três pressupostos ao mesmo tempo.
[Ponto de Inflexão Fiduciária]: Para cada sistema de IA comprado de terceiros que sua organização opera, há documentação de que a due diligence cobriu o comportamento real do sistema — e não apenas as especificações do fornecedor?
II. O Mesmo Fornecedor, Dois Implantadores, o Mesmo Problema
O padrão documentado nos casos Sharp HealthCare e Sutter Health é a ilustração mais precisa da Fragmentação Fiduciária disponível na jurisprudência americana de 2025–2026.
O caso Sharp HealthCare envolveu o sistema de transcrição da Abridge, objeto do processo Saucedo v. Sharp (San Diego Superior Court, novembro de 2025). O sistema preencheu automaticamente registros de consentimento com a expressão “advised and consented” em aproximadamente 100.000 atendimentos clínicos, sem que as conversas que sustentariam esses consentimentos tivessem ocorrido de forma verificável.
O caso Sutter Health envolveu o mesmo fornecedor e o mesmo comportamento, documentado no processo N.D. Cal. 4:26-cv-03012 (abril de 2026). Dois implantadores distintos, em sistemas hospitalares diferentes, adotaram a mesma ferramenta, e o mesmo problema se manifestou em ambos. Nenhum havia conduzido auditoria técnica independente antes do deployment.
O padrão não diz respeito à ferramenta, mas ao que os implantadores fizeram antes de adotá-la. Quando o mesmo fornecedor apresenta o mesmo comportamento problemático em vários clientes, a questão jurídica se desloca da falha do fornecedor para a due diligence de cada comprador: o que foi verificado antes de colocar o sistema em produção?
A pergunta incomoda porque a verificação era possível. Comportamentos de preenchimento automático em registros clínicos aparecem em amostragem simples: basta confrontar o que o sistema gravou com o que ocorreu em um conjunto de atendimentos. Auditoria dessa natureza não exige acesso ao código do fornecedor — exige a decisão de olhar antes, e o registro de que se olhou.
É essa a assimetria que a Fragmentação Fiduciária expõe. O implantador não controla o modelo, não conhece seus pesos e não define seu treinamento, mas controla integralmente a decisão de submetê-lo a teste antes da produção — e é sobre essa decisão, e não sobre a arquitetura do fornecedor, que o Conselho responde.
Bloomberg Law (2025): nenhum dos participantes da cadeia pode ser totalmente responsável; todos podem ser parcialmente culpáveis. Sharp HealthCare (Saucedo v. Sharp, nov/2025) e Sutter Health (N.D. Cal. 4:26-cv-03012, abr/2026): mesmo fornecedor, dois implantadores, mesmo comportamento — nenhum havia auditado tecnicamente o sistema antes do deployment. World Economic Forum (abr/2026): “Accountability is not transferable by contract.”
[Ponto de Inflexão Fiduciária]: Se o mesmo fornecedor de IA que sua organização utiliza falhar em outro cliente amanhã, o board terá como demonstrar que a sua implantação foi auditada de forma independente?
III. Fragmentação Fiduciária — O Que o Conceito Nomeia
A Fragmentação Fiduciária é a dispersão da responsabilidade entre provedor, desenvolvedor, implantador e usuário que nenhum contrato elimina e que nenhum tribunal tem aceitado como exoneração total de qualquer das partes. O termo é descritivo antes de ser prescritivo: nomeia a realidade que o comprador enfrenta quando algo dá errado, independentemente do que o contrato estabeleça.
Sua implicação operacional para o board é específica: o contrato com o fornecedor não substitui a due diligence de implantação. A cláusula que transfere responsabilidade protege apenas na medida em que a falha seja do fornecedor. Quando o problema é ter implantado sem auditar o comportamento do sistema, a cláusula é um acordo entre as partes contratantes — e não exime o implantador perante quem foi prejudicado.
Há uma consequência prática que costuma escapar na renovação de apólices. Seguradoras de D&O passaram a perguntar como a organização avalia sistemas de terceiros antes de adotá-los, e a resposta “temos contrato com o fornecedor” não descreve controle próprio. Descreve, no máximo, a expectativa de reembolso — que só se realiza se a falha for demonstravelmente do fornecedor.
O World Economic Forum (abr/2026) resumiu o princípio: “Accountability is not transferable by contract.” A frase descreve o que os tribunais têm feito com contratos que tentam transferir responsabilidade. Quem auditou o comportamento do sistema e documentou essa auditoria tem defesa demonstrável; quem não o fez tem a cláusula — e a exposição que a due diligence teria mitigado.
Quando o incidente ocorre e o litígio começa, a organização descobre que a cláusula protege contra um conjunto específico de reivindicações — as que atribuem a ela falhas exclusivas do fornecedor. O que o litígio alega é outra coisa: que a organização implantou o sistema sem auditar seu comportamento, sem mapear o blast radius e sem supervisão adequada.
Nenhuma dessas falhas está coberta, porque todas são do implantador. O contrato protegeu a organização contra o argumento errado; o argumento que prevaleceu era justamente o que a due diligence de implantação teria endereçado.
[Ponto de Inflexão Fiduciária]: A cláusula que transfere responsabilidade ao seu fornecedor de IA foi negociada pelo jurídico — mas foi submetida à mesma análise que a due diligence técnica do comportamento do sistema?
IV. Rastreabilidade como Estratégia de Custódia
Sugerimos observar que a Fragmentação Fiduciária não se resolve pelo contrato, mas pode ser gerida pela rastreabilidade. Quatro instrumentos permitem demonstrar que o implantador exerceu supervisão adequada, independentemente do que a cláusula estabeleça.
O primeiro é a rastreabilidade do raciocínio do modelo, o que a literatura técnica chama de XAI: o registro do que foi considerado, de quais variáveis pesaram e de por que a recomendação foi aquela. Esse registro permite reconstruir a lógica da decisão sem depender da memória de quem operou o sistema.
O segundo é a cadeia de aprovação registrada — quem autorizou o deployment, com quais parâmetros, com que blast radius e o que ficou fora do escopo. Sem ela, a aprovação do board é indistinguível, para um tribunal, da ausência de deliberação informada.
O terceiro é o audit trail de decisões agênticas, o registro contínuo do que o sistema fez depois de aprovado: atualizações do fornecedor, expansões de escopo e usos além dos parâmetros. O quarto é o monitoramento contínuo, que produz sinais regulares ao board e constrói a detectabilidade que os conselhos costumam negligenciar.
A ordem em que esses instrumentos são construídos também importa. Quando a auditoria técnica antecede a assinatura, seus achados entram na negociação: prazos de correção, obrigações de notificação prévia e direitos de auditoria continuada deixam de ser cláusulas genéricas e passam a endereçar riscos identificados. Quando vem depois, o contrato já fixou o que o fornecedor deve — e o implantador descobre sozinho o que sobrou para si.
Recomendamos notar que contrato e due diligence de implantação são instrumentos de natureza distinta. O contrato define obrigações entre a organização e o fornecedor; a due diligence define o que a organização pode demonstrar, perante quem foi prejudicado, sobre o cuidado com que avaliou o sistema. São complementares, mas não substituíveis.
☐ Sugere-se que a due diligence de fornecedores de IA inclua auditoria técnica independente do comportamento do sistema e mapeamento próprio do blast radius antes do deployment, e não apenas validação das especificações declaradas.
☐ Recomenda-se negociar o contrato em conjunto com essa análise técnica, para que as exclusões de responsabilidade correspondam ao que a due diligence demonstrou ser risco do fornecedor ou do implantador.
☐ Orienta-se exigir audit trail configurado pelo implantador em cada sistema adquirido e auditoria técnica prévia de atualizações do fornecedor que alterem o comportamento em produção.
V. O Teste do Ácido
Se amanhã surgir um litígio envolvendo um sistema de IA que sua organização comprou de terceiros, a defesa fiduciária se apoiará em due diligence técnica do comportamento do sistema, em audit trail de sua operação e em registro de monitoramento pelo board, ou o Conselho vai descobrir que só tem a cláusula que transfere a responsabilidade ao fornecedor?
🏛️ Biblioteca: Metodologia Prática
Protocolo de Rastreabilidade na Cadeia de Fornecimento de IA
Este protocolo organiza a evidência que o implantador precisa produzir para que sua defesa não dependa exclusivamente do contrato com o fornecedor.
01. Evidências de Due Diligence de Implantação
- Auditoria de Comportamento: testes independentes do sistema com casos reais da organização, documentados antes do deployment.
- Blast Radius Próprio: mapeamento do impacto máximo feito com metodologia do implantador, sem depender do escopo declarado pelo fornecedor.
- Cadeia de Aprovação e Audit Trail: registro de quem aprovou, com quais parâmetros, e trilha contínua do comportamento em produção.
02. Matriz das Quatro Camadas
| Camada | Risco Típico | Evidência que o Implantador Deve Guardar |
|---|---|---|
| Provedor do modelo | Exclusão contratual de responsabilidade | Análise da cláusula cruzada com a auditoria técnica |
| Desenvolvedor | Função objetivo e guardrails inadequados | Documentação da função objetivo e testes de comportamento |
| Usuário final | Uso além do escopo aprovado | Mecanismo de detecção de expansão de uso e registro de respostas |
03. Glossário
Audit trail: o registro contínuo e rastreável das ações e eventos de um sistema em operação, legível para fins de governança.
Blast radius: o alcance máximo de impacto que um sistema pode produzir dentro dos parâmetros autorizados.
Board: o Conselho de Administração, responsável pela supervisão fiduciária.
D&O: o seguro de responsabilidade civil de diretores e administradores, cuja subscrição passou a considerar a qualidade da avaliação de sistemas de terceiros.
Deployment: a entrada do sistema em operação real.
Due diligence: o processo de verificação técnica e operacional que o comprador realiza antes de colocar um sistema em produção.
Fragmentação Fiduciária: a dispersão da responsabilidade entre provedor, desenvolvedor, implantador e usuário, que nenhum contrato elimina e que se gerencia pela rastreabilidade.
Guardrails: os limites técnicos que restringem o que um sistema de IA pode produzir ou executar.
Prompts: as instruções em linguagem natural que orientam o comportamento de um modelo de IA.
XAI: a inteligência artificial explicável — o conjunto de técnicas que permite registrar de forma compreensível o raciocínio por trás de uma recomendação.