Volume Não é Vigilância: A Custódia de Quem Supervisiona

I. A premissa que faltava examinar

O primeiro volume desta temporada mostrou que presença não é controle. O segundo, que narrativa não é prova. O terceiro, que credencial não é identidade. Os três dependem de uma suposição não examinada: a de que existe, do outro lado do registro, um humano com habilidade e atenção para exercer o controle que a arquitetura oferece.

Em agosto de 2026, Margaret Mitchell e Avijit Ghosh, da Hugging Face, e Samir Passi, do instituto Data & Society, publicaram um artigo de posição, AI Agents Push Humans Out of the Loop, com uma tese incômoda por ser simples: a supervisão degrada o supervisor. Não é falha de quem supervisiona; é efeito de supervisionar, por meses, um sistema que quase nunca erra.

Há um segundo eixo no problema, e ele é de escala. Um sistema de prevenção a fraude avalia milhares de transações por minuto; um agente de atendimento encerra centenas de solicitações por hora. Nenhuma equipe revisa cada uma dessas decisões com autoridade real. Quando se tenta, o resultado é o previsto pela literatura de fatores humanos: não controle, mas carimbo em volume industrial.

[Ponto de Inflexão Fiduciária]: Quantas decisões por hora uma pessoa da sua operação revisa hoje — e o que ela consegue examinar nesse ritmo, em vez de confirmar?

II. O que a evidência disponível registra

Tese e medições:

Mitchell, Ghosh e Passi, arXiv:2608.23642, 24/08/2026 — tese: a supervisão degrada o supervisor; mecanismo em quatro movimentos (desgaste de habilidade crítica, atalhos cognitivos, approval fatigue, ajuste do sistema sobre aprovações cansadas). Budzyń, Romańczyk et al., The Lancet Gastroenterology & Hepatology, 2025 — estudo observacional multicêntrico, 19 endoscopistas com mais de 2.000 colonoscopias cada, quatro centros na Polônia: taxa de detecção de adenomas nos exames realizados sem IA caiu de 28,4% para 22,4% após a rotina com a ferramenta. Bainbridge, Automatica, v. 19, n. 6, 1983, p. 775–779. Parasuraman e Manzey, Human Factors, v. 52, n. 3, 2010 — complacência aparece em iniciantes e especialistas, não se resolve só com treinamento, piora com múltiplas tarefas simultâneas. Guo et al., ICML 2017 — redes neurais modernas tendem a ser mal calibradas. Bank of England e Financial Conduct Authority, pesquisa de 21/11/2024 com 118 empresas: 34% relataram compreensão completa dos casos de uso de IA, 46% compreensão parcial.

O ciclo, em quatro movimentos

O uso prolongado reduz a prática de análise, de reconhecimento de padrão e de vigilância: quem tem vinte anos de ofício perde parte do que sabia, e quem entra agora corre o risco de nunca desenvolver essa base. Com a habilidade desgastada, o revisor recorre a atalhos — confunde texto fluente com texto correto, trata o plano que o agente apresenta como retrato fiel do que ele fará.

O terceiro movimento é o mais mecânico: quando o agente pede autorização a cada passo, a pessoa deixa de ler, estado que os autores nomeiam approval fatigue. O quarto fecha o circuito, e é o que interessa a um conselho: se o sistema é ajustado sobre a aprovação humana, e o humano aprova por cansaço, o sistema passa a produzir o que é aprovado com facilidade — e não o que está correto.

Não é só teoria: o caso da colonoscopia

Dezenove endoscopistas experientes, cada um com mais de duas mil colonoscopias no currículo, em quatro centros na Polônia. Os pesquisadores compararam os exames feitos sem apoio de inteligência artificial antes e depois de a ferramenta entrar na rotina. A taxa de detecção de lesões pré-cancerosas nesses exames sem a máquina caiu de vinte e oito vírgula quatro por cento para vinte e dois vírgula quatro por cento.

O próprio estudo se declara observacional e ressalva que o resultado pode não se generalizar. Ainda assim, ele mede o que este volume discute: especialistas perderam desempenho na ausência da ferramenta, depois de se acostumarem a ela. E o desfecho não foi medido no desempenho do assistente — foi medido no paciente.

Onde a escala trai o desenho

Diante da aritmética da fila, a resposta mais comum é o limiar de confiança: acima de determinado patamar de segurança declarado pelo modelo, o sistema age sozinho; abaixo dele, chama um humano. A proposta falha por um motivo documentado fora do debate sobre IA: redes neurais modernas tendem a ser mal calibradas, e a confiança que declaram não é bom retrato da probabilidade de acerto.

Somam-se dois fatores conhecidos. A complacência, estudada há décadas na literatura de fatores humanos, atinge especialistas e não se desfaz com treinamento — e se agrava quando a pessoa acumula tarefas. O ponto cego de operar por exceção completa o quadro: quem monitora apenas as sinalizações do sistema só vê o que o sistema decide mostrar, e um erro que não dispara alerta não existe para o supervisor. A autoridade europeia para a proteção de dados classifica como falsa a crença de que sistemas automatizados sabem quando devolver o controle a uma pessoa.

Ferramentas melhores não resolvem sozinhas

Os autores examinam a objeção mais favorável ao argumento desta temporada — a de que explicações mais claras e registros mais ricos dariam ao usuário o que falta — e respondem que explicações operam sobre capacidades cognitivas já degradadas e que nenhuma melhoria de interface resolve, sozinha, a fadiga de aprovação.

A crítica procede, e refina o segundo volume em vez de anulá-lo: o registro não foi proposto para ajudar o operador a decidir melhor no momento, e sim para permitir que um terceiro reconstrua o que aconteceu depois. Mas revela um uso que faltava descrever. Se o registro existe, ele também serve para medir a saúde de quem supervisiona.

[Ponto de Inflexão Fiduciária]: O seu conselho acompanha o desempenho dos modelos que usa — e acompanha o desempenho, ao longo do tempo, das pessoas que são pagas para discordar deles?

III. Custódia do Supervisor

Proponho chamar de Custódia do Supervisor o dever da organização de preservar, medir e proteger a capacidade de quem supervisiona sistemas de IA — e não apenas de designá-lo. Designar preenche um organograma. Custodiar preenche uma obrigação.

A pergunta clássica da governança, quem vigia os vigilantes?, ganha forma operacional. Até aqui perguntamos se o humano tem autoridade, ferramenta e registro para intervir. Falta a pergunta que este volume acrescenta: essa pessoa ainda tem a habilidade e a atenção para usar essa autoridade?

Três verbos estruturam o dever:

Preservar a capacidade: trabalho regular sem apoio da máquina, rodízio entre tarefas assistidas e não assistidas, pausas que não são favor mas proteção do instrumento de julgamento, e supervisão atribuída a quem domina o assunto — não a quem está disponível.

Medir a capacidade: acompanhar, por pessoa, se o tempo de revisão cai enquanto a taxa de aprovação sobe, e se a divergência em relação ao sistema diminui ao longo dos meses; inserir na rotina casos com resposta conhecida, cuja função é verificar se o julgamento continua afiado.

Proteger a capacidade: separar quem supervisiona de quem é cobrado por produtividade. Se o revisor é avaliado pelo número de casos que aprova por hora, a organização está pagando — sem registrá-lo em ata — pela supervisão simbólica.

O elo com os volumes anteriores é direto. Uma empresa que implantou o registro por decisão tem, nos próprios logs, o tempo de revisão, a taxa de aprovação e a taxa de divergência de cada operador: o que foi desenhado para reconstruir eventos passa a servir de termômetro de quem julga. Já o perímetro do que corre sem autorização a cada passo é o que se convém escrever num Contrato de Autonomia — documento aprovado, por sistema, declarando o que o agente decide sozinho, quais controles se aplicam ao resto, o que suspende o perímetro e quem responde por ele.

Considere o cenário hipotético de uma mesa de análise de sinistro com seis revisores e uma fila diária de quatrocentos casos. Ao longo de um trimestre, o tempo médio por caso cai de sete minutos para um minuto e meio, e a taxa de divergência em relação ao modelo cai de nove para menos de um por cento. A diretoria registra o movimento como ganho de eficiência e prova de que o modelo amadureceu. Nada no registro documenta o outro lado: nenhum dos seis revisores voltou a conduzir um caso sem o sistema desde a implantação, e os casos difíceis, antes escola da equipe, agora são roteados para fora da mesa.

A falácia trata revisão humana como grandeza monolítica, da qual basta aumentar a dose. Ela é conveniente porque transforma um problema de desenho em tarefa de contratação, e porque a evidência contrária é invisível num indicador: uma fila revisada e uma fila carimbada produzem o mesmo número de aprovações. Revisar tudo, quando revisar tudo significa um minuto e meio por caso, não é excesso de zelo — é a abolição do zelo por outro nome.

Um caso brasileiro explicita o descompasso. A Resolução CFM nº 2.454/2026 mantém o médico como responsável final e exige dele julgamento crítico sobre a sugestão da máquina. Se o uso da IA corrói a habilidade que sustenta esse julgamento, a responsabilidade continua integralmente com o profissional — e a capacidade de exercê-la pode não estar inteira. A obrigação está de um lado; o risco estrutural, do outro, e cabe ao conselho fechar a distância.

[Ponto de Inflexão Fiduciária]: Se o seu supervisor mais experiente fosse afastado hoje por um mês, haveria registro que provasse que ele ainda percebe um erro raro — ou apenas a assinatura dele em casos que a máquina resolveu sozinha?

IV. O Mandato da Custódia

A decisão deste volume é tratar capacidade de supervisão como ativo que se mantém, e não como qualidade que se presume. Tem custo recorrente — prática sem a máquina, medição por pessoa, caso plantado na fila —, e é por isso que cabe a quem aprova orçamento.

Diretrizes Consultivas — Custódia do Supervisor:

☐ Sugere-se definir por escrito, para cada sistema autônomo crítico, o perímetro de decisão que corre sem aprovação humana, o nome do responsável por esse perímetro e o evento que o suspende.

☐ Recomenda-se instituir medição por supervisor de tempo de revisão, taxa de aprovação e taxa de divergência, alimentada pelos registros já existentes, com caso de resposta conhecida inserido na rotina em intervalo definido.

☐ Orienta-se separar a avaliação de quem supervisiona das metas de volume de aprovação, e garantir período regular de trabalho sem apoio do sistema para as funções de revisão.

V. O Teste do Ácido

Se um caso incomum escapasse hoje do sistema e chegasse a um regulador, a pessoa designada para detê-lo ainda teria habilidade para perceber o erro e resolvê-lo sem a máquina — ou o conselho descobriria, pelo histórico de aprovações, que ela só exercitou o julgamento durante meses em casos que já vinham decididos?

🏛️ Biblioteca: Metodologia Prática

Protocolo de Custódia do Supervisor

01. Roteiro de aplicação por função de revisão

1. Escreva o perímetro antes de medir a fila. Declare o que o sistema faz sem pedir autorização, o que exige aprovação e o que está vedado. Sem esse documento, a métrica de revisão não tem referência.
2. Estabeleça a linha de base com caso plantado. Insira uma amostra de decisões em que o sistema está errado e meça a divergência hoje. Sem linha de base, queda futura é só número.
3. Meça por pessoa, não pela fila. Tempo de revisão, taxa de aprovação e taxa de divergência de cada supervisor, em série histórica: a média da equipe esconde o operador que virou carimbo.
4. Institua a prática sem a máquina. Defina período, frequência e tarefa. O objetivo não é produtividade; é manter a habilidade que sustenta a divergência.
5. Desvincule a avaliação do volume. Se as metas de quem supervisiona premiam quantidade de aprovação, o desenho organizacional está comprando a supervisão simbólica.

02. Matriz de custódia

03. Glossário

fadiga de aprovação: tradução de approval fatigue, estado em que a pessoa solicitada a aprovar repetidamente as ações de um agente deixa de examinar o que aprova.

atrito estratégico: interrupção deliberada do fluxo de aprovação — registrar a própria avaliação antes de ver a sugestão da máquina —, desenhada para tornar a divergência exercitável.

Contrato de Autonomia: documento aprovado que define, por sistema, o que o agente decide sozinho, quais controles se aplicam ao restante, o que suspende o perímetro e quem responde por ele.

Custódia do Supervisor: termo proposto nesta série para o dever da organização de preservar, medir e proteger a capacidade de quem supervisiona a IA.

supervisão simbólica: arranjo em que a revisão humana consta do processo, mas não altera o resultado.