I. O que sobra quando a evidência é conferida
A temporada anterior estabeleceu uma distância mensurável: a maioria das grandes companhias já declara a inteligência artificial como risco material, e uma minoria demonstra supervisão exercida sobre esse risco. Esta série parte do outro lado dessa distância e faz uma pergunta menos confortável. Não quanto ao que falta fazer, mas quanto ao que já se aceita como prova de estar fazendo.
A resposta é parcial: três alegações que circulam como evidência não sobrevivem ao confronto com a fonte. A lei brasileira de proteção de dados não exige que o revisor de uma decisão tomada unicamente por máquina seja pessoa natural — a expressão saiu do texto por medida provisória, e a tentativa de restaurá-la foi vetada.
Tampouco se formou, nos tribunais americanos, um padrão sobre responsabilidade de conselho em sistemas autônomos: o que existem são decisões sobre quem é obrigado a mostrar o quê. E a resolução do Conselho Federal de Medicina não contém mecanismo de interrupção automática nem prazo em segundos; estabelece que a decisão clínica final permanece sob responsabilidade do médico.
Nada disso enfraquece a obrigação. Desloca o fundamento dela. O controle humano deixa de ser uma exigência que se cumpre por alegação e passa a ser uma propriedade do desenho, verificável em log, em credencial, em protocolo de parada e em ata. É por isso que a série começa pela arquitetura e termina pelo texto legal: o meio é o que sustenta os dois extremos.
Os quatro primeiros dossiês instalam a tese no terreno técnico — o que faz de um registro uma prova, de um operador uma identidade, de uma pausa um mecanismo e de uma escala um problema de projeto. Os quatro seguintes tiram a tese do terreno técnico: o que os tribunais decidiram de fato, o que a evidência empírica documenta sobre implantação, o calendário que substitui a declaração de intenções e o que a lei brasileira realmente pede hoje.
[Ponto de Inflexão Fiduciária]: Da última vez que um consultor, fornecedor ou assessoria jurídica apresentou ao seu conselho uma obrigação, um precedente ou um prazo como fundamento de investimento, alguém abriu o texto oficial e leu o artigo até o fim?
II. O Navegador do Comando: Dossiês da Série
A série foi desenhada como percurso, não como antologia. Quem lê na ordem encontra cada afirmação sustentada pela anterior: a definição de controle precede a discussão de prova, a prova precede o protocolo, o protocolo precede o calendário, e o calendário chega à obrigação legal já sem a necessidade de invocar norma que não existe. Quem precisa de um ponto de entrada único encontra no dossiê 05 o instrumento mais imediatamente utilizável e no 08 o ajuste de contas com o que se costuma citar por aqui.
01. Human-in-Command: Governança que Resiste ao Teste do Ácido
Colocar um humano no circuito não é o mesmo que dar a ele autoridade exercitável. Este dossiê instala a distinção que sustenta a temporada inteira: controle é propriedade do desenho, e não da presença. Sem os componentes certos, a supervisão vira cerimônia — e cerimônia documentada é pior que ausência, porque produz registro de conformidade para uma função que ninguém exerceu.
02. Engenharia de Auditoria: Registros que Resistem ao Teste
Um texto de raciocínio gerado pela máquina não é prova de nada; é rascunho. Este dossiê especifica o que transforma um registro em evidência: identificador, marca temporal, identidade do titular da ação, referência ao critério aplicado e imutabilidade verificável. E mostra o que acontece com a defesa de supervisão quando o único documento disponível foi produzido pelo próprio sistema supervisionado.
03. Identidade como Camada de Controle
Registrar «humano» como operador produz um documento inútil em juízo, em auditoria e em renovação de apólice. A pergunta relevante é quem, com qual credencial, em qual papel e com qual autoridade para alterar o resultado. Este dossiê trata identidade não como requisito de segurança da informação, e sim como a camada que torna o controle humano atribuível a alguém.
04. Viabilidade do Controle Humano
Supervisão individual funciona em volume baixo e se converte em carimbo quando o lote cresce. Este dossiê mede a aritmética que consome o argumento: quantas decisões um revisor consegue examinar com autoridade real por turno de trabalho, o que a arquitetura precisa absorver para que a amostra revisada seja representativa, e por que taxa de revisão sem amostragem desenhada é teatro com métrica.
05. Escalada de Decisões: Protocolos Determinísticos
Escalar não é avisar. É parar, com condição de disparo definida antes do incidente, dono nomeado, janela medida e registro da decisão de retomar. Este dossiê constrói o protocolo e documenta o custo de confundir notificação com interrupção, usando o litígio de precificação algorítmica como exemplo de disputa em que o que se discutiu foi quais dados entraram no modelo — e não quem supervisionou.
06. Supervisão em Juízo
Cinco litígios conferidos no registro do processo, e o resultado é menos confortável que o resumo de mercado: nenhum tribunal decidiu até hoje quem responde, em nome do conselho, por uma decisão de sistema autônomo. O que existe são ordens sobre produção de documento, uma frase de juízo federal sobre aprovação de fachada em negação de cobertura e um contraste, no mesmo tribunal de Delaware, entre duas arquiteturas de reporte separadas por cinco anos.
07. Quatro Fases, Seis Meses
Um calendário com responsável, critério de saída e evidência por fase substitui a declaração de intenções. Este dossiê apresenta o percurso em quatro fases e marca, linha por linha, o que vem de norma publicada e o que é escolha de engenharia deste autor — inclusive o prazo de guarda de registros, ancorado no artigo do regime europeu, e a proporção de pilotos que viram operação permanente sem critério de descontinuação.
08. Obrigação sem Invenção
O que a lei brasileira já pede de supervisão, lido no texto oficial: registro, segurança, informação ao titular, dever do profissional de saúde e responsabilidade de quem assina peça produzida por máquina. Este dossiê inventaria a obrigação em vigor, a regulação setorial e a tramitação, separa as três e registra o precedente trabalhista real — uma multa por jurisprudência inventada por sistema de texto — no lugar de um padrão que não existe na jurisprudência publicada.
III. O Pacto do Comando Verificado
A leitura sequencial é o caminho para quem constrói o argumento completo: a temporada precisa que o leitor aceite primeiro que controle é propriedade do desenho, para então suportar a afirmação mais dura, a de que boa parte da evidência usada para tranquilizar conselhos não existe. Quem tem pouco tempo encontra no dossiê 01 a tese, no 05 o instrumento e no 08 o ajuste de contas com o discurso regulatório brasileiro.
Recomendamos tratar os dossiês 02, 03 e 04 como especificação de engenharia, e não como leitura de conselho: eles rendem em sessão com a área técnica presente, com um sistema real aberto no painel de demonstração. Já o 06 e o 08 foram escritos para a assessoria jurídica — o primeiro sobre o que se pode alegar em juízo a partir do registro, o segundo sobre o que se pode citar como obrigação.
Antes de qualquer contratação, há um exercício que cabe na próxima reunião e não depende de fornecedor. As três verificações abaixo pedem documento, não opinião, e cada uma delas já derrubou uma afirmação que constava de material apresentado a conselhos.
☐ Sugere-se escolher um sistema em operação e pedir à gestão o registro de uma única decisão revisada por humano, com identificador, marca temporal, nome do revisor, credencial, papel e autoridade para alterar o resultado — e verificar se o documento existe antes do pedido.
☐ Recomenda-se solicitar a toda apresentação que invoque obrigação legal a indicação do dispositivo, órgão, data de publicação e situação de tramitação, conferidos em fonte oficial por quem não defende o projeto.
☐ Orienta-se pedir o protocolo de parada de cada sistema material: a condição que dispara a interrupção, quem tem autoridade para retomar, em quanto tempo a decisão precisa ser tomada e onde o evento fica registrado.