I. O Que Decide a Atenção Sem Passar por Ata
Faça-se a lista de quem influencia a atenção de uma equipe de revisão e se verá que ela raramente tem dono. Operações fixa quantas pessoas ficam na fila e a meta de casos por hora. Tecnologia decide quantos avisos o sistema emite e o que cada um interrompe. A área de pessoas desenha o cargo, o horário e as pausas. A gestão direta distribui as outras tarefas que a mesma pessoa carrega: reuniões, outras filas, mensagens. E a ordem em que os itens são examinados, quando a hora não fecha, é decidida por quem está diante da fila.
O registro falta porque cada área enxerga apenas a sua parte. Operações vê a meta, tecnologia vê o limiar, pessoas vê o horário, e a soma só aparece para quem for encarregado de somar. Esse encargo costuma não existir, e é por isso que a pergunta sobre o dono da atenção de quem revisa fica sem resposta mesmo em organizações com políticas de revisão bem escritas.
Cada escolha é razoável no lugar em que é tomada. Somadas, definem o teto de atenção, e o que falta é o registro: a decisão de que a revisão terá este número de pessoas, estas janelas protegidas e esta regra de ordem, escrita, com autor e data. Este volume examina dois casos de fora do mundo da IA corporativa, um que protege a atenção por regra e outro cuja falta de proteção aparece num relatório oficial. A leitura é de estrutura: o que os casos mostram sobre decisões de desenho, e não sobre pessoas.
A norma veda à empresa aérea exigir, e ao tripulante realizar, durante as fases críticas do voo, funções que não sejam necessárias à operação segura da aeronave. Veda também atividades que possam distrair o tripulante ou interferir no cumprimento de seus deveres, e cita como exemplos refeições, conversas não essenciais e leitura de publicações sem relação com o voo.
Define como fase crítica o táxi, a decolagem, o pouso e todas as demais operações abaixo de 10.000 pés, exceto o voo de cruzeiro. O texto foi lido na versão consolidada mantida pelo Legal Information Institute, da Universidade Cornell; é regra de aviação comercial, e seus parâmetros não se aplicam a outras atividades.
[Ponto de Inflexão Fiduciária]: Na função de revisão de maior volume da organização, quem decide hoje o que pode interromper uma pessoa que está examinando uma saída de IA, e onde isso está escrito?
II. Declarar Quando a Atenção É Protegida
O que a regra da cabine estéril tem de instrutivo é o desenho. Ela diz quando a atenção da tripulação é protegida, e diz quem não pode pedir nada nesse intervalo, inclusive a própria empresa. A decisão é tomada uma vez, antes, por escrito, em vez de improvisada no meio da operação. Ninguém precisa decidir, com a aeronave a baixa altitude, se a mensagem da empresa pode esperar.
O caso tem limites claros. É regra de aviação, para um tipo de tarefa em que a atenção contínua da tripulação tem consequências imediatas, e seus parâmetros não se transpõem a uma fila de revisão. O que se transpõe é o método: declarar, por escrito, as janelas em que a atenção de quem revisa é protegida e o que fica proibido de interrompê-la.
Muitas rajadas são previsíveis: o fechamento do mês, a troca de um modelo, uma campanha. Nessas janelas a organização pode retirar dos revisores as tarefas não essenciais, adiar reuniões e fechar canais de mensagem. Não localizamos norma que mande fazê-lo, e é por isso que se trata de escolha de gestão, do tipo que separa duas equipes com o mesmo sistema. A janela protegida também tem custo: a pessoa que está isolada deixa de atender a outras demandas, e alguém precisa decidir que o custo vale a pena e por quanto tempo.
Sugerimos que a declaração de uma janela protegida diga quatro coisas, em poucas linhas: quando começa e quando termina, o que fica fora dela, quem pode abrir uma exceção e como a exceção é registrada. A última é a que dá credibilidade ao resto. Uma janela que qualquer gestor pode furar sem deixar rastro é uma intenção, e a medida de que ela existe é a lista das exceções abertas, com autor, no fim do trimestre.
[Ponto de Inflexão Fiduciária]: Existe alguma janela em que a atenção de quem revisa é protegida por regra, ou a proteção depende de cada coordenador lembrar de oferecê-la?
III. Tempe, 2018: o Que o Relatório Registra
Em 18 de março de 2018, em Tempe, no Arizona, um veículo de teste em modo automatizado da Uber Advanced Technologies Group atingiu uma pedestre, que morreu. O órgão americano de investigação de acidentes de transporte publicou o relatório da investigação, adotado em 19 de novembro de 2019 e identificado nas Referências. Não nomeamos a operadora e não a julgamos além do que o relatório determina; interessa-nos o sistema que ele descreve.
Três achados interessam a esta série. A empresa tinha meios de monitorar retroativamente o comportamento das operadoras e sua aderência aos procedimentos, mas raramente o fazia. Não reconheceu de modo adequado o risco da complacência com a automação e não desenvolveu contramedidas eficazes. E a decisão de retirar a segunda pessoa do veículo, deixando uma única operadora, aumentou as exigências de tarefa sobre ela e reduziu as redundâncias de segurança.
O sistema descrito é o de uma pessoa, sozinha, com a tarefa de manter atenção contínua sobre uma automação, numa organização que raramente conferia o que ela fazia e não tinha mecanismo contra a complacência. A atenção dela era uma variável de projeto, e o projeto não a registrava.
A analogia tem um limite que convém dizer sem rodeios. Um veículo de teste em via pública, com uma pessoa a monitorar a condução em tempo real, não é uma fila de revisão de decisões de IA. A natureza da tarefa, o tempo de reação exigido e as consequências são outros, e nenhum número de Tempe se transfere para uma função de revisão.
Um dos achados pede cuidado de leitura. A empresa podia monitorar retroativamente o que as operadoras faziam e raramente o fazia. Transposto a uma fila de revisão, o achado não autoriza vigiar pessoas. Sugerimos o contrário: conferir o processo, e não o indivíduo, por meio da amostragem das revisões feitas, do tempo por decisão em agregado e da taxa de reversão por cargo, como a Série 8 já pediu. A conferência serve para saber se o desenho da fila protege a atenção, e quem a recebe deve saber, de antemão, o que é medido e para que serve.
O que se aproveita é a estrutura das perguntas que o relatório faz: quantas pessoas, com que apoio, com que acompanhamento do que fazem e com que mecanismo contra a complacência. São as perguntas que reaparecem, em outra escala, quando se fala de quem revisa saídas de IA. A conclusão que o relatório permite é a de que essas respostas são decisões, tomadas por alguém, e que a ausência de registro não as faz deixar de existir: faz com que sejam tomadas sem autor.
[Ponto de Inflexão Fiduciária]: Se um relatório de investigação perguntasse hoje quantas pessoas revisavam um sistema de IA, com que apoio e com que acompanhamento do que faziam, a organização responderia com um registro?
IV. Registrar Não É Burocratizar
A Série 7 chamou de Custódia do Supervisor o dever da organização de preservar, medir e proteger a capacidade de quem supervisiona a IA. A fronteira com esta série merece clareza: a Série 7 trata da habilidade e do desgaste da pessoa; esta trata das decisões que a organização toma sobre o trabalho dela. Os dois casos deste volume mostram o dever em duas pontas, uma regra que protege a janela e um relatório que registra o que acontece quando ninguém a protegeu.
Registrar, aqui, é dar um autor a escolhas que já existem. Sugerimos que o registro de uma função de revisão traga: quantas pessoas estão presentes em cada janela; as janelas protegidas e o que não pode interrompê-las; a meta de produção e a meta de atenção, separadas; e a regra que decide quem passa na frente quando a carga excede a atenção disponível, com critério, dono e data.
O terceiro achado de Tempe tem um paralelo discreto. Retirar a segunda pessoa do veículo aumentou a exigência sobre a que ficou e reduziu a redundância. Em filas de revisão, a pergunta equivalente é se a faixa em que um erro custa mais, a que revisa antes de produzir efeito, tem uma pessoa só ou uma segunda leitura em casos de maior consequência. Não afirmamos que duas pessoas sejam melhores do que uma, e não localizamos evidência que o diga para filas de revisão de IA; sugerimos que a escolha esteja escrita, com a razão, em vez de resultar do quadro de pessoal do mês.
A separação entre as duas metas merece atenção própria. A meta de produção diz quantos itens por hora a fila deve fechar, e a meta de atenção diz quantos o teto de atenção permite examinar. Quando divergem, algo cede, e se ninguém decidiu o que, cede a atenção, porque a produção aparece no painel e a atenção não. Escrever qual das duas prevalece, e em quais circunstâncias, é uma decisão que pertence a um cargo.
☐ Sugere-se pedir à diretoria, para cada função de revisão, o número de pessoas presentes por janela e o nome do cargo que decidiu esse número.
☐ Recomenda-se registrar as janelas protegidas e o que fica proibido de interrompê-las, com a data da próxima revisão.
☐ Orienta-se comparar a meta de produção da fila com o teto de atenção e escrever em ata qual das duas prevalece quando divergem.
V. O Teste do Ácido
Se um relatório de investigação perguntar amanhã quem decidiu quantas pessoas revisavam, o que podia interrompê-las e em que ordem os itens eram atendidos quando a fila estourava, a diretoria responderá com um registro, ou o Conselho vai descobrir que cada escolha foi tomada por alguém e que nenhuma foi registrada?
🏛️ Biblioteca: Metodologia Prática
Protocolo do Registro da Atenção
01. Passos para Registrar as Escolhas Que Moldam a Atenção
- Liste, para uma função de revisão, as áreas que influenciam a atenção: operações, tecnologia, pessoas, gestão direta e quem ordena a fila.
- Pergunte a duas pessoas da fila o que as interrompe em um dia comum e anote quem decidiu que isso podia interrompê-las.
- Escreva, em poucas linhas, as pessoas presentes por janela, as janelas protegidas, a meta de produção e a de atenção, e a regra de ordem.
- Identifique o cargo que responde por cada linha e a data da próxima revisão.
- Leve o resultado à diretoria e anote as linhas em que ninguém sabia dizer quem decidiu.
02. Quadro das Escolhas Sobre Atenção
| Vetor | Indicador | Ação |
|---|---|---|
| Presença | Pessoas presentes por janela, com o cargo que decidiu o número | Registrar a presença mínima por janela e a data de revisão |
| Proteção | Janelas protegidas e lista do que fica proibido de interrompê-las | Escrever as janelas e submetê-las a cargo nomeado |
| Metas | Meta de produção e teto de atenção, com a regra de prevalência | Perguntar à diretoria qual meta prevalece quando divergem |
03. Glossário
Cabine estéril: regra da aviação comercial que proíbe, nas fases críticas do voo, funções não essenciais e atividades que distraiam a tripulação.
Fase crítica: trecho da operação em que a atenção contínua tem consequência imediata; na regra de aviação citada, o táxi, a decolagem, o pouso e as operações abaixo de 10.000 pés.
Janela protegida: intervalo declarado por escrito em que a atenção de quem revisa não pode ser interrompida por tarefas não essenciais.
Complacência com a automação: tendência de reduzir o acompanhamento de um sistema automatizado quando ele costuma funcionar bem.
Meta de produção: quantidade de itens que a fila deve fechar por unidade de tempo.
Meta de atenção: quantidade de itens que a função de revisão examina com atenção, dada pelo teto de atenção.
Custódia do Supervisor: dever da organização de preservar, medir e proteger a capacidade de quem supervisiona a IA, definido na Série 7.
Teto de atenção da supervisão humana: número máximo de decisões que uma função de revisão examina com atenção em uma janela de tempo declarada, depois de descontada a reserva para o pico.