O sistema de justiça britânico acaba de dar um passo inédito e controverso: determinar que forças policiais da Inglaterra e do País de Gales suspendam imediatamente o uso de inteligência artificial na elaboração de documentos judiciais. A decisão, que envolve o trabalho de delegacias em todo o território, não é uma rejeição à tecnologia em si, mas uma resposta direta a um problema que vem se repetindo com frequência alarmante — as chamadas alucinações de IA, que já causaram constrangimentos diplomáticos, erros processuais graves e até a demissão de um chefe de polícia.
O caso que explodiu a confiança: o jogo de futebol que nunca existiu
Para entender a decisão da justiça britânica, é preciso voltar a novembro de 2025. A polícia de West Midlands proibiu a entrada de torcedores do lado israelense em uma partida da Europa League entre Aston Villa e Maccabi Tel Aviv. A justificativa? Um relatório de segurança que apontava histórico de violência entre Maccabi Tel Aviv e West Ham.
O problema é que essa partida nunca aconteceu. A informação era uma alucinação do Microsoft Copilot, usada sem verificação por um policial durante a confecção do documento. O caso ganhou proporções internacionais quando o então chefe de polícia, Craig Guildford, afirmou em depoimento ao parlamento que a força não usava IA — e depois admitiu o uso do Copilot, pediu desculpas e acabou forçado a renunciar. Seu substituto interino, Scott Green, suspendeu imediatamente o uso da ferramenta.
Agora, cerca de seis meses depois, o problema se repete em um território ainda mais sensível: os documentos apresentados diretamente nos tribunais.
Por que a justiça britânica suspendeu o uso de IA pela polícia?
A determinação judicial não é uma proibição total do uso de inteligência artificial pelas forças policiais — o Reino Unido está, ao mesmo tempo, expandindo o programa Police.AI com um orçamento anual de 115 milhões de libras (cerca de 250 bilhões de ienes) para ferramentas de reconhecimento facial e análise preditiva. O que foi suspenso é o uso de sistemas generativos de IA para redigir declarações testemunhais, relatórios de ocorrência e outros documentos com valor legal.
Alex Murray, responsável pela política de IA de todas as forças policiais britânicas, deixou claro em comunicado: a automação de processos judiciais exige que as salvaguardas estejam prontas antes da implementação. Na prática, a decisão reconhece que a diretriz “verifique tudo o que a IA produzir” simplesmente não está funcionando na prática.
O problema fundamental: “verificar o quê?”
O caso de West Midlands demonstrou que a orientação de verificar os outputs de IA falha em pelo menos dois níveis. Primeiro, porque a verificação demanda tempo e conhecimento que o agente que usa a ferramenta muitas vezes não tem. No caso do futebol, ninguém checou se a partida mencionada pelo Copilot realmente existia. Segundo, porque quando o output passa por múltiplas camadas de IA — um policial usa IA para organizar anotações, outro usa IA para redigir o relatório, e um supervisor usa IA para resumir o documento — o conceito de “verificação contra a fonte original” perde completamente o sentido.
Um debatedor online resumiu com precisão: se um policial usa IA para organizar memórias, outro usa IA para criar o relatório, e o chefe usa IA para resumir, no final não há uma “fonte” clara contra a qual verificar. O que se tem é uma cascata de alucinações potencialmente amplificadas.
Além da polícia: o caso Cork v Smith e o dano aos processos legais
A suspensão do uso de IA pela polícia não é um caso isolado no sistema judiciário britânico. Em 4 de junho de 2026, a High Court do Reino Unido proferiu a decisão no caso Cork and another v Smith [2026] EWHC 1199, que expôs um problema idêntico no mundo da advocacia privada.
Um jovem advogado do grande escritório Pinsent Masons consultou uma IA sobre artigos da lei de falências — e incorporou diretamente em uma petição ao tribunal artigos fictícios que a máquina havia inventado. O mais grave: a própria IA havia incluído um aviso de que o usuário deveria verificar a exatidão das informações. O advogado ignorou. O juiz descreveu a conduta como “uma atitude negligente quanto à exatidão dos materiais submetidos ao tribunal” e determinou a comunicação do caso à autoridade reguladora da advocacia (SRA).
O juiz ainda observou que, se o advogado tivesse checado, teria percebido facilmente que a IA estava inventando — mas a verificação simplesmente não ocorreu.
A armadilha cognitiva da verificação
O cerne do problema não é a precisão da IA — é a incapacidade humana de sustentar a vigilância necessária. Quanto mais confiável a ferramenta parece ser, mais relaxada a supervisão se torna. O cérebro humano é programado para economizar energia, e manter o foco para detectar erros esporádicos em meio a outputs quase perfeitos é uma tarefa cognitivamente exaustiva.
Um profissional experiente em testes de fábrica compartilhou um insight curioso: ele introduzia erros intencionais na linha de produção para evitar que os operadores relaxassem demais na verificação. Mas manter essa estratégia de forma organizada é caro e complexo. Quando a IA erra uma vez a cada cem outputs, e o operador precisa identificar qual é o errado sem pistas, a tendência é que a atenção se dissipe com o tempo.
Em março de 2026, o Civil Justice Council (CJC) do Reino Unido iniciou uma consulta pública sobre o uso de IA na preparação de documentos judiciais, encerrada em abril. Um dos focos principais são as declarações testemunhais: a diretriz atual (Prática Direcional 57AC) exige que o depoimento seja redigido “nas próprias palavras da testemunha”, o que é incompatível com a geração por IA. O CJC estuda exigir uma declaração formal de que a IA não foi usada para gerar conteúdo de testemunhas, enquanto para petições e esqueletos de argumentação a responsabilidade do advogado que assina o documento seria suficiente.
O dilema da expansão paralela da IA policial
A contradição exposta pela decisão judicial não poderia ser mais evidente: ao mesmo tempo que o tribunal ordena a paralisação do uso de IA para documentos legais, o governo britânico avança com a expansão nacional do programa Police.AI, que inclui reconhecimento facial e outras ferramentas de investigação baseadas em inteligência artificial. Os 115 milhões de libras anuais representam um dos maiores investimentos públicos em IA policial da Europa.
A pergunta que fica é: se o sistema não consegue garantir a confiabilidade de um relatório de segurança sobre uma partida de futebol, como garantir a confiabilidade de um sistema de reconhecimento facial que pode levar à prisão de um inocente? O tribunal britânico escolheu parar e pensar — mas apenas em uma das pontas do problema.
O que significa para o Brasil
Embora o caso seja britânico, as questões que levanta são universais. No Brasil, tribunais e forças policiais já experimentam com IA para redação de documentos, análise de provas e até sugestão de sentenças. A decisão inglesa funciona como um alerta: a tecnologia pode ser poderosa, mas a capacidade humana de verificar seus resultados tem limites estruturais que não podem ser resolvidos com uma simples orientação de “confira antes de usar”.
Enquanto não houver respostas claras para perguntas como “quem verifica?”, “contra o quê?” e “com que custo?”, a justiça britânica optou por parar. Pode ser a decisão mais sensata — e a mais difícil de replicar em um mundo que corre para automatizar tudo.
