Recentemente foi revelado que a polícia britânica usou um relatório, que tinha uma informação falsa gerada por IA, para uma proibição. Esse caso, além de ser absurdo, também mostra que é preciso normas mais rígidas e claras para o uso da IA em certas áreas. Nesse post, nós da Hosting Machine, vamos te explicar tudo sobre esse caso!

Polícia britânica erra ao usar informação falsa gerada por IA

Início de tudo

Tudo começou com a partida da Liga Europa entre Aston Villa e Maccabi Tel Aviv, que foi marcada para 6 de novembro de 2025, em Birmingham. Em resumo, a Polícia de West Midlands (WMP) considerou esse evento como de “alto risco”, por conta de episódios anteriores de violência envolvendo torcedores do Maccabi, principalmente os confrontos durante o jogo contra o Ajax em Amsterdã, em novembro de 2024. Inicialmente, os relatos indicavam distúrbios com crimes de ódio, incluindo vandalismo e agressões. Embora posteriormente autoridades holandesas contestaram os exageros, como o número de policiais envolvidos (que era cerca de 1.200, não 5.000 como alegado).

Por conta dos relatos iniciais, a WMP recomendou ao Grupo Consultivo de Segurança (SAG) a proibição total de torcedores visitantes, citando ameaças potenciais de comunidades locais em Birmingham e histórico de hooliganismo. Essa decisão, tomada nas reuniões de outubro de 2025, gerou críticas imediatas tanto de organizações judaicas quanto da embaixada israelense. Isto é porque essas entidades viram nessa decisão um tratamento desigual, principalmente considerando o contexto geopolítico sensível.

Qual foi a informação gerada por IA?

A informação gerada pela IA foi uma referência fictícia a uma partida de 2023 entre Maccabi Tel Aviv e West Ham United. O relatório policial descrevia esse jogo como envolvendo “confrontos violentos e crimes de ódio”. Além disso, no relatório foi sugerino que isso servia como evidência de comportamento arriscado dos torcedores israelenses. No entanto, essa partida nunca existiu.

Na realidade, o West Ham enfrentou o Olympiacos na Liga Europa, enquanto o Maccabi jogou contra o Zorya Luhansk na Polônia. A criação dessa informação acontece devido a um fenômeno que muitos chamam de alucinação de IA. Em suma, esse fenômeno acontece quando ferramentas generativas inventam detalhes plausíveis, mas falsos, para responder consultas e perguntas.

Isso aconteceu porque um funcionário da polícia usou o Microsoft Copilot durante a o desenvolvimento de relatório de inteligência. Essa ferramenta, por ter sido treinada em vários conjuntos de dados, pode perpetuar vieses ou criar informações inexistentes, como visto nesse caso. Além disso, isso acontece principalmente em tópicos mais nichados.

Vários especialistas do Instituto Alan Turing destacam que essas alucinações acontecem por conta da falta de compreensão contextual da IA. Assim, acarretando levando a saídas infundadas. Nesse caso, o funcionário adicionou essa informação ao relatório sem verificação, também ignorou os avisos de possíveis incoerências e imprecisões, e o detalhe foi incorporado sem verificação.

Como isso afetou o relatório?

Isso comprometeu a integridade do relatório de inteligência da WMP. Já que o relatório introduziu uma evidência falsa que reforçou a narrativa de risco elevado dos torcedores do Maccabi. Essa referência fictícia foi usada para justificar a proibição. No entanto, essa foi só uma das oito incoerências identificadas pelo inquérito da HMICFRS, incluindo exageros sobre o incidente de Amsterdã e ligações infundadas entre fãs e as Forças de Defesa de Israel. Isto levanta a questão de viés. Já que a polícia coletou seletivamente dados que apoiavam a decisão prévia de banir, ignorando evidências contrárias, como as ameaças aos torcedores israelenses por grupos locais.

Como resultado, o relatório perdeu toda sua credibilidade, além de levar acusações de manipulação e falhas processuais. Para todo o público, a inclusão não verificada do dado apenas destacou as deficiências do sistema, como a falta de supervisão e treinamento inadequado para ferramentas de IA.

Ademais a isso, o inquérito concluiu que isso contribuiu para uma avaliação enviesada, onde os riscos foram superestimados para os torcedores do Maccabi e subestimados para eles próprios, afetando a recomendação ao SAG. Diversos especialistas em ética de IA, como os da TechMarketView, alertam que esses erros podem amplificar os vieses humanos, principalmente em casos e contextos mais sensíveis. Por conta disso, eles recomendam auditorias obrigatórias para mitigar impactos em decisões públicas.

Qual foi a resposta da polícia?

Inicialmente, a WMP negou qualquer envolvimento de IA no erro. Durante as audiências no Comitê de Assuntos internos, em dezembro de 2025 e janeiro de 2026, o chefe Craig Guildford atribuiu esse erro a imprecisão de uma busca no Google. Ele afirmou firmemente que a força “não usa IA” para pesquisas de inteligência. No entanto, ele mudou de posicionamento no dia 12 de janeiro de 2026, quando enviou uma carta de desculpas à chair do comitê admitindo o uso do Microsoft Copilot. Nessa carta, ele expressou seu “profundo arrependimento” por enganar o Parlamento.

Em resposta a todas as críticas, a própria WMP se autoencaminhou ao Escritório Independente de Conduta Policial (IOPC). Desse modo, o escritório pode investigar o uso inadequado de IA por um oficial sênior e um funcionário. Assim, focando em processos de preparação e verificação.

Além disso, a força também emitiu desculpas públicas, afirmando estar “extremamente arrependida” pelos erros não intencionais e se comprometendo a reconstruir a confiança comunitária. Guildford defendeu que o erro da IA foi menor na decisão geral, mas reconheceu lapsos em engajamento, como as consultas mínimas com a comunidade judaica. Essa abordagem também incluiu promessas de melhorias em protocolos de IA, alinhadas a diretrizes do Colégio de Polícia, para evitar que esse erro se repita nas avaliações de risco.

Consequências

As consequências foram significativas para a liderança da WMP, também acarretando na aposentadoria de Craig Guildford em 16 de janeiro de 2026, aos 52 anos, com pensão integral. Isso aconteceu logo depois da Home Secretary Shabana Mahmood declarar que perdeu sua confiança na liderança, até descrevendo o inquérito como “condenatório”.

Além disso, o relatório da HMICFRS também identificou outras falhas, como viés de confirmação e engajamento pobre. Isso levou a mais investigações adicionais pelo IOPC sobre o uso de IA e potenciais condutas inadequadas. Alguns políticos como Chris Philp criticaram a decisão como “capitulação” a ameaças, enquanto as organizações judaicas demandavam reformas institucionais, vendo o incidente como uma quebra de confiança.

Além disso tudo, esse caso provocou diversos debates sobre ética do uso da IA na polícia. Consequentemente, isso acarretou em pedidos para diretrizes mais rígidas, incluindo a supervisão humana obrigatória e auditorias. Já nas redes sociais, as reações das pessoas variaram de indignação com o uso indevido da tecnologia à defesas da proibição baseadas no histórico de racismo e violência dos torcedores do Maccabi, incluindo as multas da UEFA. Aparentemente, o governo planeja fazer reformas para ampliar os poderes da Home Secretary sobre as forças policiais, potencialmente impactando a integração de IA no futuro.

E esse foi o nosso post sobre o caso em que a polícia britânica usou uma informação falsa gerada por IA. Esperamos que você tenha gostado desse post ou achado interessante. Caso queira ver mais posts semelhantes a esse dê uma olhada nos nossos posts de notícias e IA.