A “visão geral” oferecida pela IA do Google comete dezenas de milhões de erros por hora. Isso é preocupante
Análise fala de uma escala de desinformação massiva que coloca a confiabilidade das respostas da plataforma em risco.
Antes da inteligência artificial ser algo presente nas nossas vidas, o buscador do Google funcionava assim: você digitava algo na barra de pesquisa e a página te entregava uma série de links sobre o assunto. Ele te direcionava para sites que podiam (ou não) conter a sua resposta.
Ele ainda faz isso, de certa forma. Contudo, de 2024 em diante, o Google passou a colocar resumos gerados por inteligência artificial no topo dos resultados de pesquisa. Ao invés de direcionar os usuários para outros websites, ele começou a responder às perguntas diretamente.
Essa é a “visão geral criada por IA” do Google. Ela tem um nome um pouco mais charmoso em inglês: “AI Overviews”. No início de seu lançamento, usuários rapidamente perceberam que ela cometia vários erros – e alguns eram bem absurdos. Os mais famosos incluem sugestões para adicionar cola na pizza para deixar o queijo mais grudento ou comer pelo menos uma pedra por dia.
Dois anos se passaram, e a visão geral da IA do Google melhorou muito. Mesmo assim, ela ainda comete muitos erros. Uma pesquisa, por exemplo, afirma que 71.15% dos entrevistados encontrou pelo menos um erro significativo em uma visão geral de IA.
Desinformação em escala nunca vista antes
Uma análise recente conduzida pela startup Oumi descobriu que a Overview de IA trazia informações corretas 90% das vezes. É uma porcentagem alta, claro. Contudo, considerando que o Google processa mais de cinco trilhões de pesquisas por ano, uma taxa de erro de 10% significa dezenas de milhões de respostas erradas por hora. Isso representa centenas de milhares de erros por minuto.
E mesmo quando as respostas são tecnicamente corretas, elas nem sempre são confiáveis. Mais da metade das respostas corretas eram “infundadas”, ou seja, os sites linkados não corroboravam totalmente as informações fornecidas. Isso torna difícil verificar a precisão da resposta.
As empresas de IA estão por trás de uma crise de desinformação. É difícil lembrar de outra tecnologia na história que tenha fornecido números absolutos de informações erradas na mesma escala que os modelos de IA. Estudos também mostram que as pessoas tendem a confirmar no que a IA responde sem questionamentos. Um relatório mostrou que apenas 8% dos usuários sempre checam a resposta da IA. Já um estudo de pesquisadores de Universidade da Pensilvânia descobriu que os usuários aceitam o que as IAs respondem como verdade, mesmo quando ela está errada, cerca de 80% das vezes.
Verifique a resposta
É muito difícil realmente verificar o quão correta a AI Overview realmente é. Essas visões gerais nem sempre fornecem a mesma resposta. Buscas idênticas podem retornar resultados diferentes, alguns precisos e outros não. Essa variabilidade torna mais difícil saber em quem confiar. Uma resposta errada pode transformar em uma correta se o usuário repetir a pergunta – ou o contrário.
A decisão do Google de colocar as visões gerais no topo da página de resultados de pesquisa significa que mais pessoas estão expostas a esses resultados e, muitas vezes, assumem que são confiáveis.
“Mesmo quando a resposta é verdadeira, como você pode ter certeza de que é verdadeira?”, afirmou Manos Koukoumidis, CEO da Oumi, ao The New York Times. “Como você pode verificar?”
Em conjunto, esses problemas alimentam preocupações mais amplas sobre como as pessoas realmente usam a busca. A melhor dica para se prevenir é: nunca confie em uma única fonte, sempre compare a resposta que você obtém com outras.
O Google inclui um aviso abaixo de seus resumos de IA que diz o seguinte: “A IA pode cometer erros. Por isso, cheque as respostas”. Mas os pesquisadores afirmam que esse aviso pode não ser suficiente, especialmente quando a informação parece ser de fontes confiáveis.





