O Google lançou recentemente um novo recurso chamado AI Overviews nos Estados Unidos, mas o lançamento não foi tão suave quanto o esperado. A ferramenta tem como objetivo fornecer respostas de IA para consultas de pesquisa, evitando que os usuários tenham que clicar em vários links. No entanto, os resultados gerados têm variado de engraçados a perigosos, levando o Google a considerar encerrar o recurso.
O problema com o modelo do Google é que ele resume o conteúdo dos principais resultados de pesquisa, mas nem sempre os resultados estão em ordem de precisão. Sites populares e bem otimizados podem aparecer no topo da lista, mesmo que não forneçam informações precisas. Isso levanta preocupações quando a IA do Google reproduz conteúdo que pode ser prejudicial.
Um exemplo disso foi compartilhado por Tim Keck, fundador da The Onion, que mostrou como a AI Overview sugeriu que as pessoas deveriam comer pedras com base em uma pesquisa. No entanto, a fonte dessa informação era satírica e não deveria ser levada a sério. Outros exemplos incluem conselhos estranhos, como adicionar cola à pizza, com base em comentários antigos do Reddit.
Essas falhas têm levantado preocupações sobre a segurança e precisão das informações fornecidas pela AI Overview. Em algumas pesquisas relacionadas a saúde e finanças, foram geradas respostas de IA inapropriadas, incluindo conselhos médicos questionáveis. Isso levanta questões sobre a qualidade do serviço e o impacto que pode ter na vida das pessoas.
A discussão online sobre a AI Overview chamou a atenção do Google, que afirmou estar trabalhando para melhorar o recurso e remover respostas inadequadas. No entanto, alguns usuários optaram por desativar a AI Overview por precaução. Enquanto aguardam novos desenvolvimentos, os usuários estão sendo aconselhados a seguir fontes confiáveis e questionar as informações fornecidas pela IA.
Em resumo, a AI Overview do Google tem enfrentado críticas devido a respostas imprecisas e perigosas. É crucial que o Google reavalie e aprimore o recurso para garantir a segurança e precisão das informações fornecidas aos usuários. A qualidade e confiabilidade das respostas devem ser prioridades para evitar danos e desinformação.