O lamentável estado da pesquisa é um sinal ameaçador para a era da IA

Recentemente, em uma noite de sábado, um executivo de tecnologia entediado decidiu brincar com um aplicativo de inteligência artificial sobre o qual estava ouvindo falar. O executivo, que chamaremos de Matthew, começou da maneira como a maioria das pessoas procura coisas na internet: abriu seu laptop e digitou o nome da empresa de IA, Midjourney, no Google. Ele clicou no resultado principal e com mais alguns cliques baixou e instalou o aplicativo.

Ou foi isso que ele pensou ter feito: na verdade, ele clicou em um anúncio que o Google havia vendido involuntariamente a um golpista disfarçado de Midjourney. Matthew, que solicitou anonimato porque teme que quem acessou seu computador ainda possa ter seus dados pessoais, instalou inadvertidamente um "infostealer", um tipo de malware que vasculha o computador da vítima em busca de nomes de usuário e senhas e depois os transmite aos hackers. Este, conhecido como Aurora, acessou sua carteira criptográfica, contas de redes sociais e sabe-se lá o que mais. Os hackers transferiram o conteúdo da carteira Coinbase de Matthew – centenas de milhares de dólares em criptografia – para um banco que não era dele. “É toda a sua vida”, diz Matthew. "Você se sente tão nu, assustado e vulnerável."

Matthew se culpa por não ter sido mais cuidadoso, mas também culpa o Google por permitir que um golpe óbvio chegasse ao topo de sua página de resultados. O fracasso foi ampliado pelas escolhas de design que criam a sensação de que os links dos resultados de pesquisa do Google são perfeitamente objetivos e confiáveis, ao mesmo tempo que tornam difícil dizer quais estão lá porque alguém pagou para colocá-los lá. (O Google rotula os anúncios como “patrocinados”, mas é fácil não perceber o rótulo.)

A experiência de Matthew levanta questões de longa data sobre os custos do domínio da empresa no mercado de buscas e sua aparente incapacidade de controlar fraudes. E sugere que o Google pode ter mais dificuldade do que o previsto em manter fraudes e desinformação fora de seu mecanismo de busca chatbot experimental (e às vezes desafiado factualmente). No Google Bard, como é conhecido, provavelmente será ainda mais difícil determinar a procedência das informações que a empresa fornece.

No final de julho, o anúncio em que Matthew clicou havia desaparecido, mas ainda havia sites falsos do Midjourney aparecendo perto do topo dos resultados de pesquisa do Google. “O fato de ainda aparecer nos resultados é injusto”, diz ele. "Eu confiei neles, mas era uma confiança falsa." As listagens falsas do Midjourney desapareceram do Google logo após uma consulta da Bloomberg Businessweek. O Google se recusou a comentar as listagens falsas, mas afirma que usa uma combinação de revisores humanos e software para remover esse tipo de conteúdo, o que é proibido. Ele também observa que removeu 5,2 bilhões de anúncios no ano passado por violarem as políticas da empresa. “Embora existam pessoas mal-intencionadas que tentam contornar nossas proteções, os sistemas do Google são altamente eficazes na divulgação de informações de alta qualidade e no combate a spam e comportamento malicioso”, disse Ned Adriance, porta-voz da empresa.

Não deveria ter sido necessário um sistema anti-fraude sofisticado para descobrir que o anúncio que o Google mostrou a Matthew era malicioso. A listagem apontava para um site que supostamente era da Midjourney, mas substituiu a letra “o” do nome da empresa por um zero, uma tática de fraude bem conhecida. Havia tópicos no Reddit alertando os usuários exatamente sobre isso antes de Matthew clicar, e o senador democrata de Connecticut, Richard Blumenthal, em uma carta de 2022, acusou o Google de ter “rotineiramente falhado em lidar com golpes perigosos, falsificação de identidade e crimes cibernéticos”. Além disso, Midjourney nem tem um aplicativo para download; você acessa-o através do aplicativo de bate-papo Discord.

Exemplos semelhantes apareceram periodicamente ao longo da história do Google. No final de julho, por exemplo, Shmuli Evers, um designer digital, descobriu que golpistas conseguiram enganar o Google, fazendo-o fornecer números de telefone falsos para a Delta Air Lines Inc. e outras grandes companhias aéreas para vender passagens falsas. O Google corrigiu o erro depois que Evers tuitou sobre isso, mas os críticos dizem que a empresa sabe há muito tempo sobre golpes semelhantes de números de telefone. “Esses sequestros ocorreram todos os anos nos últimos 15 anos”, diz Mike Blumenthal, cofundador da Near Media, que assessora empresas em marketing digital e de busca. “O Google há muito empurra os custos desses golpes para a sociedade.”