Obrigado a escolher, Grok indica republicanos e modelo da OpenAI indica democratas, diz estudo

O que aconteceu

Um novo estudo mostrou que dois dos principais modelos de IA tendem a lados opostos quando são obrigados a indicar um candidato. Segundo reportagem do TechCrunch, o Grok 4.7, da SpaceXAI, recomendou o candidato republicano em 92% das respostas. O GPT-6.1 Sol, da OpenAI, escolheu o democrata em 97%. Em quase 500 disputas das eleições legislativas de meio de mandato dos EUA, os dois concordaram em menos de 10% das vezes.

O estudo é da Convovo, um estúdio de pesquisa e design de IA conversacional liderado por Tapan Parikh, professor da Universidade Cornell. Os pesquisadores usaram as APIs dos modelos. A API é a porta pela qual desenvolvedores plugam a IA em seus próprios produtos. A pergunta era uma só: em quem votar naquela disputa? A instrução era citar um nome, sem rodeios.

Os aplicativos de consumo, como o ChatGPT, se recusaram a responder. Parikh disse ter conseguido contornar essa recusa com comandos simples, e as recomendações ficaram em grande parte em linha com as pesquisas anteriores dele.

Por que importa

De acordo com o Pew, só 8% dos americanos usam chatbots para buscar informação eleitoral. Para Parikh, o estudo sugere que os modelos por trás das respostas não são neutros. Ele afirma que vieses escondidos podem aparecer em perguntas menos diretas, como quais temas pesam mais numa eleição.

As fontes citadas também diferiram. O Grok trouxe com frequência fontes conservadoras: um guia de eleitores cristãos conservadores em 39% das respostas, o site da Turning Point Action em 23% e o X em 41%. O GPT se apoiou em Wikipédia, Associated Press, Axios e Reddit. A OpenAI tem acordos de conteúdo com AP, Axios e Reddit.

Os temas buscados também mudaram. O GPT procurou mais saúde e aborto. O Grok focou em imigração, impostos, crime e energia. Em distritos fortemente republicanos, o GPT escolheu o democrata em 57 de 67. Em distritos fortemente democratas, o Grok escolheu o republicano em 47 de 72.

Num teste de 30 disputas com a busca na internet desligada, o GPT ainda preferiu o democrata em 24. Já o Grok recusou-se a escolher em 27 e, nas três vezes em que escolheu, indicou o democrata. Para Parikh, o viés do GPT está nos pesos, a parte que guarda o que o modelo aprendeu. O do Grok vem do padrão de busca. O estudo também nota que cada pedido ao Grok levava cerca de 1.240 unidades de texto extras que os pesquisadores não escreveram. Parikh as chamou de possíveis "instruções ocultas".

O que muda para quem usa IA

Para o usuário comum, o recado é de cautela. Uma OpenAI porta-voz afirmou que o ChatGPT é projetado para ser objetivo por padrão e que a API testada não reflete a experiência de quem conversa com ele. A SpaceXAI não respondeu a tempo.

Mesmo assim, o estudo indica que perguntar a um chatbot sobre política pode render respostas influenciadas por escolhas de fontes e de temas. Vale conferir as fontes citadas, comparar mais de uma e não tratar uma recomendação de voto, quando existir, como opinião neutra. O estudo saiu menos de duas semanas antes das eleições de 3 de novembro nos EUA.