IAs mudam de viés político para agradar o usuário
Bots alteram respostas se a pessoa disser que é de esquerda ou de direita.
Por
SEGUIR
SEGUINDO
14 set 2026, 12h01
Os “grandes modelos de linguagem”, como o ChatGPT, apresentam uma característica chamada sicofantia: eles tendem a mudar de opinião para concordar com o usuário. Inclusive em temas cuja discussão deveria ser objetiva, baseada em fatos, como a política.
Foi o que constatou uma experiência (1) realizada por pesquisadores da Unicamp, que fizeram uma bateria de perguntas de teor político a várias IAs e compararam as respostas. Conversamos com Zanoni Dias e Anderson Luis Bento Soares, dois dos autores do estudo.
Por que as IAs sempre tendem a concordar com o usuário? O que provoca esse fenômeno?
Zanoni: Isso está muito relacionado com o jeito que esses modelos são treinados. Existe uma fase de treinamento [dos algoritmos], que basicamente consiste em completar frases. A coisa evoluiu para perguntas e respostas, e os modelos foram ficando cada vez melhores nisso.
Mas há uma fase posterior, que é o reinforced learning, aprendizado por reforço. Então, se você olhar os ChatGPTs da vida, eles têm até um mecanismo, você dá um joinha se gostou da resposta. Isso foi criado para avaliar se a resposta está correta. Mas, na verdade, a gente responde se gosta ou não dela. Esse mecanismo acabou sendo bastante usado, e tem distorcido o significado dessa etapa.
O estudo analisou como isso pode afetar pesquisas e conversas de teor político com as IAs. Se elas alteram as respostas para agradar o usuário, podem ser consideradas fontes confiáveis de informação?
Anderson: O modelo de linguagem é uma ferramenta que deve ser utilizada com parcimônia, nunca como fonte primária de informação.
Zanoni: É perigoso simplesmente seguir o que a IA está dizendo. Mas, honestamente, a sociedade está caminhando para isso, né? A gente pergunta, vê que ela [a IA] está cada vez melhor, e então confia, questiona cada vez menos.
O estudo apontou que certos algoritmos, como o Gemma (do Google), o GPT-5 Nano (OpenAI) e o Grok (xAI) se mostraram mais sicofantas, alterando mais intensamente as próprias respostas quando o usuário declarava ser de esquerda ou de direita. Por quê?
Zanoni: Os algoritmos são muito “caixinha preta”. A gente não sabe como foram treinados, nem com quais dados, se houve mais ênfase em uma coisa ou outra, qual é o impacto da etapa de reforço em cada modelo. Eles são apresentados para a gente como oráculos nos quais você deve confiar. Mas [o comportamento das IAs] depende muito de como as empresas estão construindo os modelos.
Fonte 1. “LLMs are ideological chameleons: personalized echo chambers in the Brazilian political context”.
ACESSO LIVRE COM VIVO FIBRA