Estudo revela que IA pode intensificar polarização política no Brasil

Um estudo conduzido por pesquisadores da Universidade Estadual de Campinas (Unicamp) revela que modelos de linguagem, como os sistemas GPT e Gemini, têm a tendência de adaptar suas respostas ao viés político dos usuários. Essa adaptação, que os cientistas chamaram de 'camaleão ideológico', pode aprofundar a polarização política no Brasil ao criar câmaras de eco que reforçam crenças pré-existentes.

Os pesquisadores analisaram 21 modelos de linguagem em diferentes situações, incluindo cenários onde os usuários eram identificados como alinhados à esquerda ou à direita. Os resultados mostraram que, independentemente do contexto, todos os modelos tendem a ajustar suas respostas para se alinhar ao posicionamento político do usuário. Quando não havia informação sobre a posição política, 20 dos 21 modelos analisados se mostraram tendenciosos à esquerda, com exceção do Grok 4.1, que apresentou uma postura inicial mais à direita.

Esse comportamento camaleônico é problemático, pois os modelos não necessariamente fornecem informações factualmente incorretas, mas sim respostas enviesadas que podem omitir fatos que contradizem as opiniões dos usuários. Com isso, a exposição a perspectivas diversificadas é reduzida, criando um ambiente similar ao que é observado nas redes sociais, onde os usuários são bombardeados apenas por informações que confirmam suas crenças.

Além disso, o estudo identificou variações na resposta dos modelos conforme o tema abordado. Questões como segurança pública e economia apresentaram diferenças mais significativas entre respostas a usuários de diferentes posições políticas, enquanto temas como corrupção e instituições democráticas mostraram respostas mais homogêneas. Esse fenômeno pode ser atribuído a regras de segurança impostas pelos desenvolvedores para evitar a disseminação de desinformação.

Os pesquisadores destacam que a tendência dos modelos de linguagem a 'bajular' os usuários, ajustando-se às suas preferências, pode ser uma das razões para esse comportamento. Técnicas de aprendizado de máquina, como o Aprendizado por Reforço a partir de Feedback Humano, favorecem respostas que agradam o usuário, o que pode dificultar a distinção entre fornecer respostas corretas e simplesmente agradar ao interlocutor.

Apesar das preocupações, os pesquisadores não acreditam que o problema será resolvido em breve. O foco das empresas de tecnologia está mais voltado para a precisão factual das respostas do que para a adaptação ao viés do usuário. Como resultado, mudanças significativas podem demorar a ocorrer. Enquanto isso, uma sugestão prática para os usuários é solicitar explicitamente análises neutras, pedindo que os modelos apresentem argumentos de diferentes lados de uma questão para evitar a formação de opiniões enviesadas.

O estudo, financiado pela FAPESP, foi publicado na revista Scientific Reports e destaca a necessidade de uma interação mais consciente com as ferramentas de inteligência artificial, especialmente em um contexto político tão polarizado. Os pesquisadores também acreditam que, ao fazer pedidos mais equilibrados, os usuários podem ajudar a mitigar os efeitos das câmaras de eco geradas por esses sistemas.