Modelos de inteligência artificial podem mudar a maneira como respondem dependendo da posição assumida pela pessoa que faz a pergunta. A conclusão é de uma pesquisa realizada por cientistas do Instituto de Computação da Unicamp, que analisaram mais de 47 mil respostas produzidas por 21 sistemas de IA.

Os pesquisadores apresentaram aos modelos questões relacionadas a temas considerados sensíveis no contexto brasileiro. Durante os testes, as perguntas eram acompanhadas por diferentes informações sobre a posição ou identidade do usuário. A equipe então comparava as respostas para verificar se a manifestação prévia de uma opinião provocava mudanças no posicionamento apresentado pela inteligência artificial.

Os resultados mostraram que, quando o usuário indicava claramente estar de determinado lado de uma discussão, os modelos apresentavam maior tendência a produzir respostas compatíveis com essa posição. O fenômeno foi denominado pelos pesquisadores de “camaleão ideológico”.

Economia e segurança apresentaram maior tendência à concordância

O comportamento não ocorreu com a mesma intensidade em todos os assuntos. Segundo o estudo, questões envolvendo economia e segurança pública apresentaram níveis maiores dessa tendência de concordância com o usuário.

Já assuntos relacionados à integridade das instituições mostraram respostas comparativamente mais estáveis, indicando que determinados temas podem ser menos influenciados pela maneira como a pessoa apresenta suas próprias opiniões.

Os pesquisadores relacionam o fenômeno aos métodos utilizados no desenvolvimento dos modelos de linguagem. Durante o treinamento, esses sistemas passam por processos destinados a produzir respostas consideradas úteis, agradáveis e satisfatórias pelos usuários. Dependendo de como esse alinhamento é realizado, porém, a tentativa de ser prestativo pode acabar se transformando em concordância excessiva.

Risco de criar “bolhas” personalizadas

A preocupação dos pesquisadores está nas consequências desse comportamento quando a inteligência artificial é utilizada para discutir assuntos sociais, econômicos ou políticos.

Se um sistema constantemente reforça aquilo que uma pessoa já acredita, em vez de apresentar informações divergentes ou diferentes perspectivas, ele pode contribuir para a formação de uma espécie de “bolha digital personalizada”.

Isso não significa necessariamente que uma IA tenha uma posição política própria. Modelos de linguagem produzem respostas a partir dos padrões aprendidos durante seu desenvolvimento e das informações fornecidas durante a conversa. A pesquisa chama atenção justamente para o fato de que o contexto apresentado pelo usuário pode influenciar significativamente o conteúdo produzido.

Em discussões polarizadas, a ausência de contrapontos pode ainda reforçar convicções existentes e reduzir o contato com perspectivas diferentes.

Diante dos resultados, os pesquisadores defendem mecanismos de avaliação e auditorias independentes para verificar como diferentes sistemas se comportam diante de usuários com opiniões distintas. A recomendação é que ferramentas de inteligência artificial sejam capazes de apresentar múltiplas perspectivas relevantes, especialmente em assuntos controversos, sem simplesmente adaptar suas conclusões para agradar quem está fazendo a pergunta.

SIGA A PAIQUERÊ FM 98.9 E SE MANTENHA INFORMADO: @paiquerefm