Estudo identifica vieses ideológicos em sistema de inteligência artificial generativa

Um estudo recente conduzido por Valdemar Pinho Neto, professor da FGV EPGE e coordenador do FGV CEEE, aponta que a ferramenta de inteligência artificial generativa ChatGPT-4 reproduz um alinhamento ideológico mais à esquerda, tanto em textos quanto em imagens. A pesquisa, publicada no Journal of Economic Behavior and Organization, alerta para o impacto desses vieses na democracia e na diversidade de opiniões.

Intitulado Assessing Political Bias and Value Misalignment in Generative Artificial Intelligence, o estudo foi desenvolvido em colaboração com Fabio Motoki (University of East Anglia) e Victor Rodrigues (Insper). Utilizando as ferramentas de inteligência artificial ChatGPT-4, DALL-E2, Google Gemini, RoBERTa e o questionário do Pew Research Center, os autores analisaram conteúdos gerados em temas diversos.

Os resultados mostram que, mesmo quando instruído a simular um cidadão médio, o ChatGPT-4 manifestava opiniões mais progressistas na maioria dos temas analisados na geração de imagens, observou-se que o modelo aceitava criar cenas com viés à esquerda, mas rejeitava conteúdos conservadores, justificando riscos de desinformação. Técnicas como jailbreaking foram usadas para contornar essas restrições e evidenciar a falta de transparência nos critérios de moderação.

O estudo teve ampla repercussão na mídia nacional e internacional, com destaque no Estadão e no jornal britânico The Telegraph. Segundo Pinho Neto, “se esses vieses não forem compreendidos, há risco de amplificação de narrativas únicas, o que compromete a confiança nas instituições democráticas”.

A pesquisa propõe diretrizes replicáveis para monitorar vieses em IAs e reforça a necessidade de políticas públicas e desenvolvimento ético em tecnologias que impactam diretamente o debate público. Clique aqui para ver o estudo completo.

Clique aqui para ver o estudo completo.