Estudo sobre Viés Político do ChatGPT é destaque em relatório de IA da Universidade de Stanford

Um estudo do pesquisador Valdemar Pinho Neto, coordenador e professor do Mestrado Profissional em Economia e Finanças da EPGE Escola Brasileira de Economia e Finanças (FGV EPGE) e coordenador do Centro de Estudos Empíricos em Economia (FGV CEEE), em colaboração com os pesquisadores Fabio Motoki e Victor Rodrigues, alcançou um importante marco ao ser incluído no "AI Index Report: Measuring trends in AI" de 2024, publicado pelo Instituto de Inteligência Artificial Centrada no Humano da Universidade de Stanford.

O artigo, intitulado "More human than human: measuring ChatGPT political bias", atraiu atenção global imediata logo após sua publicação na revista acadêmica Public Choice. Em sua sétima edição, o AI Index Report foi lançado em um momento crucial em que a influência da IA na sociedade está em destaque, abordando as principais tendências em IA, incluindo os avanços técnicos, as percepções públicas e as dinâmicas geopolíticas em torno do tema Inteligência Artificial.

O relatório reuniu os principais avanços no campo da IA, visando fornecer informações imparciais e abrangentes para formuladores de políticas, pesquisadores, executivos, jornalistas e o público em geral, promovendo uma compreensão mais completa e detalhada do campo da IA.

O artigo “More human than human: measuring ChatGPT political bias" contribuiu para o AI Index Report de 2024 em seu capítulo sobre Inteligência Artificial Responsável (RAI). O Report destacou os achados da pesquisa de que LLMs, como o ChatGPT, são cada vez mais usados para informar indivíduos sobre questões políticas, revelando que o ChatGPT não seria isento de viés. O estudo mostrou que o ChatGPT tende a favorecer os Democratas nos EUA, sendo esse viés observado também no Reino Unido e no Brasil. Essas tendências levantam preocupações sobre a possibilidade de influenciar opiniões políticas dos usuários.

Além disso, o AI Index Report de 2024 explorou uma ampla gama de temas essenciais relacionados à RAI, desde definições-chave de termos como privacidade, governança de dados, transparência, explicabilidade, equidade e segurança, até incidentes relacionados à IA e percepções da indústria sobre riscos e possíveis medidas de mitigação. O capítulo também analisou métricas relacionadas à confiabilidade geral dos modelos de IA e destacou a falta de relatórios padronizados de referência sobre RAI.

O destaque dado à pesquisa foi resultado, entre outros fatores, da rápida repercussão que ele obteve logo após sua publicação, com menções em veículos de comunicação renomados como o Washington Post, Sky News UK, The Telegraph e Folha de São Paulo. Recentemente, a Forbes também o citou em uma matéria intitulada "Using Fair-Thinking Prompting Technique To Fake Out Generative AI And Get Hidden AI Prejudices Out In The Open And Dealt With".

A relevância do estudo foi além do âmbito acadêmico e midiático e já começa a impactar o mundo real, influenciando as discussões sobre regulamentação e governança da IA. Por exemplo, a pesquisa foi citada em um documento enviado ao parlamento inglês, destacando sua influência nas discussões sobre regulamentação e governança da IA. Além disso, foi referenciada em um documento de política da Comissão Econômica para a América Latina e o Caribe (CEPAL), enfatizando seu papel na formulação de políticas públicas relacionadas à IA em nível internacional.

Para ler o artigo completo, acesse o site.