G20 adota iniciativa da FGV Direito SP para combater discriminação na Inteligência Artificial

O Grupo de Estudos sobre o Impacto da Tecnologia nas Relações Jurídicas, Sociais e Econômicas (Gitec) da Escola de Direito de São Paulo (FGV Direito SP) apresentou ao G20 uma proposta de policy paper sobre discriminação em inteligência artificial (IA). 

A sugestão foi encaminhada ao T20, grupo de envolvimento do G20 que reúne centros e grupos de pesquisa de países membros e convidados. O objetivo é receber contribuições em diferentes formatos, entre eles a proposição de políticas públicas em resposta aos desafios globais em áreas variadas do conhecimento. O G20 é o órgão que congrega os principais países do mundo e a iniciativa tem por objetivo repensar políticas públicas em escala global. 

Coordenado pelo professor do Mestrado e Doutorado Profissional Roberto Caparroz de Almeida, o Gitec tem o objetivo de estudar as relações entre tecnologia, Direito e economia. Intitulada “Dataset Discrimination in Government Surveillance: A Threat to Equality and Justice”, a proposta do Gitec foi selecionada para a Task Force 5 - Inclusive Digital Transformation do T20, que concentra esforços na elaboração de recomendações que possam alavancar as inovações digitais para a promoção dos objetivos de desenvolvimento sustentável da Agenda 2030 da Organização das Nações Unidas (ONU), garantindo ao mesmo tempo a inclusão social e considerações éticas.  

A proposta visa debater a aplicação de inteligência artificial na vigilância do governo em áreas públicas, com ênfase nos riscos que a adoção ampla dessa tecnologia pode acarretar, incluindo erros, abusos e vieses nos datasets. A partir de dados que detectaram 627 incidentes de IA relacionados a entidades do setor público e privado, pretende-se discutir tais perigos e desenvolver estratégias para atenuá-los, para garantir o uso justo e equilibrado da IA em segurança pública. 

A proposta será publicada em junho deste ano, após a revisão por pares. Mais informações estão disponíveis no link.