“NINGUÉM SERÁ JULGADO POR ROBÔS NESTE PAÍS”: O ENFRENTAMENTO DA DISCRIMINAÇÃO ALGORÍTMICA DE GÊNERO NA UTILIZAÇÃO DE IA GENERATIVA PELO PODER JUDICIÁRIO BRASILEIRO E O ODS 16
Abstract
Considerando os riscos concernentes à Inteligência Artificial – sobretudo a Generativa –, que vão desde os vieses algorítmicos presentes nos sistemas, passando pela governança, proteção e sigilo dos dados, até impactos em direitos fundamentais, este artigo tem por objetivo geral analisar como a Resolução CNJ n. 165/2025 pode enfrentar adequadamente a discriminação algorítmica de gênero no Poder Judiciário brasileiro, inclusive prevenindo o seu surgimento, e quais os efeitos disso no Objetivo de Desenvolvimento Sustentável 16 da Agenda 2030 da ONU. Para tanto, em um primeiro momento, será esclarecido o significado e a abrangência da discriminação algorítmica de gênero; em seguida, serão apresentadas as regulamentações existentes acerca da utilização de IA pelo Poder Judiciário, bem como o ODS 16 – que constitui o eixo “Paz, Justiça e Instituições eficazes” –; e, por fim, serão discutidas as alterações trazidas na atualização da Resolução, especialmente em sua previsão de enfrentamento à discriminação algorítmica. Trata-se de pesquisa exploratória, com método de pesquisa bibliográfico e método de procedimento monográfico. A conclusão aponta que a categorização de riscos é a formulação mais completa existente até o momento para lidar com os impactos algorítmicos e, sendo ela uma previsão importante da Resolução atualizada, a iniciativa do Poder Judiciário se mostra adequada – embora seja necessário um monitoramento constante de sua aplicação.
