DISCRIMINAÇÃO ALGORITMICA: INTELIGENCIA ARTIFICAL, VIESES HUMANOS E ALGORÍTIMICOS E A PROTEÇÃO CONSTITUCIONAL

Resumo

O uso da Inteligência Artificial promete respostas simples para soluções complexas. Para além das relações de consumo, no Brasil o seu emprego avança rapidamente por meio de decisões que afetam os aspectos centrais de vida de milhões de brasileiros. Um dos efeitos indesejados, no entanto, é a discriminação algorítmica, que enseja a violação de direitos da personalidade. Quais os aspectos técnicos e jurídicos contribuem para uma decisão de Inteligência Artificial sem discriminação algorítmica? Para resposta a este problema, o presente artigo inicialmente demonstra que tanto as decisões humanas quanto da Inteligência Artificial possuem vieses que fitam a formação de generalizações, lugares comuns, estereótipos e estigmatização e expõe a taxonomia desses vieses. Em seguida, expor-se-á as fontes principais de preconceitos que podem resultar em discriminação por algoritmos, a definição do problema da “caixa preta” e o conceito de profiling. Ao final, apontar-se-á a necessidade de políticas de incentivo a empresas a desenvolverem modelos explicáveis de IA e a auditarem sistemas já em curso, bem como uma maior atenção aos decisores humanos ao chamado viés da automação quando da revisão humana das decisões automatizadas, tudo com foco na proteção constitucional da proteção de dados e direito à não discriminação. Quanto à metodologia, utilizou-se método de abordagem hipotético-dedutivo a partir de revisão bibliográfica.