INTELIGÊNCIA ARTIFICIAL E O PERFILAMENTO RACIAL EM ABORDAGENS POLICIAIS SOB UM ENFOQUE DO HC 208.240/SP

                A Inteligência Artificial é uma consequência lógica do constante avanço tecnológico que permeia a sociedade moderna e a sua implementação nos mais diversos ramos da administração pública, demonstra-se uma importante ferramenta para atender as demandas sociais que exigem um olhar mais atento do gestor público. No contexto do Poder Judiciário, a Inteligência Artificial pode se transformar em um aliado na resolução das demandas. Ocorre, contudo, que em um processo judicial são discutidos os mais variados aspectos da vida humana, e a simplificação na construção de uma Inteligência Artificial pode acarretar inúmeros prejuízos para a sociedade, ocasionando um aumento exponencial das mazelas enraizadas em nossa sociedade, tal como o preconceito racial.

                A par desta situação, quanto ao exponencial crescimento em casos de preconceito racial após a implementação da Inteligência Artificial, Alexandre Moraes da Rosa e Daniel Henrique Arruda Boeing[1] citam o exemplo oriundo do Judiciário Estadunidense, em que uma ferramenta denominada “LSI-R” poderia “prever” a possibilidade de um condenado voltar a reincidir, partindo de questionamentos sobre sua vida pregressa. Nas perguntas, encontravam-se presentes premissas fundadas exclusivamente na cor daquele indivíduo, programadas para retroalimentar todo um sistema com ensinamentos preconceituosos e criar um loop vicioso que contribui para punir pessoas por fatos que ainda não ocorreram.

                Ainda neste contexto que tangencia o preconceito racial, é possível citar a recente discussão perante o Supremo Tribunal Federal, a qual, a partir da análise do Habeas Corpus nº 208.240/SP, a corte busca, mediante a consolidação de teses, coibir o perfilamento racial como preceito para fundar abordagens policiais. Todavia, o caso em debate ainda se encontra pendente de julgamento, visto a divergência instaurada entre os ministros, se houve ou não, o perfilamento racial na abordagem policial que culminou na prisão em flagrante de um indivíduo negro. Verifica-se, a partir desta construção que a criação simplificada de uma Inteligência Artificial, ignorando os mais complexos aspectos que compõem a interação humana, pode, em alguma medida, fomentar o preconceito racial, tão vivo, infelizmente, em nossa sociedade.

                Ante o exposto acima, diante dos inúmeros aspectos constitutivos da vida humana que são discutidos no âmbito do processo judicial, faz-se necessária uma maior cautela para a implementação da Inteligência Artificial no Poder Judiciário, para que tal ferramenta possa se tornar uma aliada na resolução das demandas que nela tramitam. Ademais, denota-se que a sociedade, parte diretamente afetada na implantação da Inteligência Artificial, participe de forma assídua, no desenvolvimento desta ferramenta, desde o conhecimento dos dados que serão utilizados para sua elaboração, até a fiscalização dos resultados, a fim de mitigar ao máximo os malefícios enraizados em nossa cultura.

[1] BOEING, Daniel Henrique Arruda; ROSA, Alexandre Morais da. Ensinando um Robô a Julgar: pragmática, discricionariedade, heurísticas e vieses no uso de aprendizado de máquina no Judiciário. 1. ed.. Florianópolis: Emais Academia, 2020.

Adriéli Rafaela Moraes; Alessandro Henzel Taglieber

Acadêmicos do Curso de Direito

Me. Gabriel Henrique Hartmann 

Professor do Curso de Direito - FEMA