Como preparar agentes do Poder Judiciário para identificar e analisar discriminação algorítmica?

Foi essa tarefa que liderei junto ao coletivo de pesquisa Desvelar, a partir de uma parceria e um chamado do Comitê de Diversidade do Tribunal de Justiça do Maranhão (TJMA). O curso ocorreu durante o mês de outubro, em formato 100% remoto.

O objetivo foi capacitar os servidores da Corte a identificar, analisar e atuar, tanto enquanto servidor quanto como cidadão, em relação a práticas discriminatórias perpetradas com o auxílio de tecnologias digitais, a partir de embasamento teórico e prático sobre o tema. Embora inteligência artificial e discriminação algorítmica fossem um dos assuntos mais esperados, entendemos que este era o momento de traçar um cenário mais amplo para essa discussão.

Desse modo, customizamos uma jornada de ensino adaptando conceitos, habilidades e referências especificamente para a demanda da turma. Primeiro, começamos com a definição de um entendimento básico sobre o que é discriminação, quais suas formas e exemplos de regulações brasileiras antidiscriminatórias. Passamos por um breve histórico da internet, com a finalidade de compreender não somente como se chega na camada de serviços, na web, mas também para identificar as estruturas de poder que circundam a sua camada física e entender o impacto do colonialismo digital. Discutimos sobre discriminação e discurso de ódio na internet, compreendendo sua relação com o modelo de negócio de grandes plataformas digitais e formas de responsabilização. E fechamos com um módulo completo sobre inteligência artificial, discriminação e antidiscriminação, partindo dos fundamentos da IA até casos de discriminação algorítmica, uso de IA no Poder Judiciário e possíveis abordagens regulatórias para essa tecnologia no Brasil e no mundo.

Para cumprir com essa tarefa, não podemos deixar de mencionar que contamos com um time incrível de docentes colaboradores, que contribuíram com perspectivas únicas e necessárias para o debate. Um grande agradecimento ao professor Rodolfo Avelino e às professoras Danielle Costa e Tainá Aguiar, que prontamente toparam o convite para somar conosco.

Não poderíamos deixar de agradecer também ao Comitê de Diversidade do TJMA, que tem desenvolvido um trabalho exemplar e inspirador no Poder Judiciário, provocando discussões de suma importância para a construção de uma Justiça mais inclusiva e representativa. Esperamos que essa iniciativa e preocupação possam se disseminar por outros tribunais do país e estamos à disposição para colaborar com essa importante missão.

Abaixo, deixamos registros das aulas e alguns dos feedbacks que recebemos dos nossos alunos após a conclusão do curso – mensagens que dão a sensação de dever cumprido e de colaborar para um cenário crítico e emancipador no uso de novas tecnologias.