[PT] Em março de 2024, fui convidada pelo Grupo de Trabalho Interministerial (GTI) da Secretaria de Comunicação (SECOM) e Ministério da Igualdade Racial (MIR) para apresentar contribuições para a elaboração do Plano Nacional de Comunicação Antirracista.

Na ocasião, enquanto pesquisadora de raça e novas tecnologias, fui chamada para trazer evidências e propostas para enfrentar o racismo em serviços digitais de comunicação. O encontro, realizado no dia 07/03/2024, contou também com a participação de outros especialistas sobre este tema e sobre racismo na publicidade.

Na minha apresentação, pontuei pesquisas que apontam como ocorrem e quais são as maiores vítimas dos crimes de racismo e injúria racial online. Segundo um estudo conduzido por Luiz Valério Trindade, em 2018, 81% das vítimas de racismo no Facebook no Brasil eram mulheres negras de classe média, com ensino superior completo e na faixa de 20 a 35 anos.

Em pesquisa da Faculdade Baiana de Direito, JusBrasil e PNUD, que analisou mais de 100 decisões judiciais sobre racismo e injúria racial online, no período de 2010 a 2022, esta informação foi corroborada. 58,54% das vítimas eram mulheres negras, sendo o Facebook a rede social mais utilizada para esses ilícitos, seguida do Whatsapp.

Apesar da relevância desses dados, é importante considerar que uma pesquisa como essas deveria ser realizada pelo próprio governo. Isso contribuiria sobremaneira não somente para dimensionar adequadamente o problema, com informações sobre quantas denúncias sobre esses tipos de crime são feitas em todos os estados do país, como também para traçar medidas adequadas de enfrentamento.

Além disso, a realização de formações e qualificações para profissionais de segurança pública, que estão na ponta atendendo as vítimas, é fundamental para que essas pessoas não sejam duplamente vitimizadas, através de um atendimento que coloca em cheque a situação pela qual tenham passado. Uma investigação penal bem conduzida, com provas coletadas e testemunhas ouvidas, pode colaborar para uma ação penal bem instruída e, possivelmente, com maiores chances de responsabilização.

Considerando, porém, que nem sempre os casos de racismo na internet se dão por meio de discriminação direta, isto é, aquela por meio de ofensas racistas, é necessário atenção para formas de responsabilização da discriminação indireta. A literatura que vem crescendo em torno de casos de racismo algorítmico tem demonstrado que a própria tecnologia pode ser reprodutora desse tipo de discriminação.

Em 2019, o artista Gabriel Jardim criou uma obra em homenagem a Lewis Hamilton, piloto de Fórmula 1, retratando-o em um cenário de uma comunidade periférica, junto com um menino negro brincando de carrinho de rolimã. Os clientes que encomendaram a arte relataram que não puderam promover a publicação da ilustração no Instagram, pois a plataforma proibiu a ação, alegando que ela promovia a venda de armas e munição. No entanto, a imagem não tinha qualquer relação com esses elementos em lugar algum.

Atualmente, não se sabe sobre o funcionamento de ferramentas automatizadas de moderação de conteúdo, o que dificulta a implementação de um processo justo que permita aos usuários contestarem as medidas de moderação aplicadas em seus conteúdos. A falta de uma regulação para plataformas digitais e sistemas de IA também impacta na ausência de mecanismos para obrigar as empresas a terem maior transparência.

Propostas apresentadas

Nesse sentido, fiz as seguintes sugestões para o GTI, a fim de endereçar os problemas apresentados:

• Promoção de pesquisas nacionais e estatais sobre denúncias de racismo e injúria racial online, para compreender o cenário e traçar estratégias que podem ser melhor direcionadas para locais com maior incidência.
• Qualificação ou formação para profissionais de segurança pública dedicados a investigações criminais, para auxiliar no registro e persecução de denúncias de racismo e injúria racial online
• Reconhecimento da discriminação racial indireta no Plano Nacional de Comunicação Antirracista, para permitir o endereçamento de questões relacionadas à forma indireta de discriminação racial
• Apoio à construção de uma regulação de plataformas digitais, com foco para um direito ao devido processo na moderação de conteúdo online
• Programas de conscientização para proteção de direitos humanos no espaço digital e canais de denúncia específicos 

Como o encontro teve caráter consultivo, caberá à SECOM e ao MIR, por meio do GTI, determinar quais sugestões eventualmente poderão ser adotadas. De toda forma, o trabalho do grupo é um importante passo para a construção de uma comunicação efetivamente antirracista no Brasil. Espero que as contribuições apresentadas possam colaborar para o trabalho da equipe.

[EN]

Contribution to the Interministerial Working Group for the development of the National Anti-Racist Communication Plan

In March 2024, I was invited by the Interministerial Working Group (GTI) of the Secretariat of Communication (SECOM) and the Ministry of Racial Equality (MIR) to present contributions for the elaboration of the National Anti-Racist Communication Plan.

As a race and new technologies researcher, I was called upon to provide evidence and proposals to address racism in digital communication services. The meeting, held on March 7, 2024, also included participation from other experts on this topic and on racism in advertising.

In my presentation, I highlighted research indicating how online racism and racial insults occur and who are the main victims. According to a study conducted by Luiz Valério Trindade in 2018, 81% of racism victims on Facebook in Brazil were middle-class black women with completed higher education, aged between 20 and 35.

Research conducted by the Baiana Law School, JusBrasil, and UNDP, which analyzed over 100 judicial decisions on online racism and racial insults from 2010 to 2022, corroborated this information. 58.54% of the victims were black women, with Facebook being the most used social network for these offenses, followed by WhatsApp.

Despite the relevance of this data, it’s important to consider that such research should ideally be conducted by the government itself. This would greatly contribute not only to adequately assessing the problem, with information on how many reports of these types of crimes are made in all states of the country, but also to devising appropriate measures to address them.

Furthermore, providing training and qualifications for law enforcement professionals, who are at the forefront of assisting victims, is crucial to ensure that these individuals are not doubly victimized by receiving inadequate assistance. A well-conducted criminal investigation, with collected evidence and heard witnesses, can contribute to a well-informed legal action and possibly lead to greater accountability.

However, considering that not all cases of online racism involve direct discrimination, i.e., through racist insults, attention should also be given to forms of indirect discrimination. The growing literature on cases of algorithmic racism has shown that technology itself can perpetuate this type of discrimination.

In 2019, artist Gabriel Jardim created a piece honoring Formula 1 driver Lewis Hamilton, portraying him in a scenario of a peripheral community, alongside a black boy playing with a toy car. Clients who commissioned the artwork reported that they couldn’t promote the illustration on Instagram because the platform prohibited it, claiming it promoted the sale of weapons and ammunition. However, the image had no relation to these elements whatsoever.

Currently, the functioning of automated content moderation tools is not well understood, making it difficult to implement a fair process that allows users to contest moderation measures applied to their content. The lack of regulation for digital platforms and AI systems also impacts the absence of mechanisms to compel companies to be more transparent.

Proposed Solutions

In this regard, I made the following suggestions to the GTI to address the issues raised:

• Conduct national and state-level research on reports of online racism and racial insults to understand the landscape and devise strategies that can be more effectively targeted to areas with higher incidence.
• Provide training or education for law enforcement professionals dedicated to criminal investigations to assist in recording and prosecuting reports of online racism and racial insults.
• Recognize indirect racial discrimination in the National Anti-Racist Communication Plan to address issues related to the indirect form of racial discrimination.
• Support the development of regulation for digital platforms, focusing on the right to due process in online content moderation.
• Implement awareness programs for the protection of human rights in the digital space and establish specific reporting channels.

Since the meeting was consultative in nature, it will be up to SECOM and MIR, through the GTI, to determine which suggestions may eventually be adopted. Nevertheless, the group’s work is an important step towards building genuinely anti-racist communication in Brazil. I hope that the contributions presented can assist the team’s efforts.