Um algoritmo é um conjunto de regras que analisa dados dos usuários para recomendar conteúdos, ajustar feeds e tomar decisões automatizadas com base em padrões de comportamento. O racismo algorítmico ocorre quando esses sistemas automatizados e de inteligência artificial (IA) reproduzem preconceitos raciais devido a dados tendenciosos usados em seu desenvolvimento. Assim, podem tomar decisões discriminatórias.
O tema foi abordado no livro “Racismo algorítmico: Inteligência artificial e discriminação nas redes digitais”, do mestre em comunicação e cultura contemporânea pela Universidade Federal da Bahia (UFBA) Tarcízio Silva.
“Como já nos disse Tarcízio Silva, racismo algorítmico é uma atualização do racismo estrutural. Ou seja, sociedades racistas irão construir modelos de tecnologias que perpetuam privilégios e a discriminação entre grupos”, explica a mestra em ciências sociais e coordenadora do Núcleo de Estudos Interdisciplinares Afro-brasileiros da Universidade Estadual de Maringá (Neiab/UEM) Eliane Oliveira.
“Vivemos uma falsa ideia de neutralidade no que diz respeito as IA’s, mas é preciso lembrar que a produção de tecnologias é alimentada por situações sociais estruturadas. Dessa forma, observaremos nela essa perpetuação de violência contra minorias sociais”, acrescenta.
Exemplos de racismo algorítmico
A reprodução de preconceitos nos dados que alimentam os algoritmos pode vista em sistemas de reconhecimento facial que identificam incorretamente pessoas negras com maior frequência; ferramentas de recrutamento que priorizam currículos de candidatos brancos devido a padrões históricos de contratação; algoritmos de crédito que negam empréstimos a pessoas de minorias raciais com base em dados enviesados, entre outros.
“Em sites de buscas, até recentemente, digitar ‘garota negra’ ou ‘mulher negra’ trazia como resultado conteúdo pornográfico. Ao buscar imagens de mulheres negras, raras vezes, encontrei algo que não tivesse conotação sexual”, compartilha Oliveira.
As consequências do racismo algoritmo são diretas para a população negra. “Há invisibilidade, problemas de autoestima, crises de identidade e até situações de extrema violência. Destaque para os casos de identificação facial utilizadas por contingentes de policiamento pelo mundo onde os erros foram gritantes, chegando a 80% das ocorrências em Londres”, relata Oliveira.
Papel das empresas de tecnologia
Para prevenir o racismo algorítmico, é preciso que essas empresas de tecnologia estejam comprometidas com os direitos humanos.
“Uma das formas é ter maior diversidade no seu quadro profissional. Uma equipe heterogênea contribui para outras visões de mundo e, automaticamente, de conteúdo”, analisa a pesquisadora.
Além disso, Oliveira ressalta a importância de coletivos de profissionais negros do campo da tecnologia.
“Eles buscam ampliar o debate, denunciar casos de manipulação e, também, promover ações antirracistas na internet”, conta Oliveira.
“A existência desses coletivos é importante pois também lidamos com a escassez de profissionais negros e de mulheres nas áreas de tecnologia, conhecimento atribuído, estruturalmente, a homens e brancos. É preciso ampliar essas redes”, enfatiza.
Já a sociedade pode combater o racismo algorítmico cobrando transparência nos dados usados pelas empresas de tecnologia, exigindo diversidade nas equipes de desenvolvimento e incentivando a educação digital.
“Pode-se contribuir não consumindo, compartilhando ou naturalizando essas práticas, além de denunciá-las”, aponta Oliveira.
“Além disso, não existe combate efetivo a qualquer tipo de violência que não passe por iniciativas educacionais, como letramento racial para lutar contra práticas racistas. É preciso um projeto de educação desde as escolas, visando a análise crítica das mídias e os usos das tecnologias”, finaliza.
