Racismo digital: como o preconceito nos algoritmos reproduz comportamentos humanos

*Por Rodrigo Faustino

Em uma sociedade marcada pelo racismo é preciso compreender como as tecnologias reforçam comportamentos sociais de preconceito. Mas de quem é a culpa dos humanos ou das máquinas?

Tarcízio Silva, pesquisador e autor do livro “Racismo Algorítmico: inteligência artificial e discriminação nas redes digitais, já dizia em sua obra que “podemos definir o racismo algorítimo como o modo pelo qual a tecnologia reproduzem imaginários sociais e técnicos fortalecendo a ordenação racializada de conhecimentos, recursos, espaço e violência em detrimento de grupos não-brancos”.

Os atos discriminatórios são mais evidenciados em situações cotidianas como insultos ou gestos. O que temos observado nos últimos anos é esse preconceito refletido no âmbito digital. As novas tecnologias e a alta demanda do mercado por novos produtos intensificou a utilização de recursos que adotam medidas que favorecem a branquitude.

Pode-se perceber esse impacto quando utilizamos alguma plataforma de busca na internet, ao pesquisar a palavra família, os primeiros resultados da busca, ou seja, os mais clicados, são sempre de pessoas brancas, evidenciando como existe uma lógica de não associação de pessoas negras ao conceito família.

De acordo com o levantamento realizado pela Defensoria Pública do Rio de Janeiro juntamente com o Colégio Nacional de Defensores Públicos Gerais, foram realizadas 90 prisões injustas entre o ano de 2012 a 2020 por meio de reconhecimento facial. O levantamento ainda afirmou que 81% dos registros que contavam com informações sobre a raça dos acusados, se tratavam de pessoas negras.

Esses dados deixam claro que os algoritmos reproduzem as falhas no comportamento social. A inteligência artificial, de modo geral, pode ser muito útil, mas ao passo que programamos os códigos com base em escolhas pessoais e se as pessoas envolvidas têm inclinações racistas, machistas e homofóbicas, esses comportamentos automaticamente contaminam o sistema involuntariamente. Porque a tecnologia ao contrário do que se pensam não é neutra, ela segue um padrão social e comportamental.

Para as empresas o uso de inteligência artificial tem se tornado cada vez mais comum nos processos de seleção e recrutamento de pessoas, essas aplicações mais inteligentes padronizam métodos de triagem e perfis desejados para cada candidato. Mas, de forma geral, esses algoritmos de recomendação foram criados em sua maioria por homens brancos que utilizam combinações para produzir resultados tendenciosos, indicando mais homens do que mulheres para vagas de emprego, por exemplo.

Trazendo um outro viés em torno da discussão, podemos analisar o uso de filtros para as redes sociais. A utilização dessa funcionalidade tem se tornado tão natural e indispensável na nossa rotina que muitas das vezes não percebemos os problemas atrelados a esse recurso. A tendência de padronização de beleza sem levar em conta pessoas negras e trazendo ferramentas que clareiam peles, afinam o nariz e modificam o corpo, só mostra o quanto o sistema não foi produzido para receber características de pessoas não-brancas.

O que esperamos em um futuro próximo é que as empresas entendam sua falha social e envolvam profissionais diversos na criação, programação e desenvolvimento de recursos para produzirem sistemas diversos e inclusivos para todos.

Pode parecer difícil perceber como o racismo algoritmo atua, mas de maneira implícita e sutil, eles reforçam uma visão de mundo que influencia diretamente a sociedade. Os comandos automáticos das máquinas e as linhas de programação são construídos por mãos humanas, portanto importando para dentro do mundo tecnológico a visão de cada ser humano perante a sociedade.

*Rodrigo Faustino é consultor sênior de SAP-SCM, empreendedor, palestrante, Ebony networker e Vice-presidente da Ebony English School.

Faça como os mais de 10.000 leitores do tecflow, clique no sino azul e tenha nossas notícias em primeira mão! Confira as melhores ofertas de celulares na loja parceira do tecflow.

Redação tecflow

Tecflow é um website focado em notícias sobre tecnologia com resenhas, artigos, tutoriais, podcasts, vídeos sobre tech, eletrônicos de consumo e mercado B2B.

Deixe comentário

Seu endereço de e-mail não será publicado. Os campos necessários são marcados com *.

Mais acessados

Dicas e Tutoriais

SmartPhones & Tablets

Mercado & Tecnologia

Consoles e Games

Ciência & Espaço

Eventos

Quem Somos

Tecflow é um website focado em notícias sobre tecnologia com resenhas, artigos, tutoriais, podcasts, vídeos sobre tech, eletrônicos de consumo e mercado B2B.

Siga Tecflow em:

Parceiro Autthentic

error: Content is protected !!