A crença de que algoritmos são instrumentos neutros, guiados apenas pela precisão matemática, tem sido desmontada à medida que pesquisas revelam como essas tecnologias reproduzem e amplificam desigualdades históricas. Um estudo conduzido pela Agência UFC, a partir das investigações do professor Júlio Araújo, do Departamento de Letras Vernáculas da Universidade Federal do Ceará, mostra que esses sistemas carregam ideologias, escolhas implícitas, interesses econômicos e relações de poder profundamente enraizados na sociedade. A suposta neutralidade algorítmica, nesse sentido, não passa de uma ficção conveniente.
- Siga o tecflow no tik tok
Um caso ocorrido em outubro de 2023 ajuda a ilustrar essa realidade. A deputada Renata Souza pediu a uma inteligência artificial que gerasse uma imagem no estilo de animação da Pixar, representando uma mulher negra de cabelo afro usando roupas com estampa africana em um cenário de favela. O resultado surpreendeu pela violência simbólica: a imagem trazia a mulher negra com uma arma de fogo na mão, algo que não foi solicitado. A cena ganhou repercussão e mostrou como preconceitos e associações racistas estão embutidos na lógica de geração dessas tecnologias, que aprendem padrões a partir de bases de dados marcadas por vieses históricos. Araújo define esse processo como necroalgoritmização, entendido como a organização algorítmica da exclusão, do silenciamento e até da morte social. Ele defende que o algoritmo deve ser tratado como uma forma de texto, não como um simples conjunto de códigos técnicos, mas como uma linguagem que produz sentidos, molda visibilidades e participa ativamente das relações sociais.
Esse entendimento encontra eco nas análises sobre racismo digital publicadas pelo tecflow, que ressaltam como sistemas automatizados reproduzem imaginários sociais construídos ao longo de séculos. De acordo com o pesquisador Tarcízio Silva, as tecnologias tendem a fortalecer mecanismos de ordenação racializada, perpetuando desigualdades e reforçando estereótipos que afetam principalmente pessoas negras. Um exemplo expressivo é a busca online por termos como família, cujos resultados priorizam imagens de pessoas brancas, invisibilizando grupos racializados e consolidando um padrão eurocêntrico do que seria uma família ideal.
Verben firma parceria com a Sony Interactive Entertainment Media Solutions
Empresa passa a atuar dentro do ecossistema PlayStation na América Latina e no Brasil, aproximando as marcas preferidas do público…
Resident Evil Veronica Remake: destrinchamos o 1º trailer, segredos e
O anúncio que os entusiastas do Survival Horror aguardavam há décadas finalmente aconteceu durante a Summer Game Fest. A Capcom…
ONS faz corte emergencial inédito no fim de semana; Entenda
O Operador Nacional do Sistema Elétrico (ONS) precisou acionar um plano de contingência que nunca havia sido usado antes na…
Foguete nacional MLBR avança com testes de motores para lançamento
O Brasil está prestes a dar um salto histórico e chocar o mundo com sua tecnologia aeroespacial! Se você achava…
SNP e Structify consolidam capacidades de IA para transformar Dados
A iniciativa é conduzida por meio da Oros Data LLC, uma joint venture criada entre SNP e Structify para ajudar…
Assista agora! Jogos no PS5, Gears E-Day em outubro e
O momento mais aguardado e tenso para os fãs do Xbox na Summer Game Fest finalmente está aqui. Neste domingo,…
Essa lógica também aparece nas ferramentas de reconhecimento facial, que são frequentemente apresentadas como soluções tecnológicas avançadas, mas que têm protagonizado injustiças graves. Dados da Defensoria Pública do Rio de Janeiro mostram que, entre 2012 e 2020, ocorreram noventa prisões injustas baseadas nesses sistemas. Quando o dado racial foi informado, oitenta e um por cento das vítimas eram pessoas negras. Além disso, filtros de embelezamento usados em redes sociais acabam reforçando padrões estéticos eurocêntricos ao clarear a pele e alterar traços associados a pessoas negras, criando uma forma sutil de violência simbólica que molda percepções e autoimagem.
O racismo no setor tecnológico também se manifesta fora das máquinas. Em 2022, um caso relatado pelo tecflow mostrou o caráter explícito da discriminação em ambientes corporativos. Durante uma videoconferência, o diretor técnico da Proz Educação, Juliano Pereira dos Santos, foi chamado de negão por um representante da Optat Consulting, empresa parceira da Oracle. A injúria ocorreu em meio às negociações de um contrato de alto valor e levou a empresa a perder o negócio imediatamente, além de motivar processos judiciais por danos morais. O episódio demonstra que o racismo que atravessa algoritmos também está presente nas relações humanas que moldam o ecossistema da tecnologia. Quem projeta, lidera e opera sistemas digitais muitas vezes reproduz comportamentos discriminatórios que, quando automatizados, tornam-se ainda mais perigosos.
Ao reunir as análises da UFC e do tecflow, fica claro que o racismo algorítmico é uma extensão sofisticada e muitas vezes invisível do racismo estrutural que já organiza as relações sociais no Brasil e no mundo. A tecnologia não cria o preconceito, mas o reproduz em escala e velocidade, sob a aparência enganosa de objetividade. Os danos não são apenas simbólicos. Eles influenciam decisões de crédito, acesso ao emprego, políticas de segurança, oportunidades profissionais e a própria visibilidade de grupos sociais.
Diante desse cenário, surge uma questão inevitável: como transformar essa realidade? O primeiro passo é reconhecer que algoritmos não são entidades independentes, mas criações humanas. Como textos, carregam narrativas; como sistemas, carregam decisões; como ferramentas, carregam responsabilidades. É preciso exigir transparência, promover auditorias independentes, regulamentar o uso de tecnologias sensíveis, diversificar equipes de desenvolvimento e abandonar a ideia de neutralidade. A disputa pelo futuro da tecnologia é, antes de tudo, uma disputa ética, social e política.
Mais do que identificar falhas, é essencial refletir sobre o tipo de sociedade que estamos construindo. Se os algoritmos amplificam o mundo que encontram, cabe a nós decidir que mundo estamos entregando para ser amplificado. A tecnologia pode ser instrumento de equidade ou de opressão, e essa escolha não é feita por máquinas, mas por pessoas. A grande pergunta é simples e profunda: queremos algoritmos que reforcem nossos preconceitos ou que ampliem nosso compromisso coletivo com justiça e humanidade?
Faça como os mais de 10.000 leitores do tecflow, clique no sino azul e tenha nossas notícias em primeira mão! Confira as melhores ofertas de celulares na loja parceira do tecflow.
