A crença de que algoritmos são instrumentos neutros, guiados apenas pela precisão matemática, tem sido desmontada à medida que pesquisas revelam como essas tecnologias reproduzem e amplificam desigualdades históricas. Um estudo conduzido pela Agência UFC, a partir das investigações do professor Júlio Araújo, do Departamento de Letras Vernáculas da Universidade Federal do Ceará, mostra que esses sistemas carregam ideologias, escolhas implícitas, interesses econômicos e relações de poder profundamente enraizados na sociedade. A suposta neutralidade algorítmica, nesse sentido, não passa de uma ficção conveniente.
- Siga o tecflow no tik tok
Um caso ocorrido em outubro de 2023 ajuda a ilustrar essa realidade. A deputada Renata Souza pediu a uma inteligência artificial que gerasse uma imagem no estilo de animação da Pixar, representando uma mulher negra de cabelo afro usando roupas com estampa africana em um cenário de favela. O resultado surpreendeu pela violência simbólica: a imagem trazia a mulher negra com uma arma de fogo na mão, algo que não foi solicitado. A cena ganhou repercussão e mostrou como preconceitos e associações racistas estão embutidos na lógica de geração dessas tecnologias, que aprendem padrões a partir de bases de dados marcadas por vieses históricos. Araújo define esse processo como necroalgoritmização, entendido como a organização algorítmica da exclusão, do silenciamento e até da morte social. Ele defende que o algoritmo deve ser tratado como uma forma de texto, não como um simples conjunto de códigos técnicos, mas como uma linguagem que produz sentidos, molda visibilidades e participa ativamente das relações sociais.
Esse entendimento encontra eco nas análises sobre racismo digital publicadas pelo tecflow, que ressaltam como sistemas automatizados reproduzem imaginários sociais construídos ao longo de séculos. De acordo com o pesquisador Tarcízio Silva, as tecnologias tendem a fortalecer mecanismos de ordenação racializada, perpetuando desigualdades e reforçando estereótipos que afetam principalmente pessoas negras. Um exemplo expressivo é a busca online por termos como família, cujos resultados priorizam imagens de pessoas brancas, invisibilizando grupos racializados e consolidando um padrão eurocêntrico do que seria uma família ideal.
Conta de luz em risco? Entenda a guerra bilionária que
Um “puxadinho” na nova lei do setor elétrico colocou gigantes da energia e o Governo em pé de guerra. Entenda…
Oportunidade de ouro: IFSP libera 4.500 vagas em cursos de
Quer entrar no mercado de TI sem pagar nada? O Instituto Federal de São Paulo (IFSP) acaba de abrir inscrições…
O fim do Windows? Google e Samsung unem forças e
Prepare o monitor: a nova atualização do Android 16 acaba de transformar seu celular em um computador completo. Entenda a…
Apple choca o mercado e lança MacBook Neo por preço
Em estratégia inédita para driblar a crise dos chips, gigante de Cupertino aposta em notebook “popular” com bateria de 16…
Samsung lança no Brasil tela 3D que dispensa óculos e
Nova tecnologia Spatial Signage transforma imagens comuns em experiências 3D realistas para revolucionar lojas e escritórios; conheça o display de…
Conheça a calculadora “mágica” que fazia ligações e outras raridades
Evento gratuito no Shopping Mooca revela invenções bizarras e históricas da Casio, incluindo modelos que jogam e organizam rankings de…
Essa lógica também aparece nas ferramentas de reconhecimento facial, que são frequentemente apresentadas como soluções tecnológicas avançadas, mas que têm protagonizado injustiças graves. Dados da Defensoria Pública do Rio de Janeiro mostram que, entre 2012 e 2020, ocorreram noventa prisões injustas baseadas nesses sistemas. Quando o dado racial foi informado, oitenta e um por cento das vítimas eram pessoas negras. Além disso, filtros de embelezamento usados em redes sociais acabam reforçando padrões estéticos eurocêntricos ao clarear a pele e alterar traços associados a pessoas negras, criando uma forma sutil de violência simbólica que molda percepções e autoimagem.
O racismo no setor tecnológico também se manifesta fora das máquinas. Em 2022, um caso relatado pelo tecflow mostrou o caráter explícito da discriminação em ambientes corporativos. Durante uma videoconferência, o diretor técnico da Proz Educação, Juliano Pereira dos Santos, foi chamado de negão por um representante da Optat Consulting, empresa parceira da Oracle. A injúria ocorreu em meio às negociações de um contrato de alto valor e levou a empresa a perder o negócio imediatamente, além de motivar processos judiciais por danos morais. O episódio demonstra que o racismo que atravessa algoritmos também está presente nas relações humanas que moldam o ecossistema da tecnologia. Quem projeta, lidera e opera sistemas digitais muitas vezes reproduz comportamentos discriminatórios que, quando automatizados, tornam-se ainda mais perigosos.
Ao reunir as análises da UFC e do tecflow, fica claro que o racismo algorítmico é uma extensão sofisticada e muitas vezes invisível do racismo estrutural que já organiza as relações sociais no Brasil e no mundo. A tecnologia não cria o preconceito, mas o reproduz em escala e velocidade, sob a aparência enganosa de objetividade. Os danos não são apenas simbólicos. Eles influenciam decisões de crédito, acesso ao emprego, políticas de segurança, oportunidades profissionais e a própria visibilidade de grupos sociais.
Diante desse cenário, surge uma questão inevitável: como transformar essa realidade? O primeiro passo é reconhecer que algoritmos não são entidades independentes, mas criações humanas. Como textos, carregam narrativas; como sistemas, carregam decisões; como ferramentas, carregam responsabilidades. É preciso exigir transparência, promover auditorias independentes, regulamentar o uso de tecnologias sensíveis, diversificar equipes de desenvolvimento e abandonar a ideia de neutralidade. A disputa pelo futuro da tecnologia é, antes de tudo, uma disputa ética, social e política.
Mais do que identificar falhas, é essencial refletir sobre o tipo de sociedade que estamos construindo. Se os algoritmos amplificam o mundo que encontram, cabe a nós decidir que mundo estamos entregando para ser amplificado. A tecnologia pode ser instrumento de equidade ou de opressão, e essa escolha não é feita por máquinas, mas por pessoas. A grande pergunta é simples e profunda: queremos algoritmos que reforcem nossos preconceitos ou que ampliem nosso compromisso coletivo com justiça e humanidade?
Faça como os mais de 10.000 leitores do tecflow, clique no sino azul e tenha nossas notícias em primeira mão! Confira as melhores ofertas de celulares na loja parceira do tecflow.
