Desde a sugestão de séries até anúncios de produtos, o que está por trás dessas escolhas são os algoritmos, fórmulas matemáticas que organizam, ranqueiam e distribuem conteúdos nas plataformas digitais. Apesar de muitas vezes serem vistos como neutros, eles podem reproduzir e até intensificar preconceitos sociais, como o racismo algorítmico.
O conceito vem ganhando destaque entre especialistas em tecnologia, educação e direitos humanos. Esse tipo de discriminação ocorre quando inteligências artificiais, treinadas com dados enviesados, replicam padrões racistas.
É o caso de aplicativos que falham ao reconhecer rostos negros ou geram imagens brancas a partir de fotos de pessoas negras. Se os dados refletem desigualdades, a IA aprende e perpetua esses mesmos erros, não por escolha, mas por design humano.
Impactos reais e sutis
Casos como o da ação da Disney Pixar, em que pessoas negras foram transformadas em personagens brancos por uma IA, ou o exemplo em que uma mulher negra foi representada segurando uma arma em uma imagem supostamente inspirada nos pôsteres da Disney, demonstram como os algoritmos carregam vieses perigosos.
Mais do que erros técnicos, essas situações representam microagressões digitais: formas sutis de violência simbólica que afetam diretamente a autoestima e a representatividade das populações marginalizadas.
Para uma criança negra, crescer vendo que seu rosto não aparece nos filtros mais populares ou que seus traços são constantemente "corrigidos" por aplicativos, pode provocar danos profundos em sua autoimagem e identidade.
Por que isso acontece?
A resposta está na estrutura: os algoritmos não se criam sozinhos. Eles são feitos por pessoas e, muitas vezes, por equipes pouco diversas, compostas majoritariamente por profissionais brancos e de classes sociais privilegiadas. Isso se reflete nos dados que alimentam as inteligências artificiais e nas decisões sobre o que deve (ou não) ser considerado importante, visível ou confiável.
Sem uma base de dados diversa, sem testes prévios de imparcialidade e sem a presença de profissionais de diferentes origens étnico-raciais, os sistemas continuam invisibilizando ou estigmatizando pessoas negras, indígenas e pardas. Isso contribui para manter o racismo estrutural também no universo digital.
Como combater o racismo algorítmico?
Ainda não existe uma legislação específica para regulamentar os algoritmos. Por isso, a luta contra o racismo algorítmico precisa partir de múltiplos caminhos:
• Educação crítica: desde cedo, é essencial que crianças e jovens aprendam a questionar o conteúdo que consomem e a entender como os sistemas digitais funcionam. Isso as prepara para lidar com as armadilhas da internet com mais consciência.
• Diversidade na tecnologia: empresas devem investir em equipes plurais e formar profissionais com conhecimento sobre equidade racial. Quanto mais diversas forem as vozes envolvidas na criação das tecnologias, menores as chances de vieses discriminatórios passarem despercebidos.
• Transparência e testes éticos: os algoritmos precisam passar por testes que identifiquem padrões de discriminação antes de serem lançados. E, se falhas forem detectadas, as plataformas devem ser responsabilizadas.
• Pressão social e política: pesquisas, denúncias e debates públicos são fundamentais para exigir mudanças nas grandes empresas e impulsionar políticas públicas voltadas à justiça algorítmica.
Uma pauta urgente para a educação
O racismo algorítmico é um reflexo do racismo estrutural, e por isso, deve ser discutido com a mesma seriedade. A escola tem um papel fundamental nessa conscientização, promovendo o pensamento crítico e a discussão sobre tecnologia com estudantes e professores. Afinal, viver em um mundo digital também exige saber identificar e combater injustiças invisíveis, mas reais.
Leia também: Como a literatura infantil pode colaborar no combate ao racismo?
Matricule suas crianças em escolas particulares sem gastar muito
Você pode matricular suas crianças nas melhores escolas particulares, inclusive naquelas que oferecem educação antirracista, sem se endividar com as mensalidades. Quer saber como?
Inscreva-se gratuitamente no Educa Mais Brasil, maior programa privado de inclusão educacional do nosso País, e garanta uma bolsa de estudo de até 85% para economizar nas mensalidades. Ao longo dos seus 21 anos de atuação, o Educa já ajudou milhares de estudantes de diferentes modalidades, e você e seus filhos podem ser os próximos. Garanta agora o seu desconto.