Racismo algorítmico: Reinvenções racistas na cultura digital

Ana Luísa Nascimento de Souza; Lanay Nunes Martins; Silvia da Conceição Fideles; Bethania Medeiros Geremias

doi:10.55028/edutec.v6i1.25754

Autores/as

Ana Luísa Nascimento de Souza Universidade Federal de Viçosa, Viçosa, MG, Brasil https://orcid.org/0009-0001-1636-9422
Lanay Nunes Martins Universidade Federal de Viçosa, Viçosa, MG, Brasil https://orcid.org/0009-0009-7391-2178
Silvia da Conceição Fideles Universidade Federal de Viçosa, Viçosa, MG, Brasil https://orcid.org/0009-0004-1042-930X
Bethania Medeiros Geremias Universidade Federal de Viçosa, Viçosa, MG, Brasil https://orcid.org/0000-0002-1188-7706

DOI:

https://doi.org/10.55028/edutec.v6i1.25754

Palabras clave:

Racismo algorítmico, Inteligencia Artificial, Educación, Pensamiento crítico

Resumen

Este estudio se caracteriza como un ensayo teórico fundamentado en revisión bibliográfica, desarrollado en el marco de un programa de Posgrado en Educación, y busca contribuir al debate sobre el racismo algorítmico y su relación con el desarrollo de la inteligencia artificial y la (re)producción de prejuicios raciales, además de presentar las posibles implicaciones de esta reconfiguración del racismo en el contexto educativo. Para ello, se movilizaron autores que abordan el racismo estructural y algorítmico, así como el pensamiento crítico y la inteligencia artificial en el campo educativo, permitiendo establecer relaciones entre tecnología, sociedad y desigualdades raciales históricamente constituidas. El análisis teórico realizado evidencia que los sistemas basados en inteligencia artificial, al operar a partir de grandes volúmenes de datos, pueden incorporar y reproducir patrones discriminatorios presentes en las dinámicas sociales. Se concluye que, aunque la inclusión de la inteligencia artificial en la educación puede configurarse como una innovación en el proceso de enseñanza y aprendizaje, también puede intensificar procesos de segregación y ampliar desigualdades ya existentes en sus diversos aspectos sociales, económicos y culturales. El estudio señala, además, la necesidad del desarrollo del pensamiento crítico y de la autonomía intelectual de los usuarios de tecnologías de inteligencia artificial como formas de enfrentar los sesgos algorítmicos, con énfasis en aquellos que producen nuevas formas de racismo y exclusión social.

Biografía del autor/a

Ana Luísa Nascimento de Souza, Universidade Federal de Viçosa, Viçosa, MG, Brasil

Licenciada en Ciencias Sociales por la Universidade Federal de Viçosa. Estudiante de Maestría en el Programa de Posgrado en Educación de la Universidade Federal de Viçosa, MG, Brasil.
Lanay Nunes Martins, Universidade Federal de Viçosa, Viçosa, MG, Brasil

Graduada en Psicología por el Centro Universitario Governador Ozanam Coelho. Docente y supervisora de prácticas de la carrera de Psicología del UNIFAGOC. Psicóloga clínica. Maestranda en el Programa de Posgrado en Educación de la Universidad Federal de Viçosa, MG, Brasil.
Silvia da Conceição Fideles, Universidade Federal de Viçosa, Viçosa, MG, Brasil

Graduada en Licenciatura en Educación Infantil por la Universidad Federal de Viçosa. Maestranda en el Programa de Posgrado en Educación de la Universidad Federal de Viçosa, MG, Brasil. Becaria de la CAPES.
Bethania Medeiros Geremias, Universidade Federal de Viçosa, Viçosa, MG, Brasil

Magíster y Doctora en Educación Científica y Tecnológica. Líder del grupo de investigación TECIDO/CNPQ. Docente de la carrera de Pedagogía y del Programa de Posgrado en Educación de la Universidad Federal de Viçosa, MG, Brasil.

Referencias

ADORNO, Theodor W.; HORKHEIMER, Max. Dialética do esclarecimento: fragmentos filosóficos. Rio de Janeiro: Jorge Zahar, 1985.

ARAÚJO, Cláudia Helena dos Santos; FEENBERG, Andrew. Diálogos com Andrew Feenberg: tecnologia, educação e inteligência artificial. Revista Tecnologia Educacional, ano LIII, n. 242, p. 6-18, jul./set. 2024. Disponível em: http://abt-br.org.br/wp-content/uploads/2024/09/RTE_242.pdf. Acesso em: 31 out. 2025.

ARAUJO, Valter Shuenquener de; ZULLO, Bruno Almeida; TORRES, Maurílio. Big data, algoritmos e inteligência artificial na administração pública: reflexões para a sua utilização em um ambiente democrático. A&C - Revista de Direito Administrativo & Constitucional, Belo Horizonte, v. 20, n. 80, p. 241-261, 2020. Disponível em: https://doi.org/10.21056/aec.v20i80.1219. Acesso em: 29 out. 2025.

BRASIL. IA para o bem de todos. Plano Brasileiro de Inteligência Artificial. Brasília, DF: Ministério da Ciência, Tecnologia e Inovação; Centro de Gestão e Estudos Estratégicos, 2025. Disponível em: https://site.cgee.org.br/documents/10195/11009772/CGEE_PBIA.PDF. Acesso em: 23 abr. 2026.

CENTRO DE INOVAÇÃO PARA A EDUCAÇÃO BRASILEIRA. CIEB: Notas Técnicas #21 Inteligência artificial na educação básica: novas aplicações e tendências para o futuro. São Paulo: CIEB, 2024. E-book em PDF. Disponível em: https://www.iffarroupilha.edu.br/noticias-pb/item/36491-intelig%C3%AAncia-artificial-na-educa%C3%A7%C3%A3o-b%C3%A1sica-novas-aplica%C3%A7%C3%B5es-e-tend%C3%AAncias-para-o-futuro. Acesso em: 16 abr. 2026.

DANTAS, Marcos. Álvaro Vieira Pinto e a dialética da informação. Princípios, n. 162, p. 41-74, jul./out. 2021. Disponível em: https://doi.org/10.4322/principios.2675-6609.2021.162.003. Acesso em: 13 out. 2025.

GOMES, Nilma Lino. Alguns Termos e Conceitos presentes no Debate sobre relações raciais no Brasil: uma breve discussão. Educação antirracista: caminhos abertos pela Lei Federal nº 10.639/03. Brasília: Ministério da Educação, 2005. Disponível em: https://www.geledes.org.br/wp-content/uploads/2017/03/Alguns-termos-e-conceitos-presentes-no-debate-sobre-Rela%C3%A7%C3%B5es-Raciais-no-Brasil-uma-breve-discuss%C3%A3o.pdf. Acesso em: 09 maio 2026.

LEMOS, Ana Clara Avancini Valdo; SIMÕES, Rafael Cláudio; BASTOS, Marcela Tessarolo. A alegoria da caverna e sua relação com a ação dos algoritmos nas plataformas de mídias sociais. Revista Iniciacom, [S. l.], v. 11, n. 2, 2022. Disponível em: https://revistas.intercom.org.br/index.php/iniciacom/article/view/4366/2745. Acesso em: 07 jul. 2026.

MOHSENI, Sina; RAGAN, Eric. Combating Fake News With Interpretable News Feed Algorithms. Cornwell University, 2018. Disponível em: https://arxiv.org/pdf/1811.12349. Acesso em: 08 maio 2026.

SAYAD, Alexandre Le Voci. Inteligência Artificial e Pensamento Crítico: Caminhos para a Educação Midiática. São Paulo: Instituto Palavra Aberta, 2023. Disponível em: https://www.palavraaberta.org.br/docs/01-Palavra-Aberta-A-inteligencia-artificial-DIGITAL.pdf. Acesso em: 19 set. 2025.

SILVA, Tarcízio. Inteligência Artificial: o que é racismo algorítmico. Outra Saúde: Outras Palavras, 14 abr. 2023. Centro de Estudos Estratégicos da Fiocruz. Disponível em: https://outraspalavras.net/outrasaude/para-entender-o-que-e-racismo-algoritmico/. Acesso em: 19 set. 2025.

SILVA, Tarcízio. Teoria Racial Crítica e Comunicação Digital: conexões contra a dupla opacidade. In: Congresso Brasileiro de Ciências da Comunicação, 42., 2019, Belém. Anais [...]. São Paulo: Intercom, 2019. p. 1-15. Disponível em: https://portalintercom.org.br/anais/nacional2019/resumos/R14-0434-1.pdf. Acesso em: 07 jul. 2026.

TIMPONE, Rich; GUIDI, Michel. Explorando a mudança de cenário da IA: da IA Analítica à IA Generativa. In: IPSOS VIEWS, abril, 2023. Disponível em: https://www.ipsos.com/sites/default/files/ct/publication/documents/2023-05/PORTUGUESE_20230403-GenerativeAI_POV_v3.pdf. Acesso em: 08 maio 2026.

QUEIROZ, Lilian Quelle Santos de; LIMA JÚNIOR, Arnaud Soares de. Racismo Algorítmico e cultura digital: Um olhar a partir da Inteligência artificial (IA). ODEERE: Revista Internacional de Relações Étnicas, v. 9, n. 2, p. 36-52, 2024. Disponível em: https://doi.org/10.22481/odeere.v9i2.15018. Acesso em: 07 jul. 2026.