Racismo algorítmico

Reinvenções racistas na cultura digital

Resumo

Este estudo caracteriza-se como um ensaio teórico fundamentado em revisão bibliográfica, produzido no âmbito de uma disciplina de Pós-Graduação em Educação, e busca contribuir com o debate sobre o racismo algorítmico e sua relação com o desenvolvimento da inteligência artificial e com a (re)produção de preconceitos raciais, além de apresentar as possíveis implicações dessa reconfiguração do racismo no contexto educacional. Para tanto, foram mobilizados autores que discutem o racismo estrutural e algorítmico, bem como o pensamento crítico e a inteligência artificial no campo educativo, permitindo estabelecer relações entre tecnologia, sociedade e desigualdades raciais historicamente constituídas. A análise teórica realizada evidencia que os sistemas baseados em inteligência artificial, ao operarem a partir de grandes volumes de dados, podem incorporar e reproduzir padrões discriminatórios presentes nas dinâmicas sociais. Conclui-se que, embora a inclusão da inteligência artificial na educação possa se configurar como uma inovação no processo de ensino e aprendizagem, também pode intensificar processos de segregação e ampliar desigualdades já existentes em seus diversos aspectos sociais, econômicos e culturais. O estudo aponta, ainda, a necessidade do desenvolvimento do pensamento crítico e da autonomia intelectual dos usuários de tecnologias de inteligência artificial como formas de enfrentar os vieses algorítmicos, com ênfase naqueles que produzem novas formas de racismo e exclusão social.