Conversando sobre nossa proposta de tese: uma investigação ontológica dos algoritmos baseados em aprendizagem de máquina
Resumo
Nossa problemática central remete à algoritmização da vida. É um tema importante para a Educação Matemática, pois o mundo digital se torna real graças aos recursos matemáticos e algoritmos embutidos através da programação de máquinas com hardwares cada vez mais complexos. É no domínio da Matemática que os dispositivos digitais, plataformas e seus algoritmos aprendentes são produzidos, performando um objeto de potencial que pode ser potencialmente danoso. São vários os exemplos de como, em nosso dia a dia, procedimentos e algoritmos matemáticos fabricam nossas relações, capturando nossas subjetividades, ou seja, nos fabricando enquanto viventes, causando dependência, frustração e fortes emoções. Sobretudo, reduzindo nossas tomadas de decisões.
Um deles, o trabalho de O ‘Neil (2016), discute diversos problemas que perpassam pela utilização de plataformas baseadas em algoritmos aprendentes. Um problema, segundo a autora, é que algoritmos são opiniões embutidas em códigos, principalmente os baseados em aprendizagem de máquina, que são ferramentas matemáticas. Enquanto criaturas, elas herdam a ontologia dos seus criadores e de seus usuários. A maioria dos programadores é alinhada com os interesses financeiros das empresas que os contratam, sendo que os usuários possuem suas próprias concepções segregadoras de mundo.
Nessa seara, buscamos nos aprofundar sobre essas ontologias algorítmicas e de que modo nossas vidas são construídas nessas relações. Parisi (2016) convida a uma reflexão crítica sobre dispositivos algorítmicos digitais e sua capacidade de automatizar a razão humana, “nossa mais preciosa faculdade”, e enfatiza que há uma correlação entre automação algorítmica e a infraestrutura digital do neoliberalismo. Dixon-Román (2016) pergunta “o que acontece quando atos ‘mais que humanos’ contam algo sobre nós mesmos?” (ibid., p. 482, trad. nossa). É uma abordagem crítica da ontologia dos dados, que é produzida por diversos artefatos, incluindo relações sociopolíticas de poder e de diferença. Algo-ritmo enfatiza o compasso de repetição que tecnologias aprendentes trazem em relação às discrepâncias de minorias, chamado de ciclo pernicioso, em O’ Neil (2016). Como experiência, convido os leitores a fazerem duas buscas por imagens no Google. A primeira por “pessoas bonitas”, e a segunda por “pessoas feias”. Qual dessas buscas retornam mais pessoas brancas?
Com o nosso trabalho de doutorado, em andamento, pretendemos realizar discussões acerca dessa problemática com estudantes do ensino médio do IFMS, campus Aquidauana. Por meio de atividades em um espaço de grupo de trabalho com alunos, produziremos contextos, situações nas quais processos de digitalização de vida ocorrem e podem ser problematizados. Nossa principal fundamentação teórico-metodológica é o Modelo dos Campos Semânticos (Lins, 1999, 2012). Pretendemos explorar os limites e potencialidades da Ciência de Dados a partir de laboratórios com plataformas como o Kaggle (2021) e com softwares como o WEKA (2021). Problematizações como a experiência “pessoas bonitas” vs. “pessoas feias”, casos envolvendo ética e IA que são utilizadas como atendentes virtuais, episódios da série Black Mirror, documentários como Privacidade Hackeada e O Dilema das Redes, todos da plataforma Netflix, além de levantamentos sobre situações em que algoritmos se envolvem em crises, serão o pano de fundo para incentivá-los a trabalhar com os dados, escutar o que eles nos diem, e fazer narrativas e reflexões.
