"Esses vieses algorítmicos não surgem apenas durante o treinamento e desenvolvimento da programação; podem ocorrer, também, fora dessas etapas, pois os modelos algorítmicos são treinados para resolver determinados problemas do mundo real e das interações sociais, mas podem apresentar problemas quando da análise de seus resultados em razão da interação entre os seus dados" (Heggler; Szmoski; Miquelin, 2025, p. 9).
Fonte: HEGGLER, J. M.; SZMOSKI, R. M.; MIQUELIN, A. F. As dualidades entre o uso da inteligência artificial na educação e os riscos de vieses algorítmicos. Revista Educação & Sociedade, Campinas, v. 46, e289323, 2025. Disponível em: https://doi.org/10.1590/ES.289323. Acesso em: 24 jul. 2025.
A citação destaca uma questão crucial sobre a atuação dos algoritmos no campo da inteligência artificial: os vieses algorítmicos não se restringem ao momento do desenvolvimento e treinamento inicial das ferramentas digitais. Mesmo após essas etapas, os sistemas podem produzir resultados enviesados como consequência de como os dados interagem entre si, especialmente quando confrontados com fenômenos sociais complexos. Isso implica reconhecer que os algoritmos não apenas aprendem com os dados que recebem, mas também os reorganizam e interpretam conforme estruturas que nem sempre são neutras.
No contexto educacional, esse fenômeno é particularmente sensível. O uso de sistemas automatizados em processos como avaliações, recomendações de conteúdo ou triagens de alunos pode refletir vieses sociais já existentes. Isso ocorre porque os dados de entrada – como histórico escolar, localização geográfica ou indicadores socioeconômicos – podem reforçar desigualdades se não forem cuidadosamente analisados e equilibrados. Assim, o impacto das tecnologias baseadas em IA ultrapassa o plano técnico e demanda um olhar sociopolítico, ético e pedagógico sobre os efeitos reais que os sistemas computacionais têm sobre os indivíduos e grupos.
Segundo a citação, por que os vieses algorítmicos podem persistir mesmo após o treinamento e desenvolvimento inicial dos algoritmos?
ALTERNATIVAS
Porque os algoritmos não conseguem interpretar variáveis matemáticas complexas.
Porque os algoritmos continuam aprendendo a partir de novas interações de dados e contextos sociais.
Porque os dados utilizados são sempre os mesmos e não se atualizam com o tempo. Porque o desenvolvimento técnico dos algoritmos ainda é recente e ineficaz.
Porque os algoritmos não conseguem acessar informações externas às bases de dados originais.
