Inteligência artificial e avaliação escolar: uma análise crítica dos vieses algorítmicos

Márcio Silveira Nascimento; Sidney Pires Martins; Aline Santos Mossette; Éber José dos Santos

doi:10.31417/educitec.v12.2803

Autores

Márcio Silveira Nascimento Instituto Federal do Amazonas https://orcid.org/0000-0002-8963-3140
Sidney Pires Martins Universidade Federal de Viçosa
Aline Santos Mossette Instituto Federal da Bahia https://orcid.org/0000-0003-0271-2522
Éber José dos Santos Pontifícia Universidade Católica de São Paulo https://orcid.org/0000-0003-2021-2062

DOI:

https://doi.org/10.31417/educitec.v12.2803

Palavras-chave:

inteligência artificial, vieses algorítmicos, tecnologia educacional

Resumo

A crescente incorporação da Inteligência Artificial (IA) nos sistemas educacionais tem transformado práticas avaliativas, oferecendo potencial para personalização, eficiência e apoio à gestão pedagógica. No entanto, a presença de vieses algorítmicos pode gerar avaliações injustas, especialmente para grupos historicamente marginalizados. O presente estudo constituiu-se como uma investigação teórico-reflexiva, fundamentada em revisão bibliográfica interpretativa, com o objetivo de examinar criticamente os vieses algorítmicos na avaliação escolar, discutir suas implicações éticas e pedagógicas e propor estratégias de mitigação. A análise indicou que distorções podem surgir de dados históricos desbalanceados, da arquitetura inadequada de algoritmos e das limitações na adaptação às necessidades individuais dos estudantes. Os resultados evidenciam que o uso ético e eficaz da IA depende da integração entre tecnologia e mediação humana, destacando o papel insubstituível do professor como mediador crítico e contextualizador dos resultados. Conclui-se que, embora a IA ofereça oportunidades significativas para personalização do ensino, sua implementação requer atenção à justiça social, à diversidade cultural e à equidade educacional. Assim, este estudo contribui para orientar pesquisadores, gestores e educadores na construção de práticas pedagógicas mais inclusivas, justas e contextualizadas, promovendo uma educação reflexiva e equitativa no uso de sistemas inteligentes.

Downloads

Não há dados estatísticos.

Biografia do Autor

Márcio Silveira Nascimento, Instituto Federal do Amazonas

Doutorando e Mestre em Ensino Tecnológico, pelo Instituto Federal do Amazonas - IFAM. Pesquisador do Grupo de Estudos e Pesquisas em Políticas Públicas e Formação de Profissionais da Educação - GEPPFOR/UFV. Manaus, AM, Brasil.

Sidney Pires Martins, Universidade Federal de Viçosa

Doutorando em Políticas Sociais, pela Universidade Federal de Viçosa - UFV. Pesquisador do Grupo de Estudos e Pesquisas em Políticas Públicas e Formação de Profissionais da Educação - GEPPFOR/UFV. Viçosa, MG, Brasil.

Aline Santos Mossette, Instituto Federal da Bahia

Doutoranda em Difusão do Conhecimento, pelo Instituto Federal da Bahia - IFBA. Pesquisadora do Grupo de Estudos e Pesquisas em Políticas Públicas e Formação de Profissionais da Educação - GEPPFOR/UFV. Salvador, BA, Brasil.

Éber José dos Santos, Pontifícia Universidade Católica de São Paulo

Doutor e Mestre em Língua Portuguesa, pela Pontifícia Universidade Católica de São Paulo - PUC/SP. Pesquisador do Grupo de Estudos e Pesquisas em Políticas Públicas e Formação de Profissionais da Educação - GEPPFOR/UFV. São Paulo, SP, Brasil.

Referências

AMIRI, S. M. H. Digital Transformations in Education: Research Insights for 21st-Century Learning. International Journal of Innovative Science, Engineering & Technology (IJISET), [S.l.], v. 12, n. 03, p. 1-15, 2025. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=5194886. Acesso em: 04 jun. 2025.

BAROCAS, S.; HARDT, M.; NARAYANAN, A. Fairness and machine learning: Limitations and opportunities. Cambridge: MIT press, 2023.

BOULAY, B. Inteligência artificial na educação e ética. RE@ D-Revista de Educação a Distância e Elearning, Lisboa, v. 6, n. 1, p. 1-17, 2023. Disponível em: https://revistas.rcaap.pt/lead_read/article/view/32242. Acesso em: 01 jun. 2025.

BRASIL. Projeto de Lei nº 2338, de 2023. Estabelece princípios, direitos e deveres para o uso de inteligência artificial no Brasil. Brasília: Congresso Nacional, 2023.

CASAGRANDE, R. Inteligência Artificial e a Educação Além da Curva. Curitiba: Edição do autor, 2019.

CIEB, Centro de Inovação para a Educação Brasileira. Inteligência artificial na educação básica: novas aplicações e tendências para o futuro. (CIEB Notas Técnicas, n. 21). São Paulo: CIEB, 2024.

DOURADO, L. F. Políticas e gestão da educação básica no Brasil: limites e perspectivas. Educação & Sociedade, Campinas, v. 40, p. 921-946, 2019. Disponível em: https://www.scielo.br/j/es/a/w6QjW7pMDpzLrfRD5ZRkMWr/?format=html&lang=pt. Acesso em: 01 jun. 2025.

FERNANDES, A. B. et al. A ética no uso de inteligência artificial na educação: implicações para professores e estudantes. Revista Ibero-Americana de Humanidades, Ciências e Educação, São Paulo, v. 10, n. 3, p. 346-361, 2024. Disponível em: https://periodicorease.pro.br/rease/article/view/13056. Acesso em: 01 jun. 2025.

FLORIDI, L. et al. AI4People - An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations. Minds and Machines, [S.l.], v. 28, n. 4, p. 689-707, 2018. Disponível em: https://link.springer.com/article/10.1007/S11023-018-9482-5. Acesso em: 23 maio 2025.

GÁNDARA, D. et al. Inside the black box: detecting and mitigating algorithmic bias across racialized groups in college student-success prediction. AERA Open, [S.l.], v. 10, n. 1, p. 1-15, 2024. Disponível em: https://journals.sagepub.com/doi/full/10.1177/23328584241258741. Acesso em: 22 maio 2025.

GUO, S. et al. Artificial Intelligence Bias on English Language Learners in Automatic Scoring. In: International Conference on Artificial Intelligence in Education, 26., 2025. Cham. Anais […], Cham: Springer Nature Switzerland, 2025. p. 268-275. Disponível em: https://link.springer.com/chapter/10.1007/978-3-031-98462-4_34. Acesso em: 02 jun. 2025.

HEGGLER, J.; SZMOSKI, R. M.; MIQUELIN, A. F. As dualidades entre o uso da inteligência artificial na educação e os riscos de vieses algorítmicos. Educação & Sociedade, Campinas, v. 46, p. 1-20, 2025. Disponível em: https://www.scielo.br/j/es/a/qrTryFvZR9Y9WsRpG5fWGHB/?format=html&lang=pt. Acesso em: 04 abr. 2025.

HOLMES, W.; BIALIK, M.; FADEL, C. Artificial intelligence in education promises and implications for teaching and learning. Boston: Center for Curriculum Redesign, 2019.

KAMIRAN, F.; CALDERS, T. Data preprocessing techniques for classification without discrimination. Knowledge and information systems, [S.l.], v. 33, n. 1, p. 1-33, 2012. Disponível em: https://link.springer.com/article/10.1007/s10115-011-0463-8. Acesso em: 16 jun. 2025.

KIM, J. Leading teachers' perspective on teacher-AI collaboration in education. Education and information technologies, [S.l.], v. 29, n. 7, p. 8693-8724, 2024. Disponível em: https://link.springer.com/article/10.1007/s10639-023-12109-5. Acesso em: 03 maio 2025.

KLEINBERG, J. et al. Discrimination in the Age of Algorithms. Journal of legal analysis, Oxford, v. 10, p. 113-174, 2018. Disponível em: https://academic.oup.com/jla/article/doi/10.1093/jla/laz001/5476086?ref=akusion-ci-shi-dai-bizinesumedeia. Acesso em: 02 jul. 2025.

LEE, M. K. Understanding perception of algorithmic decisions: Fairness, trust, and emotion in response to algorithmic management. Big data & society, [S.l.], v. 5, n. 1, p. 1-16, 2018. Disponível em: https://journals.sagepub.com/doi/full/10.1177/2053951718756684. Acesso em: 05 maio 2025.

LIMA, T. C. S.; MIOTO, R. C. T. Procedimentos metodológicos na construção do conhecimento científico: a pesquisa bibliográfica. Revista katálysis, Florianópolis, v. 10, p. 37-45, 2007. Disponível em: https://www.scielo.br/j/rk/a/HSF5Ns7dkTNjQVpRyvhc8RR/abstract/?lang=pt. Acesso em: 02 abr. 2025.

LUCKIN, R. et al. Intelligence unleashed: An argument for AI in education. London: Pearson, 2016.

MATSUOKA, F. A. Automatic Essay Scoring in a Brazilian Scenario. arXiv preprint, Ithaca, p. 1-6, 2023. Disponível em: https://arxiv.org/pdf/2401.00095. Acesso em: 04 abr. 2025.

MEHRABI, N. et al. A survey on bias and fairness in machine learning. ACM Computing Surveys (CSUR), [S.l.], v. 54, n. 6, p. 1-35, 2021. Disponível em: https://dl.acm.org/doi/abs/10.1145/3457607. Acesso em: 02 abr. 2025.

MENTA, E.; BRITO, G. S. O papel da Inteligência Artificial no Ensino Tecnológico: implicações emergentes. Educitec - Revista de Estudos e Pesquisas sobre Ensino Tecnológico, Manaus, v. 10, n. jan./dez., p. 1-22, 2024. Disponível em: https://doi.org/10.31417/educitec.v10.2325. Acesso em: 11 abr. 2025.

NOBLE, S. Algorithms of oppression: how search engines reinforce racism. New York: NYU Press, 2018.

NUNES, M. A. S.; MERCADO, L. P. L. Impacto da inteligência artificial na educação básica: equidade e desafios. Revista Docência e Cibercultura, Rio de Janeiro, v. 9, n. 1, p. 1-19, 2025. Disponível em: https://www.e-publicacoes.uerj.br/re-doc/article/view/83188. Acesso em: 02 jul. 2025.

RUSSELL, S. Inteligência Artificial a nosso favor: como manter o controle sobre a tecnologia. São Paulo: Companhia das Letras, 2021.

SELWYN, N. Should robots replace teachers? AI and the future of education. Cambridge: Polity Press, 2019.

SELWYN, N. Education and technology: Key issues and debates. 3. ed. London: Bloomsbury Academic, 2022.

SILVA, D. N.; COSTA, A. M. Technological Education and Innovation: perspectives for the Near Future. Educitec - Revista de Estudos e Pesquisas sobre Ensino Tecnológico, Manaus, v. 10, n. jan./dez., p. 1-8, 2024. Disponível em: https://doi.org/10.31417/educitec.v10.2348. Acesso em: 11 abr. 2025.

SILVEIRA, S. A. Democracia e os códigos invisíveis: como os algoritmos estão modulando comportamentos e escolhas políticas. São Paulo: Edições Sesc, 2019.

SOUSA, A. S.; OLIVEIRA, G. S.; ALVES, L. H. A pesquisa bibliográfica: princípios e fundamentos. Cadernos da FUCAMP, Monte Carmelo, v. 20, n. 43, p.64-83, 2021. Disponível em: https://revistas.fucamp.edu.br/index.php/cadernos/article/view/2336. Acesso em: 15 jun. 2025.

SURESH, H.; GUTTAG, J. V. A framework for understanding sources of harm throughout the machine learning life cycle. arXiv preprint, Ithaca, p. 1-8, v. 5, 1 dez. 2021. Disponível em: https://arxiv.org/abs/1901.10002. Acesso em: 15 jun. 2025.

TANG, L.; SU, Y. S. Ethical implications and principles of using artificial intelligence models in the classroom: a systematic literature review. International Journal of Interactive Multimedia and Artificial Intelligence, [S.l.], v. 8, n. 5, p. 25-36, 2024. Disponível em: https://reunir.unir.net/handle/123456789/16210. Acesso em: 03 jun. 2025.

VICARI, R. M. et al. Inteligência artificial na educação básica. São Paulo: Novatec, 2023.

VIEIRA, S. S. Vieses algorítmicos são desafio para empresas na incorporação da IA. TI Inside, 4 abr. 2025. Disponível em: https://tiinside.com.br/04/04/2025/vieses-algoritmicos-sao-desafio-para-empresas-na-incorporacao-da-ia/. Acesso em: 13 maio. 2025.

VILLANI, C. et al. Donner un sens à l’intelligence artificielle: pour une stratégie nationale et européenne. Rapport remis en mars 2018 à M. le Premier ministre (France). Paris: Vie-publique, 2018. Disponível em: https://www.vie-publique.fr/rapport/37225-donner-un-sens-lintelligence-artificielle-pour-une-strategie-nation. Acesso em: 03 jun. 2025.

VINCENT-LANCRIN, S.; VAN DER VLIES, R. Trustworthy artificial intelligence (AI) in education: Promises and challenges. OECD education working papers, Paris, n. 218, p. 1-17, 2020. Disponível em: https://www.proquest.com/openview/6e6569f39d7c3b5240deac82103543a1/1?pq-origsite=gscholar&cbl=54479. Acesso em: 03 jun. 2025.

ZAWACKI-RICHTER, O. et al. Systematic review of research on artificial intelligence applications in higher education – where are the educators? International Journal of Educational Technology in Higher Education, [S.l.], v. 16, n. 39, p. 1-27, 2019. Disponível em: https://link.springer.com/article/10.1186/S41239-019-0171-0. Acesso em: 05 maio 2025.