BIAS IN MACHINES: A GENDER ANALYIS OF THE REPRESENTATION OF SCIENTISTS IN GENERATIVE ARTIFICIAL INTELLIGENCE TOOLS
DOI:
https://doi.org/10.56238/revgeov17n4-008Keywords:
Artificial Intelligence, Gender Representations, Women in Science, Science Communication, Algorithmic BiasAbstract
The present study aimed to carry out a comparative and critical analysis of the responses provided by four generative artificia intelligence tools (i.e. ChatGPT, Gemini, Copilot and Perplexity) regarding male and female scientists, observing disparities in aspects related to the representation of women scientists, observing disparities in aspects related to the representation of women scientists in such technologies. Five men and five women, all renowned scientists, were selected. Three identical questions were posed about each scientist to the AI tools. The total of 120 responses obtained was categorized and analyzed. The results revealed the presence of gender stereotypes learned by AI systems, indicating the romanticization of female scientific achievements, their life stories, and a tendency to emphasize subjective aspects, with qualitative differences in the way men and women are represented. The findings suggest the urgency of improving AI systems so that they incorporate more quitable strategies in responde generation. This entails adopting data curation policies, modeling adjustments, and monitoring mechanisms aimed at eliminating stereotypes and ensuring more equitable representations.
Downloads
References
BARTON, A. C. Feminist science education. New York: Teachers College Press, v. 12, n. 3, p. 232-234, 1999.
EDITOR, R. CHASSOT, A. A ciência é masculina? É, sim senhora! 6ª ed. São Leopoldo: Editora Unisinos, 2013, 136p. Revista Espaço Acadêmico, v. 13, n. 149, p. 94, 2013.
FARIA, B. P.; FERREIRA, G. L. História da ciência no livro didático: investigando a contribuição de Rosalind Franklin para o entendimento da estrutura do DNA. Revista de Ensino de Biologia da SBEnBio, online, 2021.
FARINON, D. M. A influência da educação básica na ausência de mulheres no “ser cientista”: sobre representatividade nas ciências. 2018. Trabalho de Conclusão de Curso (Licenciatura em Química) – Universidade Tecnológica Federal do Paraná, Campo Mourão, 2018.
HARAWAY, D. J. Manifiesto para Cyborgs - Ciencia, Tecnología y Feminismo Socialista a Finales del Siglo XX. Letra Sudaca, Argentina, 2014.
HARDING, J. A instabilidade das categorias analíticas na teoria feminista. Revista Estudos Feministas, online, v.01, p. 07-32, 1993.
MANYIKA, J. et al. Jobs lost, jobs gained: Workforce transitions in a time of automation. McKinsey Global Institute, v. 150, n. 1, p. 1-148, 2017.
NOBLE, S. U. Algorithms of oppression: How search engines reinforce racism. In: Algorithms of oppression. New York university press, 2018.
REZNIK, G. Pertencimento, inclusão e interseccionalidade: vivências de jovens mulheres em projetos orientados por equidade de gênero na educação e divulgação científica. 2022. 275 p. Tese (Douturado) - Instituto de Bioquímica Média Leopoldo de Meis - Programa de Pós-Graduação em Química Biológica, Universidade Federal do Rio de Janeiro, Rio de Janeiro, 2022.
ROSSITER, M. W. The Matthew Matilda effect in science. Social studies of science, v. 23, n. 2, p. 325-341, 1993.
SARDENBERG C. M. B. Da Crítica Feminista à Ciência a uma Ciência Feminista? In: Costa AAA, Sardenberg C. Feminismo, ciência e tecnologia. Salvador: Universidade Federal da Bahia; Faculdade Filosofia e Ciências Humanas; 2002.
SCHIEBINGER, L. Gender studies of STS: A look toward the future. Science, Technology and Society, v. 4, n. 1, p. 95-106, 1999.
SILVA, L. F. P da & AROUCA, V. C. S. Artigo Revolução digital 4.0 a nova versão das indústrias. Even3 Publicações, online, 2022.
SOUZA, M. P. de. Entre a ausência e a representatividade: gênero e mulheres nos livros didáticos de história. 2020. Dissertação (Mestrado Profissional em Educação Sexual) – Universidade Estadual Paulista Júlio de Mesquita Filho, Araraquara, 2020.
TAVARES, L. A.; MEIRA, M. C.; DO AMARAL, Sergio Ferreira. Inteligência artificial na educação: Survey. Brazilian Journal of Development, v. 6, n. 7, p. 48699- 48714, 2020.
VIRGINIO, F.; ALMEIDA, L. R.; ANDRADE, G. R. de; ARAÚJO, O. G. S.; CARVALHO, M. M.; DIAS-SILVA, F.; DIELE-VIEGAS, L.; FREITAS, C. G. de; OLIVEIRA, E. C.; PAREJA-MEJÍA, D.; PRASERES, V. S. S.; SANTANA, P. C.; SLOBODIAN, V.; SOUSA, M. E. Mulheres na Ciência: uma intersecção de vivências. Revista Ciências do Trabalho, n. 26, 2024.
