LOS EFECTOS DE LA BIOMETRÍA EN LA SEGURIDAD PÚBLICA BRASILEÑA: UN ANÁLISIS DE LOS ALGORITMOS DE RECONOCIMIENTO FACIAL Y RACISMO
DOI:
https://doi.org/10.56238/revgeov16n5-172Palabras clave:
Racismo, Algoritmo, Seguridad Pública, Derechos FundamentalesResumen
Este artículo presenta una revisión bibliográfica sobre la relación entre el racismo y el uso de la tecnología de reconocimiento facial por parte de la Seguridad Pública brasileña. El texto se organiza en cuatro secciones: la primera presenta fenómenos como la plataformización, la datificación de la vida, el colonialismo de datos, el capitalismo de plataformas y la vigilancia; la segunda expone algunas características de esta tecnología; la tercera destaca estudios sobre discriminación racial mediante algoritmos; finalmente, presenta las principales consecuencias del racismo algorítmico en la Seguridad Pública. Concluye con la necesidad de un amplio debate sobre estas prácticas algorítmicas discriminatorias, con el objetivo de prevenir la violación de los derechos y garantías fundamentales.
Descargas
Referencias
AMARAL, Augusto Jobim do; MARTINS, Fernanda; ELESBÃO, Ana Clara. Racismo algorítmico: uma análise da branquitude nos bancos de imagens digitais. Revista Pensar, Fortaleza, v. 26, n. 4, p. 1-9, out./dez. 2021. Disponível em: https://ojs.unifor.br/rpen/article/view/11806 Acesso em: 23 jul. 2024.
BAKER, Christina N. Images of women’s sexuality in advertisements: a content analysis of black and white oriented women’s and men’s magazines. Sex Roles. v. 52. n. 1/2. p. 13-27, jan. 2005. Disponível em: https://link.springer.com/article/10.1007/s11199-005-1190-y Acesso em: 24 jul. 2024.
BARROS, Isabel Maria Pereira Paes de; SILVA, Isabel Inês Bernardino de Souza. Utilização do reconhecimento facial eletrônico por empresas para identificação de suspeitos: segurança ou violação do estado democrático de direito? Revista Transgressões: Ciências Criminais em debate. Vol. 8, n. 1, jul. 2020. Disponível em: https://periodicos.ufrn.br/transgressoes/article/view/19909 Acesso em: 23 jul. 2024.
BEIGUELMAN, Giselle. Políticas da imagem: vigilância e resistência na dadosfera. São Paulo: Ubu Editora, 2021.
CARDOZO, Glenda Dantas. A atuação estratégica de mulheres negras no combate às brechas digitais de gênero e raça. Internet & Sociedade, v. 3, n. 2, p. 5-19, dez. 2022.
COSTA, Diego Carneiro. A discriminação algorítmica e as novas perspectivas sobre o tratamento de dados pessoais sensíveis. In: REQUIÃO, Maurício (Org.). Proteção de dados pessoais: novas perspectivas. Salvador: Editora da Universidade Federal da Bahia, 2021.
DA EMPOLI, Giuliano. Os engenheiros do caos. Rio de Janeiro: Vestígio, 2019.
ELESBÃO, Ana Clara Santos; SANTOS, Jádia Larissa Timm dos; MEDINA, Roberta da Silva. Quando as máscaras (do reconhecimento facial) caírem, será um grande carnaval. In: SABARIEGO, Jesús; AMARAL, Augusto Jobim do; SALLES, Eduardo Baldissera Carvalho (Orgs.). Algoritarismo. 1. ed. São Paulo. Editora Tirant lo Blanch., 2020. p. 247-259.
FOUCAULT, Michel. Em defesa da sociedade. São Paulo: Martins Fontes, 1999.
FRANCISCO, Pedro Augusto P.; HUREL, Louise Marie; RIELLI, Mariana Marques. Regulação do reconhecimento facial no setor público: avaliação de experiências internacionais. Instituto Igarapé + Data Privacy Brasil Research, jun. 2020. Disponível em: https://igarape.org.br/wp-content/uploads/2020/06/2020-06-09-Regula%C3%A7%C3%A3o-do-reconhecimento-facial-no-setor-p%C3%BAblico.pdf Acesso em: 13 out. 2023.
FRAZÃO, Ana. Discriminação algorítmica: por que os algoritmos preocupam quando acertam e quando erram? Jota, ago. 2021. Disponível em: https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-por-que-algoritmos-preocupam-quando-acertam-e-erram-04082021 Acesso em: 07 set. 2023.
GARRET, Filipi. ROBOS (BOTS). Disponível em: https://www.techtudo.com.br/noticias/2018/07/o-que-e-bot-conheca-os-robos-que-estao-dominando-a-internet.ghtml. Acesso em: 21 jan. 2024.
GERVASONI, Tássia A.; DIAS, Felipe V. Violações de Direitos Humanos pelas Big Techs: contribuições do pensamento decolonial e de uma leitura criminológica do dano social. Revista de Garantias e Direitos Fundamentais, Vitória, v. 24, n. 03, p. 137-173, set-dez, 2023.
GOMES, Sheley; MOURA, Iara. De Oakland ao Jacarezinho: os sistemas de reconhecimento facial precisam ser banidos. Revista Capital, 2022. Disponível em: https://www.cartacapital.com.br/blogs/de-oakland-ao-jacarezinho-os-sistemas-de-reconhecimento-facial-precisam-ser-banidos Acesso em: 21 jan. 2024.
LEMOS. André. Dataficação da vida. Revista Civitas, maio-ago. 2021. Disponível em: http://dx.doi.org/10.15448/1984-7289.2021.2.39638 Acesso em: 09 jan. 2024.
MAGNO, Madja Elayne da Silva Penha; BEZERRA, Josenildo Soares. Vigilância negra: o dispositivo de reconhecimento facial e disciplinaridade dos corpos. Revista Novos Olhares, vol. 09, nº 2, ago./dez. 2020. Disponível em: https://www.revistas.usp.br/novosolhares/article/view/165698 . Acesso em: 30 jan. 2024.
MELO, Paulo Victor; SERRA, Paulo. Tecnologia de Reconhecimento Facial e Segurança Pública nas Capitais Brasileiras: Apontamentos e Problematizações. Comunicação e Sociedade, v. 42, p. 205-220, 2022. Disponível em: https://journals.openedition.org/cs/8111 Acesso em: 23 jul. 2024.
NUNES, Fernanda Todesco et al. Um estudo sobre técnicas de biometria baseadas em padrões faciais e sua utilização na Segurança Pública. In: SPANHOL, Fernando J.; LUNARDI, Giovani M.; SOUZA, Márcio Vieira de (org.) Tecnologias da Informação e Comunicação na Segurança Pública e Direitos Humanos. Coleção Mídia, Educação, Inovação e Conhecimento, vol. 2., Editora Edgard Blücher Ltda., p. 113-132, 2016.
NOBLE, Safiya. Algoritmos da opressão. Santo André: Rua do Sabão, 2021.
NUNES, Pablo. Novas ferramentas, velhas práticas: reconhecimento facial e policiamento no Brasil. In: REDE de Observatório de Segurança. Retratos da violência: cinco meses de monitoramento, análise e descobertas. Centro de Estudos em Segurança e Cidadania, 2019.
NUNES, Pablo. O algoritmo e racismo nosso de cada dia. Revista Piauí. 02 jan. 2021, Disponível em: https://piaui.folha.uol.com.br/o-algoritmo-e-racismo-nosso-de-cada-dia/ Acesso em: 23 jul. 2024.
OTEGUI, C. A. et al. Proyecto Aguará – Reconocimiento de Caras. Montevideo: Facultad de Ingeniería Universidad de la República, 2006.
______. O algoritmo e racismo nosso de cada dia. Folha de São Paulo [on line], São Paulo, 02 jan. 2021. Questões de vida digital. Disponível em: https://piaui.folha.uol.com.br/o-algoritmo-e-racismo-nosso-de-cada-dia Acesso em: 07 jan. 2024.
POELL, Thomas; NIEBORG, David; DIJCK, José van.
Plataformização. Revista Fronteiras - estudos midiáticos. Vol. 22, nº 1 – jan. abr. 2020. Disponível em: https://revistas.unisinos.br/index.php/fronteiras/article/view/fem.2020.221.01 Acesso em: 23 jul. 2024.
ROCHA, Jannotti da; PORTO, Lorena Vasconcelos; ABAURRE, Helena Emerick. Discriminação algorítmica no trabalho digital. Revista de Direitos Humanos e Desenvolvimento Social, v. 1, e 205201, 2020. Disponível em: https://seer.sis.puc-campinas.edu.br/direitoshumanos/article/view/5201/3164. Acesso em: 07 dez. 2023.
ROLA, Eulálio do Carmo da Silva. Os principais contributos da inteligência artificial para o processamento de imagens digitais a utilizar na Segurança Pública. 2022, 146 f. Dissertação (Mestrado em Segurança e Justiça) – Universidade Lusíada, Lisboa, 2022.
ROSA, Pablo Ornelas; AMARAL, Augusto Jobim do; NEMER, David Baião. Datapolítica, governamentalidade algorítmica e a virada digital: uma genealogia da modulação comportamental através das plataformas digitais. Revista Eletrônica do Curso de Direito da UFSM. v. 18, n. 03, 2023. Disponível em: https://periodicos.ufsm.br/revistadireito/article/view/85510 Acesso em: 23 jul. 2024.
ROUVROY, Antoinette; BERNS, Thomas. Governamentalidade algorítmica e perspectivas de emancipação: o díspar como condição de individuação pela relação? Revista Eco Pós. Rio de Janeiro, v. 18, n. 2, p. 36-56, 2015. Disponível em: https://doi.org/10.29146/eco-pos.v18i2.2662 Acesso em: 18 nov. 2023.
SILVA, Tarcízio. Visão computacional e racismo algorítmico: branquitude e opacidade no aprendizado de máquina. Revista ABPN, v. 12, p. 428-448, dez. 2019/fev. 2020. DOI: 10.31418/2177-2770.2020. Disponível em: https://abpnrevista.org.br/site/article/view/744/774 Acesso em: 07 set. 2023
SILVEIRA, Sérgio Amadeu. Governo dos algoritmos. Revista de Políticas Públicas, v. 02, nº 01, p. 267-281, 2016. Disponível em: https://edisciplinas.usp.br/pluginfile.php/4452794/mod_resource/content/1/S%C3%A9rgio%20Amadeu%20SILVEIRA%20%20Governo%20dos%20Algoritmos.pdf Acesso em: 26 jan. 2024.
______. Sistemas algorítmicos, subordinação e colonialismo de de dados. In: SABARIEGO, Jesús; AMARAL, Augusto Jobim do; SALLES, Eduardo Baldissera Carvalho (organizadores). Algoritarismo. 1. ed. São Paulo: Editora Tirant lo Blanch, 2020. p. 158-1709.
SOARES, Marcelo Negri et al. Inteligência artificial e discriminação: um panorama sobre a antagonização entre exclusão e o Estado Democrático de Direito Brasileiro à luz dos direitos da personalidade. Revista Direitos Sociais e Políticas Públicas (UNIFAFIBE), v. 10, n. 2, p. 567-597, 2022. Disponível em: https://portal.unifafibe.com.br/revista/index.php/direitos-sociais-politicas-pub/article/view/1311 Acesso em: 07 jan. 2024.
SRNICEK, Nick. Capitalismo de plataforma. Buenos Aires: Ed. Caja Negra, 2018.
SILVA, Tarcízio et al. “Apis de visão computacional: Investigando mediações algorítmicas a partir de estudo de bancos de imagens”. Logos, n. 1, v. 27, 5 jun. 2020, pp. 25-54. Disponível em: https://www.e-publicacoes.uerj.br/logos/article/view/51523/33928 Acesso em: 26 jul. 2024.
TAUTE, Fabian. Reconhecimento Facial e suas controvérsias: O reconhecimento facial não só traz a possibilidade de instaurar uma vigilância em massa, mas também contém uma tendência preconceituosa contra certos grupos de nossas sociedades – com as mulheres negras sendo as mais afetadas. Heinrich Böll Stiftung, Rio de Janeiro, 7 fev. 2020. Disponível em: https://br.boell.org/pt-br/2020/02/05/reconhecimento-facial-e-suas-controversias Acesso em: 07 set. 2023.
TRASLAVIÑA, C. M. G. Introducción a la biometría. 2007. Disponível em: https://www.academia.edu/9374109/Introducci%C3%B3n_a_la_biometr%C3%ADa Acesso em: 17 nov. 2023.
VAIDHYANATHAN, Siva. A Googlelização de tudo. São Paulo: Cultrix, 2011.
ZUBOFF, Shoshana. A era do capitalismo de vigilância: Luta por futuro humano na nova fronteira de poder. Rio de Janeiro: Ed. Intrínseca, 2020.
