EFEITOS DA BIOMETRIA NA SEGURANÇA PÚBLICA BRASILEIRA: UMA ANÁLISE SOBRE RECONHECIMENTO FACIAL E RACISMO ALGORITMO
DOI:
https://doi.org/10.56238/revgeov16n5-172Palavras-chave:
Racismo, Algoritmo, Segurança Pública, Direitos FundamentaisResumo
O artigo apresenta uma revisão de literatura sobre a relação entre racismo e uso da tecnologia de reconhecimento facial pela Segurança Pública brasileira. O texto está organizado em quatro seções: na primeira, são apresentados fenômenos como plataformização, dataficação da vida, colonialismo de dados, capitalismo de plataforma e vigilância; na segunda, são expostas algumas características dessa tecnologia; na terceira, evidencia-se os estudos sobre discriminação racial através dos algoritmos; por fim, apresenta-se as principais consequências do racismo algorítmico na Segurança Pública. Conclui pela necessidade de um debate amplo acerca dessas práticas algorítmicas discriminatórias, visando evitar a violação de direitos e garantias fundamentais.
Downloads
Referências
AMARAL, Augusto Jobim do; MARTINS, Fernanda; ELESBÃO, Ana Clara. Racismo algorítmico: uma análise da branquitude nos bancos de imagens digitais. Revista Pensar, Fortaleza, v. 26, n. 4, p. 1-9, out./dez. 2021. Disponível em: https://ojs.unifor.br/rpen/article/view/11806 Acesso em: 23 jul. 2024.
BAKER, Christina N. Images of women’s sexuality in advertisements: a content analysis of black and white oriented women’s and men’s magazines. Sex Roles. v. 52. n. 1/2. p. 13-27, jan. 2005. Disponível em: https://link.springer.com/article/10.1007/s11199-005-1190-y Acesso em: 24 jul. 2024.
BARROS, Isabel Maria Pereira Paes de; SILVA, Isabel Inês Bernardino de Souza. Utilização do reconhecimento facial eletrônico por empresas para identificação de suspeitos: segurança ou violação do estado democrático de direito? Revista Transgressões: Ciências Criminais em debate. Vol. 8, n. 1, jul. 2020. Disponível em: https://periodicos.ufrn.br/transgressoes/article/view/19909 Acesso em: 23 jul. 2024.
BEIGUELMAN, Giselle. Políticas da imagem: vigilância e resistência na dadosfera. São Paulo: Ubu Editora, 2021.
CARDOZO, Glenda Dantas. A atuação estratégica de mulheres negras no combate às brechas digitais de gênero e raça. Internet & Sociedade, v. 3, n. 2, p. 5-19, dez. 2022.
COSTA, Diego Carneiro. A discriminação algorítmica e as novas perspectivas sobre o tratamento de dados pessoais sensíveis. In: REQUIÃO, Maurício (Org.). Proteção de dados pessoais: novas perspectivas. Salvador: Editora da Universidade Federal da Bahia, 2021.
DA EMPOLI, Giuliano. Os engenheiros do caos. Rio de Janeiro: Vestígio, 2019.
ELESBÃO, Ana Clara Santos; SANTOS, Jádia Larissa Timm dos; MEDINA, Roberta da Silva. Quando as máscaras (do reconhecimento facial) caírem, será um grande carnaval. In: SABARIEGO, Jesús; AMARAL, Augusto Jobim do; SALLES, Eduardo Baldissera Carvalho (Orgs.). Algoritarismo. 1. ed. São Paulo. Editora Tirant lo Blanch., 2020. p. 247-259.
FOUCAULT, Michel. Em defesa da sociedade. São Paulo: Martins Fontes, 1999.
FRANCISCO, Pedro Augusto P.; HUREL, Louise Marie; RIELLI, Mariana Marques. Regulação do reconhecimento facial no setor público: avaliação de experiências internacionais. Instituto Igarapé + Data Privacy Brasil Research, jun. 2020. Disponível em: https://igarape.org.br/wp-content/uploads/2020/06/2020-06-09-Regula%C3%A7%C3%A3o-do-reconhecimento-facial-no-setor-p%C3%BAblico.pdf Acesso em: 13 out. 2023.
FRAZÃO, Ana. Discriminação algorítmica: por que os algoritmos preocupam quando acertam e quando erram? Jota, ago. 2021. Disponível em: https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-por-que-algoritmos-preocupam-quando-acertam-e-erram-04082021 Acesso em: 07 set. 2023.
GARRET, Filipi. ROBOS (BOTS). Disponível em: https://www.techtudo.com.br/noticias/2018/07/o-que-e-bot-conheca-os-robos-que-estao-dominando-a-internet.ghtml. Acesso em: 21 jan. 2024.
GERVASONI, Tássia A.; DIAS, Felipe V. Violações de Direitos Humanos pelas Big Techs: contribuições do pensamento decolonial e de uma leitura criminológica do dano social. Revista de Garantias e Direitos Fundamentais, Vitória, v. 24, n. 03, p. 137-173, set-dez, 2023.
GOMES, Sheley; MOURA, Iara. De Oakland ao Jacarezinho: os sistemas de reconhecimento facial precisam ser banidos. Revista Capital, 2022. Disponível em: https://www.cartacapital.com.br/blogs/de-oakland-ao-jacarezinho-os-sistemas-de-reconhecimento-facial-precisam-ser-banidos Acesso em: 21 jan. 2024.
LEMOS. André. Dataficação da vida. Revista Civitas, maio-ago. 2021. Disponível em: http://dx.doi.org/10.15448/1984-7289.2021.2.39638 Acesso em: 09 jan. 2024.
MAGNO, Madja Elayne da Silva Penha; BEZERRA, Josenildo Soares. Vigilância negra: o dispositivo de reconhecimento facial e disciplinaridade dos corpos. Revista Novos Olhares, vol. 09, nº 2, ago./dez. 2020. Disponível em: https://www.revistas.usp.br/novosolhares/article/view/165698 . Acesso em: 30 jan. 2024.
MELO, Paulo Victor; SERRA, Paulo. Tecnologia de Reconhecimento Facial e Segurança Pública nas Capitais Brasileiras: Apontamentos e Problematizações. Comunicação e Sociedade, v. 42, p. 205-220, 2022. Disponível em: https://journals.openedition.org/cs/8111 Acesso em: 23 jul. 2024.
NUNES, Fernanda Todesco et al. Um estudo sobre técnicas de biometria baseadas em padrões faciais e sua utilização na Segurança Pública. In: SPANHOL, Fernando J.; LUNARDI, Giovani M.; SOUZA, Márcio Vieira de (org.) Tecnologias da Informação e Comunicação na Segurança Pública e Direitos Humanos. Coleção Mídia, Educação, Inovação e Conhecimento, vol. 2., Editora Edgard Blücher Ltda., p. 113-132, 2016.
NOBLE, Safiya. Algoritmos da opressão. Santo André: Rua do Sabão, 2021.
NUNES, Pablo. Novas ferramentas, velhas práticas: reconhecimento facial e policiamento no Brasil. In: REDE de Observatório de Segurança. Retratos da violência: cinco meses de monitoramento, análise e descobertas. Centro de Estudos em Segurança e Cidadania, 2019.
NUNES, Pablo. O algoritmo e racismo nosso de cada dia. Revista Piauí. 02 jan. 2021, Disponível em: https://piaui.folha.uol.com.br/o-algoritmo-e-racismo-nosso-de-cada-dia/ Acesso em: 23 jul. 2024.
OTEGUI, C. A. et al. Proyecto Aguará – Reconocimiento de Caras. Montevideo: Facultad de Ingeniería Universidad de la República, 2006.
______. O algoritmo e racismo nosso de cada dia. Folha de São Paulo [on line], São Paulo, 02 jan. 2021. Questões de vida digital. Disponível em: https://piaui.folha.uol.com.br/o-algoritmo-e-racismo-nosso-de-cada-dia Acesso em: 07 jan. 2024.
POELL, Thomas; NIEBORG, David; DIJCK, José van.
Plataformização. Revista Fronteiras - estudos midiáticos. Vol. 22, nº 1 – jan. abr. 2020. Disponível em: https://revistas.unisinos.br/index.php/fronteiras/article/view/fem.2020.221.01 Acesso em: 23 jul. 2024.
ROCHA, Jannotti da; PORTO, Lorena Vasconcelos; ABAURRE, Helena Emerick. Discriminação algorítmica no trabalho digital. Revista de Direitos Humanos e Desenvolvimento Social, v. 1, e 205201, 2020. Disponível em: https://seer.sis.puc-campinas.edu.br/direitoshumanos/article/view/5201/3164. Acesso em: 07 dez. 2023.
ROLA, Eulálio do Carmo da Silva. Os principais contributos da inteligência artificial para o processamento de imagens digitais a utilizar na Segurança Pública. 2022, 146 f. Dissertação (Mestrado em Segurança e Justiça) – Universidade Lusíada, Lisboa, 2022.
ROSA, Pablo Ornelas; AMARAL, Augusto Jobim do; NEMER, David Baião. Datapolítica, governamentalidade algorítmica e a virada digital: uma genealogia da modulação comportamental através das plataformas digitais. Revista Eletrônica do Curso de Direito da UFSM. v. 18, n. 03, 2023. Disponível em: https://periodicos.ufsm.br/revistadireito/article/view/85510 Acesso em: 23 jul. 2024.
ROUVROY, Antoinette; BERNS, Thomas. Governamentalidade algorítmica e perspectivas de emancipação: o díspar como condição de individuação pela relação? Revista Eco Pós. Rio de Janeiro, v. 18, n. 2, p. 36-56, 2015. Disponível em: https://doi.org/10.29146/eco-pos.v18i2.2662 Acesso em: 18 nov. 2023.
SILVA, Tarcízio. Visão computacional e racismo algorítmico: branquitude e opacidade no aprendizado de máquina. Revista ABPN, v. 12, p. 428-448, dez. 2019/fev. 2020. DOI: 10.31418/2177-2770.2020. Disponível em: https://abpnrevista.org.br/site/article/view/744/774 Acesso em: 07 set. 2023
SILVEIRA, Sérgio Amadeu. Governo dos algoritmos. Revista de Políticas Públicas, v. 02, nº 01, p. 267-281, 2016. Disponível em: https://edisciplinas.usp.br/pluginfile.php/4452794/mod_resource/content/1/S%C3%A9rgio%20Amadeu%20SILVEIRA%20%20Governo%20dos%20Algoritmos.pdf Acesso em: 26 jan. 2024.
______. Sistemas algorítmicos, subordinação e colonialismo de de dados. In: SABARIEGO, Jesús; AMARAL, Augusto Jobim do; SALLES, Eduardo Baldissera Carvalho (organizadores). Algoritarismo. 1. ed. São Paulo: Editora Tirant lo Blanch, 2020. p. 158-1709.
SOARES, Marcelo Negri et al. Inteligência artificial e discriminação: um panorama sobre a antagonização entre exclusão e o Estado Democrático de Direito Brasileiro à luz dos direitos da personalidade. Revista Direitos Sociais e Políticas Públicas (UNIFAFIBE), v. 10, n. 2, p. 567-597, 2022. Disponível em: https://portal.unifafibe.com.br/revista/index.php/direitos-sociais-politicas-pub/article/view/1311 Acesso em: 07 jan. 2024.
SRNICEK, Nick. Capitalismo de plataforma. Buenos Aires: Ed. Caja Negra, 2018.
SILVA, Tarcízio et al. “Apis de visão computacional: Investigando mediações algorítmicas a partir de estudo de bancos de imagens”. Logos, n. 1, v. 27, 5 jun. 2020, pp. 25-54. Disponível em: https://www.e-publicacoes.uerj.br/logos/article/view/51523/33928 Acesso em: 26 jul. 2024.
TAUTE, Fabian. Reconhecimento Facial e suas controvérsias: O reconhecimento facial não só traz a possibilidade de instaurar uma vigilância em massa, mas também contém uma tendência preconceituosa contra certos grupos de nossas sociedades – com as mulheres negras sendo as mais afetadas. Heinrich Böll Stiftung, Rio de Janeiro, 7 fev. 2020. Disponível em: https://br.boell.org/pt-br/2020/02/05/reconhecimento-facial-e-suas-controversias Acesso em: 07 set. 2023.
TRASLAVIÑA, C. M. G. Introducción a la biometría. 2007. Disponível em: https://www.academia.edu/9374109/Introducci%C3%B3n_a_la_biometr%C3%ADa Acesso em: 17 nov. 2023.
VAIDHYANATHAN, Siva. A Googlelização de tudo. São Paulo: Cultrix, 2011.
ZUBOFF, Shoshana. A era do capitalismo de vigilância: Luta por futuro humano na nova fronteira de poder. Rio de Janeiro: Ed. Intrínseca, 2020.
