Vigilância Líquida e Algoritmos Opressivos
A Perpetuação da Violência de Gênero nas Redes Sociais
DOI:
https://doi.org/10.5935/28.43.2025.12138Keywords:
Violência de gênero digital, Vigilância líquida, Algoritmos, Redes sociais, Regulação democráticaAbstract
Abstract
This article aims to analyze how mechanisms of liquid surveillance and algorithms employed by digital platforms contribute to the perpetuation of gender-based violence on social media. Adopting an interdisciplinary and critical approach, it examines how algorithmic architectures—characterized by opacity and automation—operate as normative power devices, reproducing discriminatory patterns and silencing dissident voices. The methodology combines a qualitative literature review with an empirical analysis of data and judicial decisions related to gender violence in digital environments, including the recent 2025 ruling by the Brazilian Supreme Federal Court that reinterprets Article 19 of the Brazilian Internet Civil Framework. The study finds that algorithms reinforce historical inequalities by promoting violent content through engagement metrics while delegitimizing victims' reports, thus fueling a cycle of exclusion and online revictimization. The absence of effective accountability mechanisms and the lack of specific regulation weaken the protection of fundamental rights. The article advocates for a democratic, feminist, and intersectional regulatory framework for technology that ensures transparency, redress, algorithmic justice, and civic participation in digital decision-making processes.
Keywords: Digital gender-based violence; Liquid surveillance; Algorithms; Social media; Democratic regulation.
References
AMNESTY INTERNATIONAL. Toxic Twitter: A toxic place for women? London: Amnesty International, 2020. Disponível em: https://www.amnesty.org/en/latest/research/2020/03/online-violence-against-women-chapter-2/. Acesso em: 10 abr. 2025.
BAUMAN, Zygmunt. Vigilância líquida. Rio de Janeiro: Zahar, 2013.
BRASIL. Lei nº 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil (Marco Civil da Internet). Diário Oficial da União: seção 1, Brasília, DF, 24 abr. 2014. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm. Acesso em: 01 jul. 2025.
BRASIL. Supremo Tribunal Federal. RE 1.037.396 (Tema 987) e RE 1.057.258 (Tema 533). Julgamento em 26 de jun. 2025. Relatores: Ministros Dias Toffoli e Luiz Fux. Voto de prevalência: Ministro André Mendonça. Disponível em: https://portal.stf.jus.br/noticias/verNoticiaDetalhe.asp?idConteudo=525402. Acesso em: 02 jul. 2025.
BUTLER, Judith. Discurso de ódio. Tradução de Maria Clara Santos. Rio de Janeiro: Zahar, 2022.
COECKELBERGH, Mark. Ética na inteligência artificial. São Paulo: Loyola, 2020.
G1. Escritora e filósofa Djamila Ribeiro faz boletim de ocorrência após filha ser ameaçada. G1 São Paulo, 27 jul. 2020. Disponível em: https://g1.globo.com/sp/sao-paulo/noticia/2020/07/27/escritora-e-filosofa-djamila-ribeiro-faz-boletim-de-ocorrencia-apos-filha-ser-ameacada.ghtml. Acesso em: 20 jul. 2025.
G1. Motorista de ataque com van em Toronto é acusado de dez homicídios. G1 Mundo, 24 abr. 2018. Disponível em: https://g1.globo.com/mundo/noticia/motorista-de-ataque-com-van-em-toronto-e-acusado-de-dez-homicidios.ghtml. Acesso em: 20 abr. 2025.
GROSFOGUEL, Ramón. O racismo epistêmico, a modernidade ocidental e os dilemas da teoria crítica. Sociedade e Estado, v. 31, n. 1, p. 25–49, 2016. Disponível em: https://www.scielo.br/j/se/a/vNrg4fhRTrFcxfZGjNRV6bM. Acesso em: 12 abr. 2025.
INTERNETLAB. Violência de gênero e discurso de ódio nas redes sociais: dados e recomendações. São Paulo: InternetLab, 2023. Disponível em: https://www.internetlab.org.br/wp-content/uploads/2023/11/relatorio-genero.pdf. Acesso em: 12 abr. 2025.
KOCH, Luise; GHAWI, Raji; PFEFFER, Jürgen; STEINERT, Janina I. Online Misogyny Against Female Candidates in the 2022 Brazilian Elections: A Threat to Women's Political Representation? arXiv preprint, 2024. Disponível em: https://arxiv.org/abs/2403.07523. Acesso em: 08 mai. 2025.
LEUFER, Daniel. Silenciamento algorítmico de resistências. Blog Callinad, 15 out. 2021. Disponível em: https://blog.callinad.com/silenciamento-algoritmico. Acesso em: 12 jun. 2025.
MOROZOV, Evgeny. Big Tech: a ascensão dos dados e a morte da política. Tradução de Sandra Costa. Rio de Janeiro: Zahar, 2021.
O’NEIL, Cathy. Algoritmos de destruição em massa: como a análise preditiva aumenta a desigualdade e ameaça a democracia. Tradução de Paula Bonastre. Rio de Janeiro: Alta Books, 2018.
PARISER, Eli. The Filter Bubble: What the Internet Is Hiding from You. New York: Penguin Press, 2011.
PELLIZZARI, Bruno Henrique; BARRETO JUNIOR, Irineu Francisco. Bolhas Sociais e seus efeitos na sociedade da informação: ditadura do algoritmo e entropia na Internet. Revista de Direito,Governança e Novas Tecnologias, Belém,PA, v. 5, n.2, p. 57-73, jul./dez. 2019. Disponível em: https://www.indexlaw.org/index.php/revistadgnt/article/view/5856/pdf. Acesso em: 11 out. 2021.
PUIG DE LA BELLACASA, María. Matters of care: speculative ethics in more than human worlds. Minneapolis: University of Minnesota Press, 2017.
RIBEIRO, Djamila. Pequeno manual antirracista. São Paulo: Companhia das Letras, 2019.
SAFERNET BRASIL. Relatório anual 2024: Discurso de ódio e violência nas redes. São Paulo: SaferNet, 2024. Disponível em: https://www.safernet.org.br/content/relatorio-2024. Acesso em: 10 mai. 2025.
SANTOS, Terezinha; NASCIMENTO, Fernanda; BERTASSO, Daiane. Machosfera no Brasil: desafios práticos e éticos na cobertura jornalística da misoginia nas redes sociais. E-Compós, Campinas, n. 3146, jun. 2025. Disponível em: https://www.e-compos.org.br/e-compos/article/view/3146. Acesso em: 10 jul. 2025.
SIQUEIRA, Dirceu Pereira; VIEIRA, Ana Elisa Silva Fernandes. Algoritmos preditivos, bolhas sociais e câmaras de eco virtuais na cultura do cancelamento e os riscos aos direitos de personalidade e à liberdade humana. Revista Opinião Jurídica (Fortaleza), Fortaleza, v. 20, n. 35, p. 162–188, 2022. DOI: 10.12662/2447-6641oj.v20i35.p162-188.2022. Disponível em: https://periodicos.unichristus.edu.br/opiniaojuridica/article/view/4146. Acesso em: 17 jul. 2025.
SUMPTER, David. Dominado pelos números: história, lógica e consequências dos algoritmos que ditam o mundo. Tradução de Ana Lúcia Merege. São Paulo: Editora Unesp, 2019.
SUPREMO TRIBUNAL FEDERAL (STF). ADI 7099 / ADPF 895 – Responsabilização das plataformas digitais. Rel. Min. Luís Roberto Barroso. Brasília, jul. 2025. Disponível em: http://portal.stf.jus.br/processos/downloadPeca.asp?id=ADPF-895&numero=0907113-79.2024.8.26.0000. Acesso em: 02 jul. 2025.
UNESCO. Regulação de plataformas: recomendações para construção de ambientes digitais seguros. Paris: UNESCO, 2024. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000380721. Acesso em: 15 jun. 2025.
Downloads
Published
How to Cite
Issue
Section
License
Authors of papers published in this journal declare to acklowledge and agree with the following rules:
1. The submitting of any colaboration implies on free and complete assignment of the copyrights to the journal, which is not obligated to return the originals of submitted colaborations.
2. Published papers represent the expression of the author’s point of view, not repressenting an oficial position of Juris Poiesis jornal, or Univesidade Estacio de Sas’s.