A violência algorítmica, um fenômeno exacerbado pelas últimas inovações em **inteligência artificial**, evidencia como algoritmos podem reproduzir vieses e preconceitos contra grupos minoritários, refletindo ideias hegemônicas presentes na sociedade. Gonzatti, professor da Universidade do Vale do Rio dos Sinos (Unisinos), levantou a questão ao relatar sua experiência com seu canal, Viado Nerd, onde conteúdos culturais LGBTQIA+ foram mal interpretados por algoritmos, levando à censura na plataforma. “O algoritmo não lê contexto”, afirma. Rebatizando o projeto para Diversidade Nerd, Gonzatti experimentou uma redução de alcance em seus posts vinculados a terminologias associadas à comunidade.
\n
Esse fenômeno não é único. A violência algorítmica se manifesta em diversas formas: sistemas de reconhecimento facial com discriminação étnica, usos abusivos de deep fakes, e algoritmos que forçam motoristas de aplicativo a trabalharem excessivamente sem considerar limites humanos. “Os algoritmos forçam as pessoas a aumentar a produtividade de um jeito que não reconhece os limites naturais da humanidade. É violência”, explica Alexandre Gonçalves, cientista da computação e professor na Universidade de Illinois Urbana-Champaign.
\n
Como funciona a violência algorítmica?
\n
A violência algorítmica, conforme definição do jornalista Daniel Trielli, integra-se a sistemas automatizados e abrange não apenas plataformas de redes sociais, mas também ferramentas de vigilância. Essas tecnologias podem amplificar a violência tradicional e até criar novas formas de agressão. O exemplo mais comum é a disseminação de fake news, onde algoritmos amplificam conteúdos com forte apelo emocional, aumentando a desinformação nas redes sociais.
\n
O termo começou a ser utilizado na última década por acadêmicos e pensadores que abordam discriminação algorítmica, racismo e injustiça automatizada. Para a assistente social Bruna Irineu, o conceito é vasto e reflete uma estrutura de desigualdade que já existe na sociedade. “Os algoritmos não são neutros; eles adotam o pensamento hegemônico de quem os cria, amplificando desigualdades históricas”, enfatiza.
\n
No Brasil, esse problema é especialmente grave devido ao contexto social. A sociedade já lida com formas naturalizadas de violência institucional, e a presença digital intensa a torna ainda mais crítica. A antropóloga Pelúcio destaca que a violência algorítmica têm repercussões diretas em populações vulneráveis, como negros e LGBTQIA+.
\n
Quais são as consequências da algorítmica?
\n
O impacto pode ser devastador. Hupffer e Petry, pesquisadores da Unisinos, trazem um exemplo alarmante: em 2021, um estudo mostrou que 83% dos casos de reconhecimento facial equivocado que resultaram em prisão preventiva em todo o Brasil eram de pessoas negras. Isso demonstra como o racismo estrutural se transforma em racismo digital, automatizando falhas prejudiciais.
\n
A conjuntura brasileira, caracterizada por desigualdade e violência, complica ainda mais a questão. Os algoritmos não somente potencializam a desigualdade existente, mas também desproporcionalmente afetam grupos já marginalizados. Isso se agrava com o que Irineu chama de “pânico moral” online, onde discursos de ódio são favorecidos pelas plataformas digitais, impulsionando a desinformação e o conflito social.
\n
Como podemos mitigar a violência algorítmica?
\n
Muitos especialistas sugerem diversas soluções, começando pela educação em letramento digital. Gonçalves afirma que é essencial ensinar as pessoas sobre a importância de seus dados e como interagem com a tecnologia: “Precisamos educar para que todos entendam a maluquice que é darmos nossos dados para empresas de tecnologia”. Além disso, a legislação brasileira, que inclui a Constituição de 2022 e a Lei Geral de Proteção de Dados, oferece um arcabouço jurídico promissor, reconhecendo a proteção de dados como um direito fundamental.
\n
Ainda assim, não existem soluções simples ou únicas. No Brasil, o cenário é desafiador, considerando que as respostas e regulamentações devem ser adaptadas ao contexto social e cultural do país. Desse modo, é vital continuar o debate sobre a inteligência artificial e sua interação com questões de desigualdade, violência e preconceitos sociais.




