A violência algorítmica é um fenômeno que, com o avanço das tecnologias de inteligência artificial, reproduz preconceitos e vieses contra grupos minoritários. O influenciador digital Christian Gonzatti, de 33 anos, denuncia esse problema desde 10 anos, destacando como algoritmos de redes sociais diminuem a visibilidade de conteúdos LGBTQIA+ sem explicações transparentes sobre os termos censurados. Gonzatti, que também é professor na Universidade do Vale do Rio dos Sinos (Unisinos), relata que sua página, que aborda cultura nerd dentro da temática LGBTQIA+, foi classificada erroneamente como espaço de discurso de ódio.
Mesmo após a mudança de nome de seu projeto para Diversidade Nerd, Gonzatti continua a enfrentar restrições, observando que posts que incluem palavras como “gay” ou “lésbica” têm menor alcance. A questão não se limita a um caso isolado; a violência algorítmica se manifesta em diversas formas, como, por exemplo, quando sistemas de reconhecimento facial discriminam etnias não brancas ou quando inteligências artificiais divulgam deep fakes para comprometer a reputação individual.
Qual o diferencial da violência algorítmica?
Para o cientista da computação Alexandre Gonçalves, essa violência força os indivíduos a aumentar sua produtividade de maneira desumana. Ele relata que motoristas de aplicativos, por exemplo, frequentemente trabalham longas horas sem pausas, impulsionados pelo algoritmo que sugere bonificações por mais corridas. Essa pressão manifesta uma forma de violência que ignora os limites naturais do ser humano.
O conceito de violência algorítmica abrange não apenas redes sociais, mas também plataformas de vigilância e ferramentas de IA. O jornalista Daniel Trielli, professor de mídia e democracia na Universidade de Maryland, explica que essa violência vai além do mero ataque: ela pode intensificar a violência tradicional, permitindo novas formas de agressão. A disseminação de fake news nas redes é um exemplo claro, onde algoritmos amplificam mensagens emocionais, trazendo graves consequências sociais.
Como a sociedade brasileira é afetada?
No Brasil, a situação é ainda mais alarmante devido às desigualdades sociais arraigadas. A antropóloga Larissa Pelúcio aponta que a combinação de intensa presença digital com as desigualdades estruturais existentes resulta em um cenário grave para minorias, como populações negras, indígenas, periféricas e LGBTQIA+. Um exemplo disso é a pesquisa do Conselho Nacional de Justiça de 2021, que constatou que 83% das condenações indevidas com reconhecimento facial envolviam pessoas negras, evidenciando o racismo estrutural que se torna digital.
Os pesquisadores Haide Maria Hupffer e Gabriel Cemin Petry ressaltam a importância de treinar algoritmos com dados que não perpetuem essa desigualdade. No entanto, o que se observa é um campo fértil para a automatização de falhas sociais, resultando em discriminação algorítmica. Para agravar a situação, o “pânico moral” causado por desinformação nas plataformas digitais se intensifica, favorecendo conteúdos que geram medo e indignação.
Quais as soluções para combater esse problema?
Não existem soluções fáceis para a violência algorítmica, mas um conjunto de medidas é necessário. A prioritária é a educação digital, onde o letramento sobre cidadania online deve ser enfatizado. Gonçalves salienta a importância de educar a população sobre o uso de dados por empresas de tecnologia, alertando que a conscientização é chave para mitigar os danos.
Além disso, Pelúcio defende a necessidade de regulamentação do setor das grandes empresas de tecnologia. Leis e políticas públicas que responsabilizem essas plataformas por danos algorítmicos são vitais. Gonzatti também destaca que as plataformas devem ser mais transparentes em suas diretrizes algorítmicas, solicitando uma revisão da forma como dados são utilizados.
Com um trabalho conjunto envolvendo auditorias independentes e revisão de bancos de dados, é possível criar um modelo de tecnologia que respeite as desigualdades históricas, visando justiça social. O combate à violência algorítmica necessita, portanto, de um esforço contínuo e multidisciplinar, alinhando educação e regulamentação.
