A violência algorítmica é um conceito que ilustra como sistemas de inteligência artificial podem reproduzir preconceitos sociais e reforçar desigualdades existentes. Este fenômeno é evidenciado por relatos de usuários e especialistas, que apontam como algoritmos tendem a ignorar contextos e, consequentemente, amplificam discursos de ódio ao classificar conteúdos de forma errônea. Com isso, a tecnologia pode perpetuar um pensamento hegemônico, especialmente contra grupos minoritários.
\n
O professor Gonzatti, da Universidade do Vale do Rio dos Sinos (Unisinos), compartilha sua experiência ao administrar um canal voltado para o público LGBTQIA+, o Viado Nerd, que foi erroneamente acusado de disseminar discursos de ódio. “O algoritmo não lê contexto”, afirma Gonzatti. Ele destaca que termos como ‘gay’ ou ‘lésbica’ podem reduzir o alcance de suas postagens, refletindo a violência algorítmica em ação.
\n
Como funciona a violência algorítmica?
\n
O cientista da computação Alexandre Gonçalves explica que a violência algorítmica ocorre quando algoritmos não reconhecem os limites naturais da humanidade, como no caso de motoristas de aplicativos que são incentivados a trabalhar por longas horas sem pausa. Esses sistemas aumentam a produtividade de maneira desumana, criando um ambiente de trabalho coercitivo. Segundo Gonçalves, “os algoritmos forçam as pessoas a aumentar a produtividade” sem considerar suas necessidades básicas.
\n
A violência algorítmica se expande ainda mais para áreas como vigilância digital, onde sistemas de reconhecimento facial têm mostrado tendenciosidade contra raças e etnias não brancas. O termo se popularizou entre pesquisadores e ativistas na última década, refletindo um debate sobre discriminação algorítmica, racismo e injustiça social.
\n
Essa problemática é explícita no Brasil, onde a presença digital é intensa, mas as desigualdades sociais são profundas. A antropóloga Pelúcio observa que a sociedade brasileira já enfrenta formas naturalizadas de violência institucional, o que agrava os efeitos da violência algorítmica.
\n
Quais as consequências práticas para os usuários?
\n
Um exemplo alarmante foi apresentado por Hupffer e Petry, que revelaram que, em um estudo sobre reconhecimento facial, 83% das prisões indevidas eram de pessoas negras. Isso caracteriza o racismo estrutural sendo refletido também no ambiente digital, onde algoritmos treinados com dados tendenciosos perpetuam injustiças. A situação é ainda mais complicada, pois o Brasil ocupa uma posição periférica na construção de tecnologias, o que torna os dados utilizados muitas vezes inadequados.
\n
Este contexto exige uma atenção especial, pois a violência algorítmica não apenas reproduz desigualdades como as amplifica. A importância de iniciativas educacionais que promovam letramento digital se torna evidente, pois é crucial que os cidadãos compreendam a complexidade de compartilhar seus dados com empresas de tecnologia.
\n
Quais medidas podem mitigar o problema?
\n
Apesar de a legislação brasileira, por meio da emenda constitucional de 2022, ter reconhecido explicitamente a proteção dos dados pessoais como um direito fundamental, as soluções ainda são escassas. A Lei Geral de Proteção de Dados (LGPD) apresenta o princípio da não discriminação, criando um arcabouço jurídico promissor, mas a implementação prática dessas diretrizes ainda não foi totalmente eficaz.
\n
Os especialistas acreditam em um conjunto de medidas que deve ser adotado. É necessário educar o público sobre a importância do uso responsável da tecnologia, promovendo uma cidadania digital mais informada. “Precisamos entender a maluquice que é o fato de darmos todos os nossos dados para as empresas de tecnologia”, ressalta Gonçalves, evidenciando a necessidade de conscientização sobre os dados pessoais.
\n
A discussão sobre violência algorítmica é, portanto, central para a formação de uma sociedade mais justa e equitativa, especialmente em um Brasil marcado por profundas desigualdades sociais. O futuro dependerá de um esforço coletivo para que as tecnologias possam ser utilizadas de maneira que respeitem a dignidade e os direitos de todos os cidadãos.
