A violência algorítmica se torna um tema central à medida que a **inteligência artificial** avança. O fenômeno, que denota a reprodução de preconceitos e desigualdades, intensifica a **discriminação** contra grupos minoritários. Gonzatti, professor na Universidade do Vale do Rio dos Sinos (Unisinos), relata sua experiência após a implementação de recursos de algoritmos em sua página, originando protestos de que seu conteúdo promovia discursos de ódio, mesmo com um viés cultural.\n
Ele afirma que o algoritmo não compreende o contexto e trata palavras do segmento LGBTQIA+ de maneira limitada. Mesmo com a nova nomenclatura de seu projeto, Diversidade Nerd, seus conteúdos continuam a ser prejudicados pelo alcance comprometido em plataformas digitais. “Se coloco a palavra gay na legenda, por exemplo, o alcance é menor”, destaca Gonzatti, expondo a luta constante por reconhecimento e respeito na esfera digital.\n
Qual o diferencial da violência algorítmica?
\n
A violência algorítmica se refere à **agressão** que interage com sistemas computacionais, afetando não apenas redes sociais, mas também plataformas de vigilância e IA. Alexandre Gonçalves, cientista da computação, explica que a tecnologia pode forçar usuários a laborar por longas horas sem considerar limites naturais. Um motorista anônimo em São Paulo narra sua experiência, onde algoritmos o incentivam a aceitar mais corridas, resultando em turnos que excedem 12 horas. Isso exemplifica como as tecnologias empurram trabalhadores a extremos, sem respeitar sua saúde física e mental.\n
Os algoritmos, portanto, amplificam modos tradicionais de violência, especialmente nas redes sociais, onde as fake news prosperam por meio de algoritmos que promovem conteúdo emocionalmente apelativo. A disseminação dessas informações fraudulentas não só prejudica a verdade, mas também aumenta a instabilidade social. O conceito também ganhou espaço acadêmico e começou a ser amplamente explorado apenas na década passada, como defendido por vários acadêmicos e artistas.\n
Como se compara ao racismo estrutural?
\n
Violência algorítmica e racismo estrutural estão intimamente ligados, pois algoritmos treinados com dados enviesados perpetuam discriminações históricas. O estudo do Conselho Nacional de Justiça revela que 83% dos casos de reconhecimento facial equivocado levam à detenção de pessoas negras, o que indica que falhas nos algoritmos resultam em automação de injustiças. Hupffer e Petry, da Unisinos, ressaltam que a ideia de discriminação algorítmica é reforçada ao utilizar dados derivados de um sistema social já desigual.\n
Essas questões são mais alarmantes no contexto brasileiro, onde há uma intensa presença digital combinada a profundas desigualdades sociais. A antropóloga Pelúcio discute como essa combinação cria um ambiente propenso ao agravamento de vulnerabilidades, particularmente para populações marginalizadas como negras, indígenas e LGBTQIA+. O papel periférico do Brasil na criação dessas tecnologias também agrava as disparidades observadas no acesso e na representação.\n
Quais medidas estão sendo tomadas?
\n
O Brasil, ao reconhecer a proteção de dados pessoais como um direito fundamental em 2022, estabelece um marco legal para enfrentar a violência algorítmica. Embora haja legislação, as soluções eficazes ainda demandam um esforço coletivo envolvendo educação e letramento digital. Gonçalves defende que é crucial conscientizar cidadãos sobre os riscos de fornecer seus dados a empresas de tecnologia, pois a desinformação e os preconceitos alicerçam a cultura de violência algorítmica.\n
Por fim, o cenário requer um conjunto de medidas, incluindo intervenções na forma como os algoritmos são projetados e utilizados. A necessidade de evoluir na abordagem e na regulação desses sistemas torna-se evidente, de modo que se inicie uma transformação que aborde as desigualdades estruturais já existentes. Com o Brasil em uma posição chave, as próximas ações devem garantir não apenas a proteção de dados, mas também o respeito a todos os cidadãos, independentemente de sua origem, religião ou identidade sexual.
