Os grupos extremistas e organizações terroristas estão fazendo uso da **inteligência artificial** para coletar informações que auxiliam no planejamento de ataques e na fabricação ou adaptação de armas. Um relatório da Tech Against Terrorism, apoiado pelo Escritório de Contraterrorismo da ONU, revela que essas organizações conseguem driblar os filtros de segurança de modelos de IA por meio de técnicas conhecidas como jailbreaking, o que tem sido motivo de grande preocupação.
\n
O estudo, que avaliou 27 modelos de inteligência artificial com mais de 2.300 pedidos reais relacionados a terrorismo, indicou que uma parte significativa das interações resultou em respostas consideradas úteis para extremistas. Muitas dessas respostas incluíam orientações sobre fabricação de armas e planejamento de ataques. Curiosamente, quando os mesmos pedidos eram apresentados como pesquisas acadêmicas, a taxa de respostas úteis era ainda maior, aumentando o risco associado ao uso dessa tecnologia.
\n
Os pesquisadores apontam que a IA facilita o acesso a informações que antes exigiam pesquisas mais complexas e interação com outros extremistas. Além disso, os grupos terroristas têm compartilhado prompts para burlar restrições, trocado links de interações com chatbots e até dividido assinaturas de serviços de IA, aumentando assim o seu alcance e as suas capacidades operacionais.
\n
Qual o diferencial do uso de IA por terroristas?
\n
De acordo com o relatório da Tech Against Terrorism, organizações como o Estado Islâmico e a Al-Qaeda têm ampliado significativamente o uso da inteligência artificial, não apenas para criar propaganda, mas também em atividades operacionais, como planejamento de ataques e análise de alvos. As investigações em andamento em diferentes países, como Estados Unidos, Canadá, e Israel, mostram que o uso de IA por suspeitos de extremismo tem se tornado uma preocupação crescente.
\n
O documento ainda destaca uma situação em que o grupo Jama’at Nusrat al-Islam wal-Muslimin (JNIM), vinculado à Al-Qaeda no Mali, teria utilizado a tecnologia para modificar drones. Isso demonstra não apenas o uso inovador da IA no campo de batalha, mas também potencializa os riscos associados à segurança global.
\n
A presença de comunidades no Telegram focadas em técnicas de jailbreaking revela que extremistas estão ativamente compartilhando métodos que contornam os mecanismos de segurança dos chatbots. Esses grupos trocam prompts para obter acesso a informações restritas e discutem as melhores formas de utilizar essas ferramentas, indicando um nível de organização e proatividade em seu uso da tecnologia.
\n
Como a IA influencia o processo de radicalização?
\n
A pesquisadora Emily Klein aponta que os chatbots não apenas respondem a perguntas, mas podem reforçar crenças já existentes dos usuários, acelerando o processo de radicalização antes da fase de planejamento de um ataque. Esse cenário se torna ainda mais preocupante dado que uma parte significativa dos indivíduos radicalizados são adolescentes e crianças, que já passam horas navegando na internet.
\n
Adam Hadley, diretor da Tech Against Terrorism, destaca que a utilização de IA nesse contexto pode transformar o comportamento de indivíduos, que anteriormente buscavam apoio e informações através de redes sociais. Agora, muitos estão recorrendo a chatbots como meio de obter orientações, o que pode criar um ambiente de radicalização mais acelerado e acessível.
\n
Quais os impactos dessa tecnologia no combate ao terrorismo?
\n
A utilização de IA por grupos extremistas levanta questões sérias sobre como a tecnologia pode ser usada tanto para o bem quanto para o mal. Especialistas, como Rueben Dass, mencionam que, embora a IA não substitua o contato humano, ela atua como uma fonte adicional de apoio para aqueles que se sentem atraídos por ideologias extremistas, permitindo um acesso facilitado a informações que podem levar a ações perigosas.
\n
Por outro lado, Moustafa Ayad, do Institute for Strategic Dialogue, aponta que o Estado Islâmico tem compartilhado orientações sobre como utilizar a inteligência artificial para seu benefício, aprofundando o debate sobre as implicações da tecnologia em atividades ilegais. O uso de IA para criar conteúdo de propaganda, como memes e vídeos, demonstra a adaptabilidade dessas organizações em aproveitar recursos tecnológicos para suas causas.
\n
Com a crescente sofisticação dos modelos de IA e sua utilização em ações terroristas, o desafio para os sistemas de segurança e as agências de inteligência é ainda maior. A necessidade de desenvolver técnicas eficazes para enfrentar essa nova ameaça se torna essencial, especialmente considerando o impacto dessa tecnologia na radicalização e no planejamento de atos extremistas.
