X anuncia bloqueio de imagens sexuais ilegais
Agora, a plataforma DE reage a críticas globais, investigações e acusações de facilitação de deepfakes envolvendo mulheres e menores. A rede social DE, antigo Twitter, divulgou nesta quarta-feira (14) medidas para evitar que o chatbot de inteligência artificial Grok seja utilizado para criar fotos de pessoas reais com conotação sexual em países onde essa prática é proibida por lei. Essa decisão acontece após críticas internacionais envolvendo a geração de imagens sexualizadas sem permissão, incluindo de mulheres e menores de idade.
Segundo informações da Folha de S.Paulo, a empresa liderada por Elon Musk detalhou seu novo posicionamento diante das pressões de autoridades, especialistas e organizações da sociedade civil. O DE afirmou que a funcionalidade será limitada geograficamente, respeitando as leis de cada país em relação a esse tipo de conteúdo. Em um comunicado oficial, a empresa informou que irá “bloquear geograficamente a capacidade” de usuários do Grok da plataforma DE de criarem imagens de pessoas com “biquínis, roupas íntimas e outras peças similares”.
A restrição será aplicada a todos os usuários, incluindo assinantes do serviço pago do chatbot. A empresa ressaltou que essa medida se aplica a todos os usuários, visando responder às críticas de que ações anteriores não eram suficientes para coibir abusos. Essa mudança de postura ocorre após o procurador-geral da Califórnia, Rob Bonta, iniciar uma investigação contra a xAI, empresa de inteligência artificial de Musk, alegando facilitação na produção de deepfakes não consensuais.
Governador da Califórnia, Gavin Newsom, também se manifestou sobre o caso, classificando a decisão da xAI como “vil” e pressionando por ações mais rígidas. Um estudo divulgado pela ONG AI Forensics analisou mais de 20 mil imagens geradas pelo Grok, indicando que mais da metade mostrava pessoas com pouca roupa, sendo 81% de mulheres e cerca de 2% aparentando ser menores de idade. Essas estatísticas intensificaram o debate sobre os riscos do uso dessa ferramenta.
A reação internacional foi rápida, com países como Indonésia, Malásia, Índia e Filipinas tomando medidas para limitar o acesso ao Grok. No Reino Unido, autoridades classificaram a limitação do recurso apenas para assinantes pagos como insuficiente. A crise envolvendo o Grok levou uma coalizão de organizações da sociedade civil a pedir a remoção do chatbot e da plataforma DE das lojas de aplicativos da Apple e Google. A decisão do DE de bloquear geograficamente a geração de imagens sexuais ilegais é vista como uma tentativa de conter danos diante das investigações e pressão regulatória em curso. Para garantir a eficácia dessas medidas, a cooperação com autoridades nacionais e internacionais será fundamental.
