O estado de São Paulo é o que tem mais casos de uso de deepfakes sexuais em escolas, segundo levantamento da SaferNet Brasil — Foto: Carlos Henrique Dias/g1
O estado de São Paulo registrou quatro deepfakes sexuais em escolas, segundo levantamento da SaferNet Brasil divulgado nesta segunda-feira (6). O Brasil teve 16 casos em 10 das suas 27 unidades da federação de 2023 a 2025. As deepfakes sexuais são imagens de nudez ou teor sexual criadas com inteligência artificial sem o consentimento das pessoas retratadas, violando a privacidade e a dignidade das vítimas.
O mapeamento faz parte do estudo “Uso indevido de IA generativa: perspectivas sobre riscos e danos centradas nas crianças”, conduzido pela ONG sobre o mau uso de inteligência artificial generativa para o cometimento de crimes contra crianças e adolescentes. A pesquisa é financiada com recursos do fundo SafeOnline, gerido pela Unicef. A tecnologia é capaz de gerar novos conteúdos a partir de dados e comandos humanos, criando imagens totalmente sintéticas ou manipulando fotos e vídeos reais para montar cenas hiper-realistas com rostos e corpos alterados.
No dia 2 de setembro deste ano, pais de estudantes de uma escola particular de Itapetininga, interior paulista, denunciaram a manipulação de imagens de nudez com uso de inteligência artificial feita por um colega. Os pais procuraram a polícia para registrar boletim de ocorrência e o estudante foi suspenso, conforme a escola. Já em Itararé, também no interior de São Paulo, dois adolescentes, de 15 e 16 anos, passaram a ser investigados pela Polícia Civil por serem suspeitos de criar nudes falsos de estudantes de uma escola estadual no dia 30 de setembro do ano passado. De acordo com a Secretaria da Segurança Pública de São Paulo, os adolescentes teriam utilizado Inteligência Artificial para montar as imagens. O caso foi registrado como: simular participação de criança ou adolescente em cena de sexo e produzir, fotografar, filmar ou registrar, por qualquer meio.
De acordo com a SaferNet, o levantamento — conduzido de forma contínua desde 2023 até agora — identificou 16 casos de deepfakes sexuais envolvendo ao menos 72 vítimas nas cinco regiões do país. Os estados com registros são: Alagoas, Bahia, Mato Grosso, Minas Gerais, Pará, Paraíba, Pernambuco, São Paulo, Rio de Janeiro e Rio Grande do Sul. Ao todo, foram identificados 57 agressores, todos com menos de 18 anos quando os atos ocorreram. A maioria dos casos noticiados pela imprensa aconteceu em escolas privadas. As informações foram levantadas a partir da análise de centenas de reportagens de veículos nacionais e locais.
Por conta dessa lacuna, a SaferNet iniciou a pesquisa para ouvir relatos de vítimas e testemunhas. Por isso, todos os relatos poderão ser feitos de forma anônima e segura diretamente por meio do formulário ou com a ajuda de profissionais de saúde mental do canal de ajuda da SaferNet. “Sabemos que pode ser muito difícil falar sobre isso, mas a voz das vítimas é essencial para dimensionar o problema e ajudar outros adolescentes no futuro. Com a pesquisa, queremos elaborar um relatório inédito no Brasil sobre o tema e incentivar autoridades públicas a construir uma resposta a essa demanda com soluções que façam diferença no dia a dia dos adolescentes”, afirma Juliana Cunha, diretora de projetos especiais da SaferNet. A pesquisa também ajudará com recomendações sobre melhores abordagens nesses casos, inclusive medidas não restritivas de liberdade nos casos envolvendo adolescentes, para os quais são necessárias respostas que também os considerem como sujeitos em desenvolvimento.
