Deepfakes sexuais chegam a escolas do Pará e acendem alerta sobre uso indevido da IA - Estado do Pará Online

Deepfakes sexuais chegam a escolas do Pará e acendem alerta sobre uso indevido da IA

Mapeamento da SaferNet aponta casos em 10 estados e revela risco crescente entre adolescentes; vítimas e agressores são, em sua maioria, estudantes

SaferNet

Casos de deepfakes sexuais, que são montagens com nudez criadas por inteligência artificial, chegaram a escolas do Pará e de outros nove estados brasileiros, segundo levantamento da SaferNet Brasil. O mapeamento, parte de um estudo sobre o mau uso da IA generativa, identificou 16 casos e 72 vítimas, todas crianças e adolescentes.

A pesquisa, financiada pelo fundo SafeOnline e apoiada pelo Unicef, expõe uma nova forma de violência digital que vem preocupando pais e educadores. As imagens são produzidas sem consentimento e simulam situações de cunho sexual, violando a privacidade e a dignidade das vítimas.

No Pará, as ocorrências se somam a registros feitos em estados como São Paulo, Bahia, Rio de Janeiro e Rio Grande do Sul. A SaferNet também confirmou de forma independente três casos adicionais não divulgados pela imprensa, envolvendo mais 10 vítimas. Ao todo, 57 agressores foram identificados, todos menores de 18 anos.

A maior parte dos casos ocorreu em escolas particulares, onde alunos usaram ferramentas de IA para manipular imagens de colegas e espalhá-las em grupos de mensagens e redes digitais. O levantamento foi feito com base em centenas de reportagens e segue em atualização contínua desde 2023.

Segundo a diretora de projetos especiais da SaferNet, Juliana Cunha, a falta de monitoramento por parte das autoridades brasileiras dificulta dimensionar o problema. “Sabemos que pode ser muito difícil falar sobre isso, mas a voz das vítimas é essencial para dimensionar o problema e ajudar outros adolescentes no futuro. Com a pesquisa, queremos elaborar um relatório inédito no Brasil sobre o tema e incentivar autoridades públicas a construir uma resposta a essa demanda com soluções que façam diferença no dia a dia dos adolescentes”, afirmou.

A organização destaca que o medo do julgamento e a descrença na punição impedem muitas vítimas de denunciar. Para reverter esse cenário, a SaferNet abriu um canal de escuta anônima, disponível em bit.ly/pesquisadeepfake, além do Canal de Ajuda, que oferece apoio psicológico e acolhimento virtual.

O estudo deve resultar em um relatório nacional com recomendações para autoridades e escolas. A intenção é propor medidas de prevenção, educação digital e responsabilização adequada nos casos envolvendo adolescentes.

Leia Mais: