Órgãos do governo federal e o Ministério Público Federal (MPF) recomendaram que a plataforma X adote medidas imediatas para impedir o uso da ferramenta de inteligência artificial Grok na geração de imagens, vídeos e áudios sexualizados. produzidos a partir de imagens de pessoas reais, sem consentimento.
A recomendação é assinada pela Agência Nacional de Proteção de Dados (ANPD), pela Secretaria Nacional do Consumidor (Senacon) e pelo MPF, e foi divulgada na terça-feira (20), após uma série de denúncias de usuários que relataram a criação indevida de conteúdos eróticos por meio da IA da plataforma.
Denúncias motivaram atuação dos órgãos
De acordo com os órgãos, o documento foi elaborado após relatos de pessoas que afirmam ter sido vítimas de edições indevidas feitas pelo Grok, além de reportagens da imprensa nacional e internacional e testes realizados pelas próprias instituições.
Segundo as autoridades, a ferramenta vem sendo usada para a produção de deepfakes. Essa técnica de inteligência artificial cria imagens falsas a partir de pessoas reais. Muitas vezes essas imagens apresentam conotação sexual ou pornográfica, atingindo principalmente mulheres, crianças e adolescentes.
Prazo de 30 dias e risco de sanções
Entre as recomendações, está a exigência de que o X implemente, em até 30 dias, procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos sexualizados já gerados pelo Grok.
O documento também prevê a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas sem autorização. Além disso, pede a criação de um mecanismo acessível de denúncia, para que titulares de dados possam relatar usos irregulares da ferramenta.
Em caso de descumprimento ou de adoção de medidas consideradas insuficientes para reduzir os riscos, os órgãos alertam que outras providências poderão ser adotadas, tanto na esfera administrativa quanto judicial.
Responsabilidade do X e decisão do STF
As instituições destacam que, embora o artigo 19 do Marco Civil da Internet limite a responsabilização das plataformas por conteúdos de terceiros, esse entendimento não se aplica integralmente ao caso.
Isso porque os conteúdos não seriam produzidos apenas pelos usuários. Em vez disso, eles surgem por meio da interação direta com a ferramenta de inteligência artificial desenvolvida e disponibilizada pelo próprio X, o que caracteriza a empresa como coautora.
O documento também cita decisão recente do Supremo Tribunal Federal (STF), que declarou a parcial inconstitucionalidade do artigo 19. O STF entendeu que a norma não garante proteção suficiente a direitos fundamentais, especialmente em casos de crimes graves cometidos contra mulheres.
Críticas do Idec
O Instituto de Defesa do Consumidor (Idec), que apresentou a denúncia envolvendo o Grok, avaliou que as recomendações feitas ao X são insuficientes.
Em nota, a entidade afirmou que os órgãos adotaram uma abordagem “meramente burocrática”, ao se limitarem a recomendações enquanto a ferramenta segue em funcionamento.
Segundo o Idec, a decisão ignora a gravidade de milhares de casos de uso indevido de dados pessoais, inclusive de crianças e adolescentes. Isso mantém consumidoras brasileiras em situação de risco.
Regras da própria plataforma
As instituições também lembram que as políticas internas do X já proíbem a publicação e o compartilhamento de nudez não consensual. Além disso, vedam a produção e disseminação de imagens sexualizadas de terceiros no contexto do uso do Grok.
Para os órgãos, a disponibilização de uma ferramenta de inteligência artificial sem filtros rigorosos torna-se incompatível com essas próprias regras.
Leia também: