O governo brasileiro exigiu a suspensão de perfis na plataforma X (antigo Twitter) que utilizaram a inteligência artificial Grok, ferramenta vinculada ao bilionário Elon Musk, para a criação de conteúdos pornográficos envolvendo crianças e adolescentes. As recomendações também incluem medidas urgentes para impedir a geração de imagens sexualizadas de mulheres sem consentimento.

O documento foi expedido na terça-feira (20) de forma conjunta pela Agência Nacional de Proteção de Dados (ANPD), pelo Ministério Público Federal (MPF) e pela Secretaria Nacional do Consumidor (Senacon), vinculada ao Ministério da Justiça e Segurança Pública.

A iniciativa ocorre após denúncia apresentada no início do mês pela deputada federal Erika Hilton (PSOL-SP), que apontou que o Grok estaria sendo utilizado para gerar deepfakes com conteúdo sexual a partir de imagens reais de crianças, adolescentes e mulheres adultas.

Segundo a parlamentar, bastaria um comando do usuário para que a ferramenta de inteligência artificial alterasse digitalmente fotografias publicadas na plataforma, substituindo roupas por biquínis ou produzindo versões erotizadas das imagens. Para Erika Hilton, a prática configura crime grave e viola direitos fundamentais.

Entre as recomendações encaminhadas ao X, as autoridades brasileiras exigem a adoção imediata de mecanismos capazes de impedir a geração de qualquer mídia que represente crianças e adolescentes em contextos sexualizados. A orientação também se estende a adultos identificáveis, quando não houver autorização expressa para esse tipo de uso.

As medidas propostas incluem a remoção de conteúdos ilegais ainda disponíveis na plataforma, com a criação de regras técnicas e operacionais para identificar, revisar e excluir materiais irregulares no prazo máximo de 30 dias. Também foi recomendada a suspensão imediata de contas envolvidas na produção de imagens ilícitas por meio do Grok.

Outro ponto destacado é a necessidade de um canal de denúncias acessível e transparente, que permita o exercício de direitos por parte das vítimas, com respostas em prazo razoável, especialmente em casos de conteúdo sexual sintético produzido sem consentimento.

Além disso, o governo cobra a elaboração de um relatório de impacto específico sobre os riscos à proteção de dados pessoais relacionados à geração de conteúdos sintéticos a partir de imagens, vídeos ou áudios que identifiquem pessoas reais.

As instituições alertam que, caso as recomendações não sejam cumpridas de forma satisfatória, novas medidas poderão ser adotadas para assegurar a proteção da população brasileira, com atenção especial a mulheres, crianças e adolescentes.