Grok permite criar imagens eróticas de mulheres e crianças reais, sem consentimentoFoto: Reprodução/X/NDAutoridades brasileiras fizeram uma série de recomendações à plataforma X, do bilionário Elon Musk, para impedir a geração de imagens sexualizadas de mulheres e crianças pela inteligência artificial Grok.
O documento foi expedido na terça-feira (20) pela ANPD (Agência Nacional de Proteção de Dados), o MPF (Ministério Público Federal) e a Senacon (Secretaria Nacional do Consumidor) do Ministério da Justiça e Segurança Pública.
A medida é tomada após a denúncia da deputada federal Erika Hilton (PSOL-SP) no início do mês. Ela apontou que o Grok estava produzindo pornografia infantil ao gerar “deepfakes”, imagens criadas por inteligência artificial com base em crianças e adolescentes reais.
Faça como milhões de leitores informados: siga o ND Mais no Google. Seguir
Erika Hilton pediu que o MPF investigue IA de Elon Musk por pornografia infantilFoto: Reprodução/X/Bruno Spada/Câmara dos Deputados/ND“Basta um usuário pedir ao ‘Grok’, que a inteligência artificial integrada ao X alterará digitalmente qualquer foto publicada. Inclusive, trocando as roupas de mulheres e meninas por biquínis ou tornando-as sugestivas e eróticas. Isso tudo é CRIME”, denunciou Erika Hilton.
Veja recomendações do governo para o Grok após polêmica de pornografia infantil
As entidades brasileiras recomendam medidas “imediatas” para impedir que o Grok gere novas mídias que representem crianças e adolescentes em contextos sexualizados ou erotizados, assim como pessoas maiores de idade identificáveis em contextos semelhantes, sem autorização.
As recomendações incluem:
Remoção de conteúdo: criar, em até 30 dias, regras técnicas e operacionais para identificar, revisar e remover conteúdos irregulares gerados pelo Grok e ainda disponíveis na plataforma X.
Suspensão de contas: suspender imediatamente contas ligadas à geração, via Grok, de imagens sexuais ou erotizadas ilegais, com aplicação contínua dos termos de uso e envio de relatórios mensais de comprovação.
Canal de denúncias: implementar mecanismo transparente e acessível para denúncias e exercício de direitos, com resposta adequada e em prazo razoável, especialmente em casos de conteúdo sexual sintético sem consentimento.
Relatório de impacto: elaborar relatório específico sobre riscos à proteção de dados pessoais na geração de conteúdo sintético a partir de imagens, vídeos ou áudios que identifiquem pessoas.
Caso as recomendações não sejam acatadas ou implementadas de modo suficiente, outras medidas poderão ser adotadas pelas três instituições para “garantir a proteção adequada dos cidadãos e cidadãs do país, especialmente de mulheres, de crianças e de adolescentes”.