A deputada federal Erika Hilton (PSol) acionou o Ministério Público Federal (MPF) contra a plataforma X (antigo Twitter) por supostas falhas no funcionamento da ferramenta de inteligência artificial Grok. De acordo com a parlamentar, o sistema permite a criação e edição automatizada de imagens sexualizadas de pessoas reais, incluindo crianças e adolescentes, sem mecanismos eficazes de verificação de consentimento, idade ou finalidade legítima, o que teria facilitado a produção de deepfakes sexuais.

A representação aponta que a prática não se limita a um grupo específico, atingindo tanto menores de idade quanto mulheres adultas. Segundo o documento, mesmo após denúncias públicas e repercussão nas redes sociais, a funcionalidade teria permanecido ativa, ampliando a circulação de conteúdos gerados sem autorização das pessoas retratadas.

O texto encaminhado ao MPF também menciona um reconhecimento público de falhas por parte do próprio Grok. Em dezembro de 2025, a ferramenta divulgou um pedido de desculpas após a geração de imagens envolvendo menores, admitindo problemas em seus protocolos de segurança e filtragem de conteúdo.

No campo jurídico, Erika Hilton sustenta que o uso de inteligência artificial não afasta a ilicitude dos atos. A petição cita dispositivos do Estatuto da Criança e do Adolescente, da Lei Geral de Proteção de Dados e do Marco Civil da Internet para reforçar que a produção de material sexualizado envolvendo crianças, ainda que artificial, configura crime.

Entre os pedidos feitos ao MPF, a deputada solicita a abertura de procedimento investigatório, a suspensão imediata ou a imposição de restrições à funcionalidade do Grok e a exigência de informações técnicas detalhadas sobre os mecanismos de proteção da ferramenta. O documento também pede a comunicação do caso à Autoridade Nacional de Proteção de Dados (ANPD).

Além disso, a representação prevê a aplicação de multa diária em caso de descumprimento das medidas solicitadas e requer a possibilidade de desativação da ferramenta em território nacional até que salvaguardas consideradas eficazes sejam implementadas.