A Agência Nacional de Proteção de Dados (ANPD) e o Ministério Público Federal (MPF), em colaboração com a Secretaria Nacional do Consumidor (Senacom), emitiram uma recomendação ao X, antigo Twitter, para que a plataforma tome medidas contra a criação de conteúdos sexualizados indevidos pelo assistente de inteligência artificial Grok. A recomendação foi feita após denúncias sobre o uso da ferramenta para produzir deepfakes de caráter erótico, envolvendo imagens de pessoas reais, incluindo mulheres, crianças e adolescentes, sem o seu consentimento.
As instituições ressaltaram a seriedade da situação, destacando que estas ocorrências podem afetar a proteção de dados pessoais e a dignidade da pessoa humana. O MPF e a ANPD estipularam um prazo até 27 de janeiro para que a empresa informe as ações adotadas para impedir o uso inadequado da ferramenta, incluindo a suspensão de contas que realizem tais práticas. Caso as recomendações não sejam atendidas, medidas administrativas e judiciais poderão ser acionadas.
Além das recomendações de suspensão de contas, as instituições solicitaram a implementação de procedimentos para a remoção de conteúdos gerados de forma irregular, assim como a criação de mecanismos que permitam aos titulares de dados denunciar abusos. As diretrizes visam garantir um ambiente digital mais seguro e respeitoso, especialmente para os grupos mais vulneráveis, como crianças e adolescentes.