A Agência Nacional de Proteção de Dados, a Secretaria Nacional do Consumidor e o Ministério Público Federal emitiram recomendações à empresa controladora da plataforma digital X, solicitando a imediata prevenção do uso do Grok para a criação de conteúdos sexualizados. O documento, publicado na terça-feira (20), exige que a empresa implemente, em até 30 dias, medidas para identificar e remover esses conteúdos, além de suspender contas que promovam a produção de imagens sem autorização, envolvendo tanto menores quanto adultos.
As instituições fundamentaram suas recomendações em denúncias de usuários e reportagens que evidenciam o uso inadequado da ferramenta para a geração de deepfakes sexualizados. Essas práticas, que afetam a dignidade e os direitos de indivíduos, especialmente mulheres e crianças, levantam preocupações sobre a proteção de dados pessoais e a integridade das relações de consumo. O Supremo Tribunal Federal também se posicionou sobre o tema, declarando que provedores devem ter um dever especial de cuidado para evitar a disseminação de conteúdos prejudiciais.
Caso as orientações não sejam seguidas de forma eficaz, as instituições poderão considerar medidas adicionais, incluindo ações administrativas e judiciais. A implementação de filtros rigorosos na plataforma é essencial para coibir práticas que propagam a desinformação e a violação de direitos, assegurando a proteção de todos os cidadãos, particularmente os mais vulneráveis, como crianças e adolescentes.