O governo federal e o Ministério Público Federal (MPF) solicitaram medidas corretivas à plataforma X sobre seu chatbot Grok, após a divulgação de imagens sexualizadas não consentidas. As autoridades pedem que a empresa tome ações imediatas para impedir a geração de novos conteúdos sexualizados envolvendo crianças e adultos que não tenham dado consentimento. Caso as recomendações não sejam seguidas, a plataforma poderá enfrentar sanções administrativas e até mesmo ações judiciais no Brasil.
Entre as principais recomendações está a proibição de qualquer novo conteúdo que represente indivíduos em contextos sexualizados sem o devido consentimento. Além disso, a Agência Nacional de Proteção de Dados (ANPD) e outras entidades governamentais pedem a suspensão das contas responsáveis por tais conteúdos. O governo também sugere a criação de procedimentos técnicos para identificar e remover conteúdos impróprios que já estejam disponíveis na plataforma.
Para o futuro, as autoridades destacam a necessidade de implementar canais de denúncia e elaborar relatórios sobre o uso da inteligência artificial para manipulação de imagens e vídeos. É essencial que a plataforma adote medidas efetivas para proteger os usuários e garantir a conformidade com as leis brasileiras. A situação ressalta a crescente preocupação com o uso responsável da tecnologia e a proteção dos direitos individuais na era digital.