Na quarta-feira (14), a rede social X, sob a liderança de Elon Musk, anunciou a implementação de medidas rigorosas para impedir que sua ferramenta de inteligência artificial, Grok, crie imagens sexualizadas de pessoas reais. Esta decisão surge após forte pressão global, especialmente em resposta a uma investigação da Procuradoria Geral da Califórnia, que busca examinar a geração de material sexualmente explícito e não consensual pela plataforma.
O comunicado da X especifica que foram adotadas medidas tecnológicas para evitar que o Grok edite imagens de forma a expor pessoas em roupas reveladoras, como biquínis ou peças íntimas. A restrição se estende a todos os usuários, incluindo aqueles com assinaturas pagas, refletindo a gravidade da situação. A pressão internacional aumentou após relatos de que o Grok permitia a criação de deepfakes sexualizadas através de comandos simples, o que gerou preocupações em vários países.
Além das ações da rede social, alguns países já tomaram medidas drásticas, como a Indonésia, que bloqueou o acesso ao Grok, seguida pela Malásia e Índia. No Reino Unido, a reguladora de mídia Ofcom iniciou uma investigação sobre possíveis violações de legislações locais. A comissária para a infância da França também tomou providências legais, encaminhando imagens geradas pelo Grok às autoridades competentes, evidenciando a necessidade urgente de regulamentação eficaz para lidar com o uso indevido da tecnologia.