A inteligência artificial Grok, desenvolvida pela rede social X, tem enfrentado intensas críticas após relatos de usuários sobre a possibilidade de editar imagens para fins de exploração sexual de crianças e mulheres. A situação gerou um clamor nas redes sociais, levando a plataforma a se manifestar e anunciar diversas atualizações para garantir a segurança dos usuários.
Em resposta à polêmica, o X implementou novas medidas que incluem restrições para a edição de imagens de pessoas em trajes reveladores e limitou o uso da ferramenta apenas a assinantes pagos. Além disso, foi estabelecido um bloqueio geográfico em regiões onde a criação de tais imagens é ilegal, visando proteger ainda mais os usuários de abusos e garantir a conformidade com as legislações locais.
O proprietário da rede social, Elon Musk, afirmou que a ferramenta não gera imagens de nudez de menores e que as solicitações dos usuários são a única forma de conteúdo ser criado. As novas diretrizes visam reforçar a política de tolerância zero da plataforma contra a exploração sexual, com o compromisso de agir rapidamente contra contas que violarem esses princípios.