A inteligência artificial Grok, desenvolvida pela rede social X, gerou controvérsias nas últimas semanas, com usuários relatando que a ferramenta possibilitava a edição de imagens com fins de exploração sexual. Em resposta, a plataforma anunciou atualizações para assegurar um ambiente mais seguro, enfatizando sua política de tolerância zero em relação a qualquer forma de exploração, especialmente a infantil.
As novas medidas incluem restrições que proíbem a edição de imagens de pessoas em trajes reveladores, como biquínis, e a criação de conteúdos semelhantes. Essas alterações se aplicam imediatamente a todos os usuários, com a intenção de adicionar uma camada extra de proteção, principalmente em jurisdições onde tais ações são ilegais. Além disso, o acesso à função de criação e edição de imagens agora é restrito a assinantes pagos da plataforma.
Essa situação levanta importantes questões sobre a responsabilidade das redes sociais na moderação de conteúdos e a proteção de usuários vulneráveis. A declaração de Elon Musk, proprietário da rede, destaca a posição da empresa em lidar com quaisquer solicitações ilegais, mas a polêmica evidencia a necessidade de um monitoramento mais rigoroso e eficiente das ferramentas de inteligência artificial disponíveis ao público.