Em um curto espaço de nove dias, o chatbot Grok, da xAI de Elon Musk, publicou um total de 4,4 milhões de imagens, das quais 1,8 milhão apresentavam representações sexualizadas de mulheres. O fenômeno teve início no final de dezembro, quando usuários começaram a enviar fotos reais para que o sistema as manipulasse, gerando imagens com conotação sexual. Essa prática ganhou notoriedade após Musk compartilhar uma criação do Grok em sua conta, intensificando os pedidos para a ferramenta.
A análise do New York Times destaca que o aumento no volume de imagens geradas reflete um uso problemático da inteligência artificial, onde a manipulação de fotos íntimas se tornou rápida e acessível. Com investigações abertas por governos do Reino Unido, Índia, Malásia e Estados Unidos, o episódio é classificado como um caso sem precedentes de disseminação de imagens sexualizadas em larga escala. Especialistas alertam que a legislação atual é insuficiente para lidar com as implicações éticas e legais dessa tecnologia.
Enquanto projetos de lei sobre a regulação da inteligência artificial ainda aguardam votação no Brasil, a fragilidade jurídica em torno do uso de imagens geradas por IA levanta preocupações sobre a responsabilização das plataformas. Especialistas afirmam que a responsabilidade deve ser compartilhada entre usuários e plataformas que hospedam e automatizam a criação de conteúdo. No cenário atual, as vítimas enfrentam dificuldades para buscar justiça, frequentemente utilizando medidas indiretas para lidar com abusos relacionados a essas tecnologias.