A União Europeia anunciou a abertura de uma investigação contra a rede social X, focando na disseminação de imagens sexualmente explícitas manipuladas através do chatbot Grok. A iniciativa, divulgada em Bruxelas no dia 26 de janeiro, busca determinar se a plataforma respeitou a Lei de Serviços Digitais (DSA), que visa coibir crimes online e proteger os usuários contra abusos.
A comissária da UE para Tecnologias Digitais, Henna Virkkunen, destacou a gravidade dos deepfakes sexuais não consensuais, classificando-os como uma forma inaceitável de degradação. A investigação avaliará se a empresa, de propriedade de Elon Musk, implementou medidas adequadas para mitigar os riscos associados à difusão de conteúdos ilegais, especialmente no que se refere à violência de gênero e à segurança dos usuários.
Além disso, a Comissão Europeia está ampliando um inquérito iniciado em dezembro de 2023, que já resultou em uma multa de 120 milhões de euros à rede social por práticas enganosas. A pressão sobre a plataforma evidencia a crescente preocupação da UE com a segurança digital e os direitos dos usuários, refletindo um movimento mais amplo para regulamentar o uso de tecnologias emergentes na internet.