A União Europeia iniciou uma investigação contra a empresa X, de Elon Musk, devido à geração de deepfakes sexualmente explícitos pela inteligência artificial Grok. A investigação visa determinar se a plataforma tomou as medidas necessárias para mitigar os riscos associados à disseminação de conteúdos ilegais, incluindo manipulações de imagens que configuram abuso infantil. A presidente da Comissão Europeia, Ursula von der Leyen, enfatizou que a proteção infantil deve ser uma prioridade e que comportamentos ilícitos não serão tolerados na Europa.
Além da investigação da União Europeia, a Ofcom, órgão regulador do Reino Unido, também está conduzindo uma apuração semelhante. Musk pode enfrentar uma multa significativa, de até 10% da receita global da X, o que equivale a cerca de 18 milhões de euros. Essas ações regulatórias refletem uma crescente preocupação com o uso de tecnologias de inteligência artificial e sua capacidade de gerar conteúdo prejudicial, especialmente em relação à segurança de crianças e mulheres.
As implicações dessa investigação são profundas, pois podem resultar em mudanças significativas na forma como plataformas de tecnologia operam na Europa. A pressão sobre empresas como a X para garantir a segurança dos usuários pode levar a uma revisão de políticas e práticas relacionadas à inteligência artificial. O caso também destaca a necessidade de um debate mais amplo sobre a ética e a responsabilidade no uso de tecnologias emergentes, especialmente aquelas que têm potencial para causar danos sociais.