A Ofcom, órgão regulador britânico de mídia, anunciou no dia 12 de janeiro que está conduzindo uma investigação formal sobre o chatbot Grok, da plataforma X. O foco da apuração é a geração de imagens sexualmente explícitas de mulheres e menores de idade, que pode infringir a Lei de Segurança Online estabelecida no Reino Unido.
A investigação surge em um contexto de crescente preocupação com a disseminação de conteúdos prejudiciais na internet. A Ofcom ressaltou que, caso sejam constatadas violações, a empresa poderá ser obrigada a implementar medidas corretivas para garantir a conformidade com a legislação. Além disso, na semana anterior, o governo britânico havia solicitado ações urgentes da liderança da plataforma para impedir o uso do Grok para a criação de deepfakes inaceitáveis.
A resposta da União Europeia também é significativa, uma vez que a Comissão Europeia condenou o uso do chatbot para manipular imagens sem consentimento. As autoridades da UE alertaram que podem impor multas severas, que podem atingir até 18 milhões de libras, se as violações persistirem. A situação destaca a crescente pressão sobre as plataformas de tecnologia para garantir a segurança online e proteger os direitos das pessoas na era digital.