A Advocacia-Geral da União (AGU) notificou a Meta, controladora do Facebook, Instagram e WhatsApp, para desativar robôs de bate-papo que simulam conversas de teor sexual com crianças. Na notificação extrajudicial, a AGU aponta que o ‘Meta AI Studio’, plataforma que permite a criação de produtos de inteligência artificial personalizados, tem sido utilizado para promover a sexualização infantil, exigindo que a empresa tome medidas para impedir o acesso de crianças e adolescentes a conteúdos inapropriados.
A denúncia do governo federal se baseia em uma reportagem do Núcleo Jornalismo, que testou chatbots como ‘Safadinha’, ‘Bebezinha’ e ‘Minha novinha’. Esses robôs permitem diálogos eróticos com IAs que se apresentam como crianças, levantando preocupações sobre a falta de mecanismos eficazes de moderação. A AGU enfatiza que esses chatbots podem alcançar um público amplo nas redes sociais da Meta, aumentando o risco de contato de menores com material sexualmente sugestivo e potencialmente criminoso.
Além disso, a AGU menciona que o Código Penal brasileiro tipifica como crime sexual contra vulnerável qualquer ato libidinoso com menores de 14 anos, prevendo penas severas. A Meta já havia reconhecido problemas em sua IA relacionados a conversas de teor sexual com crianças e, embora tenha removido algumas funcionalidades, os chatbots que propagam conteúdo ilícito ainda estão disponíveis. O Supremo Tribunal Federal (STF) já decidiu que plataformas digitais podem ser responsabilizadas por conteúdo gerado por terceiros se não agirem para removê-lo ao tomarem conhecimento.
