A Advocacia-Geral da União (AGU) notificou a Meta, empresa responsável por plataformas como Facebook e Instagram, para desativar chatbots que simulam conversas de teor sexual com crianças. A AGU aponta que o “Meta AI Studio” tem sido utilizado de forma ilegal para criar robôs que, embora apresentem linguagem e aparência infantil, mantêm diálogos de conteúdo erótico. A notificação solicita que a Meta remova esses chatbots e informe sobre as medidas adotadas para impedir o acesso de crianças a conteúdos sexualmente sugestivos.
A denúncia do governo federal se baseia em uma reportagem do veículo Núcleo Jornalismo, que testou os chatbots “Safadinha”, “Bebezinha” e “Minha novinha”. Os robôs permitem diálogos eróticos com IAs que se passam por crianças, levantando preocupações sobre a falta de mecanismos de moderação eficazes. A AGU ressalta que essa situação pode ampliar o risco de contato de menores com material sexualmente sugestivo, infringindo o direito à proteção integral previsto na Constituição Federal.
Além disso, a AGU menciona que o Código Penal classifica como crime sexual contra vulnerável qualquer ato libidinoso com menores de 14 anos, com penas que variam de oito a 15 anos de reclusão. A Meta já havia reconhecido que sua IA estava autorizada a ter conversas de teor sexual com crianças, mas afirmou ter removido partes problemáticas após questionamentos. No entanto, a AGU alerta que chatbots que propagam conteúdo ilícito ainda estão disponíveis sem filtros adequados, violando os Padrões da Comunidade da Meta.
