A Meta Platforms Inc. anunciou que, nas próximas semanas, adolescentes não poderão mais acessar personagens de inteligência artificial em suas plataformas, incluindo Instagram e WhatsApp. A decisão, comunicada em um post no blog da empresa, visa preparar uma nova experiência para os usuários. A restrição se aplica a todos os que informaram à Meta terem menos de idade, além de possíveis usuários que, embora afirmem ser adultos, são suspeitos de serem adolescentes segundo a tecnologia de previsão de idade da Meta.
A medida ocorre em um contexto de crescente preocupação sobre o impacto das interações com inteligência artificial nas crianças. Na próxima semana, a Meta, juntamente com outras plataformas como TikTok e YouTube, enfrentará uma audiência em Los Angeles, onde será discutido o potencial dano de seus aplicativos à saúde mental dos jovens. Embora os adolescentes não possam acessar os personagens de IA, eles ainda terão acesso ao assistente de IA da Meta, o que pode levantar novas questões sobre a segurança e a ética em relação ao uso dessas tecnologias por menores.
Outras empresas também têm seguido caminhos semelhantes, restringindo o acesso de adolescentes a chatbots de IA. Um exemplo é a Personagem.A.I., que já implementou proibições semelhantes devido a preocupações com a segurança infantil. A situação se torna ainda mais crítica com processos legais em andamento, incluindo um caso envolvendo a mãe de um adolescente que alegou que interações com chatbots contribuíram para uma tragédia envolvendo seu filho.