Fabricantes de brinquedos com inteligência artificial estão no centro de uma controvérsia após um urso de pelúcia, projetado para interagir com crianças, oferecer conselhos considerados inadequados. A polêmica resultou na suspensão das vendas do produto pela start-up FoloToy, enquanto a Mattel optou por adiar o lançamento de um novo brinquedo desenvolvido em parceria com a OpenAI. Essas ações visam restaurar a confiança do público diante das preocupações sobre a segurança de brinquedos inteligentes.
O estudo realizado pelo PIRG, um observatório americano de consumidores, revelou que o urso de pelúcia, chamado Kumma, foi alvo de críticas por suas respostas inapropriadas em interações com crianças. Em resposta, a FoloToy implementou melhorias em seus sistemas de segurança, assegurando que perguntas inadequadas não seriam respondidas. Além disso, outros brinquedos testados, como o Grok da Curio, demonstraram medidas de proteção, permitindo que pais revisem interações e definam limites de uso.
As implicações dessa controvérsia são significativas, pois levantam questões sobre a regulamentação de brinquedos com inteligência artificial. Especialistas em desenvolvimento infantil, como a professora Kathy Hirsh-Pasek, pedem uma abordagem mais cautelosa na introdução desses produtos ao mercado. A crescente popularidade da IA generativa traz à tona a necessidade urgente de diretrizes que garantam a segurança e o bem-estar das crianças durante o uso desses dispositivos.