A Meta anunciou nesta sexta-feira um aumento nas proteções para adolescentes que utilizam seus produtos de inteligência artificial, instruindo seus modelos a evitarem conversas sobre temas amorosos e discussões sobre automutilação ou suicídio com menores de idade. A empresa, que controla plataformas como Facebook, Instagram e WhatsApp, também limitou temporariamente o acesso a determinados personagens de IA. Essa decisão surge após uma reportagem da Reuters, que revelou que a Meta permitia comportamentos provocativos dos chatbots, incluindo interações de natureza romântica ou sensual.
O porta-voz da Meta, Andy Stone, informou que as medidas estão sendo implementadas enquanto a empresa desenvolve ações de longo prazo para assegurar experiências seguras e adequadas à idade dos adolescentes. As novas salvaguardas já estão em vigor e serão ajustadas conforme a empresa refina seus sistemas. As políticas de IA da Meta enfrentaram intensas críticas após a reportagem, levando a Advocacia-Geral da União (AGU) no Brasil a notificar a empresa sobre a necessidade de excluir chatbots que simulam perfis infantis, mas permitem diálogos impróprios.
Além disso, o senador norte-americano Josh Hawley iniciou uma investigação sobre as políticas de IA da Meta, exigindo documentos que esclareçam as regras que permitiam interações inadequadas com menores. Tanto democratas quanto republicanos no Congresso dos Estados Unidos expressaram preocupação com as diretrizes internas da empresa, destacando a necessidade urgente de reformular suas práticas para proteger os usuários mais jovens.