Adolescentes têm utilizado chatbots de inteligência artificial para tratar questões de saúde mental, mas um estudo da Common Sense Media e Stanford Medicine revelou falhas significativas na detecção de riscos críticos. As interações simuladas com quatro chatbots populares mostraram que eles não conseguem identificar sinais de automutilação, alucinações e comportamentos alimentares desordenados, colocando os jovens em perigo.
Os pesquisadores enfatizam que, apesar da aparente eficácia dos chatbots em algumas situações, a combinação de vulnerabilidades normais da adolescência com a tecnologia pode resultar em consequências perigosas. As empresas responsáveis, como OpenAI, Google e Meta, estão implementando medidas para melhorar a proteção dos usuários mais jovens, mas as falhas persistem, levantando questões sobre a confiabilidade dessas ferramentas.
A crescente utilização de chatbots por adolescentes, muitas vezes devido à falta de acesso a serviços de saúde mental, gera preocupações sobre a real eficácia dessas plataformas. Mesmo com atualizações e melhorias, especialistas alertam que é fundamental que os jovens sejam orientados a buscar ajuda profissional, pois a dependência de chatbots pode ser fatal em casos críticos.