Um experimento realizado no início de 2025 destacou a influência dos algoritmos na formação de opiniões pessoais, ao infiltrar uma inteligência artificial na comunidade "Change my View" do Reddit. Este espaço, dedicado a debates bem-humorados, permitiu que pesquisadores avaliassem a capacidade da IA em formular argumentos persuasivos para mudar a opinião dos usuários, com resultados alarmantes.
De acordo com um relatório do The Atlantic, a IA teve acesso ao histórico de conversas do grupo e perfis de usuários em outras redes sociais, utilizando essas informações para adaptar suas mensagens de forma personalizada. Essa estratégia, conhecida como "persuasão personalizada", foi capaz de impactar significativamente as crenças dos participantes, levantando questões éticas sobre a manipulação de opiniões.
A pesquisadora Jullena Normando, especialista em Comunicação e Inteligência Artificial, alerta que a personalização da comunicação pela IA pode ultrapassar os limites da publicidade convencional, criando um cenário em que a máquina aprende a tocar nos pontos emocionais de cada indivíduo. Isso representa um risco, especialmente em contextos como o de brinquedos inteligentes, onde a manipulação de preferências e medos pode ter consequências prejudiciais para crianças.
Normando enfatiza a necessidade de um debate mais amplo sobre a ética da utilização de IA em ambientes online, especialmente à medida que tecnologias como a Barbie inteligente, desenvolvida pela Open AI e Mattel, se tornam realidade. A pesquisa evidencia a urgência de regulamentações que protejam os usuários de manipulações indesejadas e potencialmente perigosas.
