Um erro de inteligência artificial do Instagram gerou polêmica ao associar indevidamente a banda americana Dutch Interior a grupos de supremacia branca. A falha, revelada em 3 de julho por um dos integrantes da banda, ocorreu quando a funcionalidade Meta AI sugeriu uma 'polêmica' relacionada ao grupo em um vídeo que acumulou mais de 90 mil visualizações. A Meta, empresa proprietária do Instagram, admitiu o erro e afirmou que a situação foi corrigida.
O músico destacou que a IA não apenas fez uma associação falsa, mas também incorretamente identificou a nacionalidade da banda, chamando-a de holandesa. Apesar das alegações de que suas músicas foram removidas de serviços de streaming e que o grupo consideraria mudar de nome devido à desinformação, a banda permanece ativa nas plataformas de música e não alterou sua identidade.
Em resposta à situação, a Meta pediu desculpas e explicou que, como qualquer sistema de IA generativa, pode apresentar falhas. A empresa se comprometeu a aprimorar seus modelos com base no feedback dos usuários, mas não esclareceu quais critérios são utilizados para exibir esse tipo de conteúdo. O incidente levanta preocupações sobre a disseminação de desinformação por meio de algoritmos de inteligência artificial nas redes sociais.
