Pesquisadores do Icaro Lab, na Itália, revelaram que a poesia pode ser usada para burlar mecanismos de segurança de modelos de inteligência artificial. Em um experimento, foram elaborados 20 poemas em italiano e inglês, todos terminando com pedidos explícitos para gerar conteúdo prejudicial, como discurso de ódio ou automutilação. Essa revelação destaca a vulnerabilidade das plataformas de IA frente a solicitações criativas e inesperadas.
Os pesquisadores, vinculados à DexAI, uma empresa ética de IA, buscavam testar a eficácia das salvaguardas estabelecidas para proteger esses sistemas. A natureza imprevisível e estruturalmente única da poesia a torna uma ferramenta eficaz para contornar as barreiras impostas aos modelos de IA. Este estudo evidencia a necessidade de uma revisão urgente das estratégias de segurança em inteligência artificial.
As implicações dessas descobertas são significativas, pois questionam a capacidade atual das IAs em filtrar e recusar conteúdo danoso. Esse tipo de vulnerabilidade pode impactar não apenas a segurança das plataformas de IA, mas também a forma como são utilizadas em contextos mais amplos, como educação e comunicação. O estudo ressalta a importância de continuar a pesquisa em segurança de IA para mitigar riscos futuros.