Nos últimos meses, empresas de diversos setores enfrentaram desafios com os chamados “erros de alucinação” em sistemas de inteligência artificial (IA). Esses erros ocorrem quando a IA gera informações incorretas ou irreais, podendo comprometer decisões e aumentar riscos operacionais. Para abordar esse problema, uma startup desenvolveu uma ferramenta chamada Prisma, que monitora e antecipa possíveis desvios nos sistemas, ajudando a aumentar a confiabilidade das soluções de IA no ambiente corporativo.
A Prisma analisa fatores como tom de entrada e clareza das interações, identificando os elementos que podem levar a respostas inconsistentes. A ferramenta demonstrou ser útil em setores regulamentados, como finanças e saúde, onde a precisão das informações é crítica. Um exemplo é o caso de uma empresa que utilizava uma IA interna para interpretar documentos, mas enfrentava uma taxa de alucinação de 14%, o que foi reduzido após ajustes com base nos dados fornecidos pela solução da startup.
A proposta é relevante em um cenário onde empresas globais têm enfrentado consequências legais devido ao desempenho inesperado de seus sistemas de IA. A startup acredita que o gerenciamento de riscos e o monitoramento contínuo são essenciais para garantir que tecnologias avançadas entreguem resultados consistentes e livres de erros, especialmente em mercados dinâmicos e regulamentados. A empresa, que já alcançou o breakeven, planeja expandir suas operações e captar novos investimentos em 2025.
