A integração de grandes modelos de linguagem (LLM) em aplicações financeiras demonstra um potencial significativo para melhorar processos de decisão, automatizar operações e fornecer serviços personalizados. No entanto, as características de alto risco dos sistemas financeiros exigem uma confiabilidade extremamente elevada, que os LLM atuais frequentemente não conseguem atender. Este estudo identifica e aborda três grandes desafios de confiabilidade em sistemas financeiros baseados em LLM: (1) prompts de evasão — exploração de vulnerabilidades de alinhamento do modelo para gerar respostas prejudiciais ou não conformes; (2) alucinações — produção de saídas factualmente incorretas que enganam decisões financeiras; (3) viés e questões de equidade — vieses demográficos ou institucionais incorporados nos LLM que podem levar a tratamento injusto de indivíduos ou regiões. Para apresentar concretamente esses riscos, projetamos três testes relacionados a finanças e avaliamos os principais LLM proprietários e de código aberto. Em todos os modelos, houve pelo menos um comportamento de risco em cada teste. Com base nessas descobertas, resumimos sistematicamente as estratégias de mitigação existentes. Acreditamos que resolver esses problemas é fundamental não apenas para garantir o uso responsável da IA no setor financeiro, mas também é a chave para uma implantação segura e escalável.

inteligência artificial confiável;grandes modelos de linguagem;finanças;fintech