Destilación del conocimiento en grandes modelos de lenguaje financiero: una revisión sistemática de estrategias, aplicaciones y evaluaciones

Jiaqi SHI ,  

Xulong ZHANG ,  

Xiaoyang QU ,  

Junfei XIE ,  

Jianzong WANG ,  

Abstract

Los grandes modelos de lenguaje financiero ofrecen un enorme potencial para las aplicaciones financieras. Sin embargo, los altos costos de implementación y la gran latencia de inferencia constituyen obstáculos principales. Como un método importante de compresión, la destilación del conocimiento ofrece soluciones efectivas para estos desafíos. Este artículo realiza una investigación exhaustiva sobre cómo interactúa la destilación del conocimiento con los grandes modelos de lenguaje financiero, abarcando tres aspectos centrales: estrategia, aplicación y evaluación. A nivel estratégico, se introduce una taxonomía estructurada para comparar y analizar las rutas de destilación existentes. A nivel de aplicación, se propone un marco lógico ascendente—medio—descendente para explicar sistemáticamente el valor práctico de los modelos destilados en el ámbito financiero. A nivel de evaluación, para resolver la falta de estándares en el campo financiero, se construye un marco de evaluación integral que evalúa múltiples dimensiones como la precisión financiera, la fidelidad del razonamiento y la robustez. En resumen, este artículo tiene como objetivo proporcionar una hoja de ruta clara para este campo interdisciplinario con el fin de acelerar el desarrollo de modelos financieros grandes basados en la destilación.

Keywords

Grandes modelos de lenguaje financiero; destilación del conocimiento; compresión de modelos; trading cuantitativo

READ MORE