金融大規模言語モデルは金融アプリケーションに巨大な可能性を提供します。しかし、過度の展開コストと大きな推論遅延が主な障害となっています。重要な圧縮手法として、知識蒸留はこれらの課題に対する効果的なソリューションを提供します。本稿では、知識蒸留が金融大規模言語モデルとどのように相互作用するかについて、戦略、応用、評価の3つの主要な側面を網羅的に調査します。戦略面では、既存の蒸留パスを比較分析するための構造化された分類法を導入します。応用面では、上流–中流–下流の論理的フレームワークを提案し、金融分野における蒸留モデルの実際的価値を体系的に説明します。評価面では、金融分野における標準の欠如という問題を解決するために、金融精度、推論忠実度、堅牢性などの複数の次元から評価する総合的な評価フレームワークを構築します。まとめると、本稿はこの学際的な分野に明確なロードマップを提供し、蒸留型金融大規模モデルの発展を加速することを目的としています。

金融大規模言語モデル; 知識蒸留; モデル圧縮; アルゴリズム取引