Финансовые крупномасштабные языковые модели предоставляют огромный потенциал для финансовых приложений. Однако высокая стоимость развертывания и значительная задержка при выводе являются основными препятствиями. Важный метод сжатия - дистилляция знаний - предлагает эффективные решения этих проблем. В статье представлен всесторонний обзор взаимодействия дистилляции знаний с финансовыми крупномасштабными языковыми моделями, охватывающий три ключевых аспекта: стратегии, применение и оценку. На уровне стратегий введена структурированная классификация для сравнительного анализа существующих путей дистилляции. На уровне применения предложена логическая структура вверх по течению – средний уровень – нижний уровень, систематически объясняющая практическую ценность дистиллированных моделей в финансовой сфере. На уровне оценки для решения проблемы отсутствия стандартов в финансовой области построена комплексная оценочная система, оценивающая по нескольким измерениям, включая финансовую точность, достоверность вывода и устойчивость. В итоге, статья направлена на предоставление ясной дорожной карты для междисциплинарной области с целью ускорения развития дистиллированных крупных финансовых моделей.