大規模言語モデル（LLM）の金融アプリケーションへの統合は、意思決定プロセスの向上、操作の自動化、パーソナライズサービスの提供に顕著な可能性を示しています。しかし、金融システムの高リスク特性は非常に高い信頼性を要求し、現在のLLMはこれを満たすのが難しい場合が多いです。本研究では、LLMを基盤とする金融システムにおける3つの大きな信頼性課題を特定・考察します：（1）回避型プロンプト - モデル調整の脆弱性を利用して有害または違反的な応答を生成すること；（2）幻覚現象 - モデルが事実誤認の出力を生成し、金融意思決定を誤導すること；（3）バイアスと公平性問題 - LLMに内在する人口統計学的または制度的バイアスにより、個人や地域が不公正な扱いを受ける可能性があること。これらのリスクを具体的に示すために、金融関連の3つのテストを設計し、独自およびオープンソースファミリーの主要なLLMを評価しました。すべてのモデルで、各テストにおいて少なくとも一度はリスク行動が見られました。これらの発見に基づき、既存のリスク緩和策を体系的にまとめました。これらの課題の解決は、金融分野におけるAIの責任ある利用を確保するだけでなく、安全で拡張可能な展開の鍵であると考えています。

信頼できる人工知能;大規模言語モデル;金融;フィンテック