大言語モデル（LLM）は、機械翻訳などの自然言語処理タスクで優れた能力を発揮しています。しかし、大言語モデルの巨大なパラメータ規模は推論プロセスにおいて著しい計算コストをもたらします。以前の研究では、翻訳データ上で中規模のモデルを微調整し、翻訳に特化した大言語モデルを訓練する試みがなされました。しかし、微調整データセットに含まれないゼロショット翻訳方向を処理する際、モデルはしばしば命令を無視して内容を間違った目標言語に翻訳するなど、翻訳偏差を目標言語に従う能力の低下が問題となります。そこで本論文では、翻訳に特化した大言語モデルの命令に従う能力、特に翻訳方向の正確性を向上させるための二段階の微調整アルゴリズムを提案します。まず、翻訳データセット上でモデルを微調整し、基本的な翻訳能力を引き出します。第二段階では、命令をランダムに誤った命令に置き換えて、命令の衝突サンプルを構築します。その後、追加の非類似損失を導入して、モデルがこれらのサンプルに割り当てる確率を低減します。ゼロショット翻訳方向に対し、LLaMA 2およびLLaMA 3モデルを2つのベースラインデータセットで実験した結果、強いベースライン（翻訳データ微調整の大モデルLLaMA）と比較して、本論文の方法は、翻訳を目標言語に従わない割合を著しく低減させることができ、これにより翻訳の品質を向上させることができます（最大62.4%の低減が可能です）。双方向評価代替指標最大9.7%向上可能）。分析結果本論文の方法は、他のタスク（例えば、監督翻訳および一般タスク）でも優れたパフォーマンスを維持できます。コードは以下のウェブサイトで入手できます：https://github.com/alphadl/LanguageAware_Tuning。

ゼロショット機械翻訳、脱的問題、大言語モデル、言語感知命令微調整、命令衝突サンプル