대형 언어 모델 (LLM)은 기계 번역과 같은 자연 언어 처리 작업에서 우수한 능력을 나타냅니다. 그러나 대형 언어 모델의 거대한 매개변수 규모는 추론 과정에서 상당한 계산 비용을 야기시킵니다. 이전 연구에서는 번역 데이터에서 중간 규모 모델을 재조정하여 번역에 특화된 대형 언어 모델을 교육하는 시도를 하였습니다. 그러나 재조정 데이터 집합에 포함되지 않은 영점 번역 방향을 처리할 때, 모델은 종종 명령을 무시하고 내용을 잘못된 대상 언어로 번역하는 등 번역 오류가 발생하는 번역 길을 따르지 않을 수 있는 문제가 발생합니다. 따라서 본 논문에서는 번역에 특화된 대형 언어 모델의 명령 따르기 능력, 특히 번역 방향의 정확성을 향상시키기 위해 두 단계의 재조정 알고리즘을 제안합니다. 먼저 번역 데이터 집합에서 모델을 재조정하여 기본 번역 능력을 유도합니다. 두 번째 단계에서는 명령을 임의로 잘못된 명령으로 교체하여 명령 충돌 샘플을 구축합니다. 그런 다음 추가 비유사 손실을 도입하여 모델이 이러한 샘플에 할당하는 확률을 줄입니다. 16개의 영점 번역 방향에 대해 LLaMA 2 및 LLaMA 3 모델을 두 개의 기준 데이터 집합에서 실험한 결과, 강한 기준 (번역 데이터 재조정 큰 모델 LLaMA)과 비교하여 이 방법은 번역 대상 언어를 따라가지 않는 비율을 유의하게 줄일 수 있어서 번역 품질을 향상시킬 수 있습니다 (최대 62.4% 저지를 낮출 수 있습니다) 어느 경우에도 (양방향 평가 대체 지표 최대 9.7% 향상 가능). 분석 결과 이 방법은 다른 작업 (예: 지도 번역 및 일반 작업)에서 우수한 성능을 유지할 수 있습니다. 코드는 다음 주소에서 얻을 수 있습니다: https://github.com/alphadl/LanguageAware_Tuning.

영점 기계 번역; 빗질 문제; 대형 언어 모델; 언어 인식 명령 재조정; 명령 충돌 샘플