지식 임베딩 기반 메타 강화 학습 접근법을 활용한 해상 무선 통신 네트워크의 동적 공동 자원 할당

Zhongyang MAO ,  

Zhilin ZHANG ,  

Faping LU ,  

Xiguo LIU ,  

Zhichao XU ,  

Yaozong PAN ,  

Jiafang KANG ,  

Yang YOU ,  

Abstract

인간의 해양 탐사가 확대됨에 따라 지속적이고 고품질의 전 지역 해상 통신에 대한 수요가 꾸준히 증가하고 있습니다. 그러나 해양 환경의 동적 특성과 자원 제약은 전통적인 휴리스틱 자원 할당 방법에 상당한 도전을 제기하며, 고품질 통신과 제한된 네트워크 자원 간의 균형을 복잡하게 만듭니다. 이로 인해 시스템 처리량이 최적 이하로 떨어지고 특정 문제 구조에 과도하게 의존하게 됩니다. 이러한 문제를 해결하기 위해 본 논문에서는 지식 임베딩 기반 공동 자원 할당 방법을 제안합니다. 제안된 접근법은 비합리적인 행동-출력 조합을 방지하여 자원 활용도를 향상시키는 행동 분포 정렬 모듈을 포함합니다. 또한 지식 임베딩을 메타 강화 학습 기법과 통합함으로써, 모델 학습에 필요한 샘플 수를 효과적으로 줄이고 알고리즘의 일반화 능력을 향상시키는 물리적 가이드 손실 함수를 공식화하였습니다. 시뮬레이션 결과, 제안된 방법은 모델에 무관한 메타 학습 근접 정책 최적화(MAML-PPO) 알고리즘 대비 평균 시스템 처리량이 31.19% 증가하였고, RL2 알고리즘 대비 80.91% 증가함을 다양한 채널 환경에서 보여주었습니다.

Keywords

해상 무선 통신;자원 할당;지식 임베딩;메타 강화 학습

READ MORE