Méthode d'accès dynamique au spectre maritime et de planification des services basée sur un apprentissage par renforcement méta-adaptatif

Zhongyang MAO ,  

Jiahuan GENG ,  

Faping LU ,  

Wenbiao TIAN ,  

Jiafang KANG ,  

Yaozong PAN ,  

Abstract

Avec l'augmentation exponentielle des activités économiques maritimes, la demande en communication maritime connaît une croissance explosive, mettant en lumière les problèmes des ressources spectrales limitées, de l'environnement spectral hautement dynamique et des besoins diversifiés en services. Les méthodes traditionnelles d'apprentissage par renforcement profond performent bien dans des scénarios d'entraînement spécifiques, mais ont du mal à se généraliser à des environnements réseau inconnus. Cet article étudie une technique d'accès dynamique au spectre maritime et de planification des services basée sur un apprentissage par renforcement méta-adaptatif. Tout d'abord, un modèle d'occupation des canaux couvrant les modes de saut markovien et de saut étalé est construit, combiné avec un mécanisme à double file d'attente pour les paquets urgents et ordinaires, modélisant le problème de décision collaborative multi-agent en un processus de décision markovien partiellement observable décentralisé. Ensuite, pour pallier la faible capacité de généralisation des algorithmes traditionnels d'apprentissage par renforcement profond, un algorithme d'accès au spectre et de planification des services basé sur le paradigme d'apprentissage méta est proposé, permettant un transfert rapide des stratégies via un méta-entraînement sur une distribution multitâche. En outre, pour résoudre le goulot d'étranglement en termes d'efficacité d'adaptation dû à un taux d'apprentissage fixe dans la boucle interne, un algorithme d'apprentissage par renforcement méta-adaptatif est conçu, ajustant dynamiquement le taux d'apprentissage via un module de codage de tâches, équilibrant la vitesse de convergence selon la complexité des tâches. Les résultats de simulation montrent que l'algorithme proposé surpasse les algorithmes de base sur les critères de récompense moyenne, de taux de réussite des paquets urgents et de vitesse de convergence dans des environnements inconnus, validant efficacement la supériorité de cette méthode dans des environnements maritimes complexes. Cette étude offre une solution efficace pour l'adaptation rapide des systèmes de communication sans fil maritimes aux scénarios inconnus via un accès intelligent au spectre et une planification des services.

Keywords

accès dynamique au spectre; apprentissage par renforcement méta-adaptatif; planification des services; communication maritime

READ MORE

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website