Adaptive Meta-Verstärkendes Lernen basierte Methode für dynamischen maritimen Spektrumzugang und Dienstplanung

Zhongyang MAO ,  

Jiahuan GENG ,  

Faping LU ,  

Wenbiao TIAN ,  

Jiafang KANG ,  

Yaozong PAN ,  

Abstract

Mit dem rasanten Anstieg der maritimen Wirtschaftsaktivitäten wächst der Bedarf an maritimer Kommunikation explosionsartig, wobei Probleme wie begrenzte Spektrumsressourcen, hochdynamische Spektrumumgebungen und vielfältige Dienstanforderungen immer deutlicher werden. Traditionelle Deep-Reinforcement-Learning-Methoden zeigen in spezifischen Trainingsszenarien gute Leistungen, lassen sich jedoch nur schwer auf unbekannte Netzwerkumgebungen verallgemeinern. Zur Lösung dieses Problems untersucht dieser Beitrag eine adaptive meta-basierte Reinforcement-Learning-Technik für den dynamischen maritimen Spektrumzugang und die Dienstplanung. Zunächst wird ein Kanalbelegungsmodell aufgebaut, das markovsche Frequenzsprung- und Spreizfrequenzsprungmodi umfasst und in Kombination mit einem Doppelwarteschlangen-Mechanismus für dringende und normale Datenpakete das Multiagenten-Kooperationsentscheidungsproblem als dezentralisierten teilweise beobachtbaren Markov-Entscheidungsprozess modelliert. Anschließend wird zur Überwindung der schwachen Generalisierungsfähigkeit herkömmlicher Deep-Reinforcement-Learning-Algorithmen ein spektrumszugangs- und dienstplanungsalgorithmus auf Basis eines Meta-Lernparadigmas vorgeschlagen, der durch Meta-Training auf multiaufgaben-verteilten Daten eine schnelle Strategieübertragung ermöglicht. Darüber hinaus wird zur Lösung des Anpassungseffizienz-Flaschenhalses durch eine feste Lernratensteuerung im inneren Lernzyklus ein adaptiver meta-verstärkender Lernalgorithmus entwickelt, der die Lernrate dynamisch über ein Task-Encoding-Modul anpasst und die Konvergenzgeschwindigkeit bei Aufgaben unterschiedlicher Komplexität ausbalanciert. Simulationsergebnisse zeigen, dass der vorgeschlagene Algorithmus in unbekannten Umgebungen bezüglich durchschnittlicher Belohnung, Erfolgsrate für dringende Pakete und Konvergenzgeschwindigkeit den Basisalgorithmus übertrifft und damit die Überlegenheit der Methode in komplexen maritimen Umgebungen effektiv bestätigt. Diese Studie bietet eine effektive Lösung für die schnelle Anpassung maritimer drahtloser Kommunikationssysteme an unbekannte Szenarien durch intelligenten Spektrumzugang und Dienstplanung.

Keywords

dynamischer Spektrumzugang; adaptives meta-verstärkendes Lernen; Dienstplanung; maritime Kommunikation

READ MORE

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website