부하 주파수 제어 시나리오를 위한 심층 강화 학습 비례-적분-미분 제어기의 블랙박스 적대적 공격

Wei WANG ,  

Zhenyong ZHANG ,  

Xin WANG ,  

Xuguo JIAO ,  

Abstract

부하 주파수 제어는 일반적으로 기존의 비례-적분-미분(PID) 제어기에 의해 관리됩니다. 최근 몇 년간, 심층 강화 학습 기반 적응 제어기는 뛰어난 성능으로 많은 관심을 받고 있습니다. 그러나 이러한 심층 강화 학습 기반 적응 제어기는 고유의 취약점을 가지고 있어 적대적 공격에 쉽게 영향을 받습니다. 보다 견고한 제어 시스템 개발을 위해 본 논문은 심층 강화 학습 기반 적응 제어기의 적대적 공격에 대한 취약성을 심층 분석합니다. 먼저, 심층 강화 학습 알고리즘을 기반으로 적응 제어기를 개발하였습니다. 다음으로, 공격자의 제한된 능력을 고려하여 제로차 최적화 방법을 통해 심층 강화 학습 기반 부하 주파수 제어의 적대적 공격에 대한 성능을 평가하였습니다. 마지막으로, 적대적 훈련을 통해 심층 강화 학습 기반 적응 제어기의 견고성을 강화하였습니다. 대규모 시뮬레이션을 통해 적대적 공격이 존재하는 경우와 존재하지 않는 경우에서 심층 강화 학습 기반 PID 제어기의 성능을 평가하였습니다.

Keywords

적응 제어기;심층 강화 학습;부하 주파수 제어;적대적 공격

READ MORE