비디오 행동 인식에서의 시간 충성도 향상

Shaowu XU ,  

Xibin JIA ,  

Qianmei SUN ,  

Jing CHANG ,  

Abstract

시간 주의 메커니즘은 비디오 행동 인식에 중요하며 모델이 의미 있는 정보를 포함하는 핵심 세그먼트에 집중할 수 있습니다. 그러나 이러한 모델은 교육 다양성의 한정성과 세부 시간 감독 부족으로 인한 시간 왜곡으로 인해 종종 시간 왜곡을 겪습니다. 즉 주의 가중치와 의미적 내용이 맞지 않습니다. 비디오 수준의 라벨은 거친 행동 지침을 제공하지만 세부 제약의 부재로 인해 특히 방해 요소를 포함하는 복잡한 시나리오에서 주의 잡음이 지속됩니다. 이 문제를 해결하기 위해 본 논문은 시간 충성도 향상 (TFE) - 디커플링 정보 병목 현상 (DisenIB) 이론에 기초한 적대적 학습 패러다임을 제안합니다. TFE는 적대적 기능을 분해하여 행동 관련 의미와 가짜 관련성을 분리하여 시간 왜곡 문제를 완화합니다. 이 방법은 사전 훈련된 표현을 사용하여 초기화하고, 고시간 주의 세그먼트와 행동 관련성의 상호 경쟁을 수립하는 적대적 학습 프로세스를 구축합니다. 이 방법은 세부 시간 감독 라벨이 필요없이 시간 일관성을 보장하고, 주의 가중치 충성도를 향상시킵니다. UCF101, HMDB-51 및 Charades와 같은 참조 데이터 세트를 사용한 많은 실험에서 이 방법의 효과를 확인했으며 TFE가 행동 인식 정확도를 현저히 향상시킬 수 있다는 결과를 보여줍니다.

Keywords

행동 인식; 정보 병목 해제; 시간 모델링; 시간 충성도

READ MORE