近年、大規模事前学習モデルはさまざまなタスクでその優位性を示している。しかし、膨大な計算量と大きなストレージ要求により、大規模事前学習モデルは実環境での展開が困難である。既存の主流な知識蒸留手法は教師モデルと学生モデルが同一のラベル空間を共有することを要求しており、これが事前学習モデルの実環境での応用を制限している。異なるラベル空間の制約を緩和するために、本稿ではプロトタイプガイド型クロスタスク知識蒸留（ProC-KD）手法を提案し、教師ネットワークの本質的な物体表現知識をさまざまな下流タスクシナリオに移転することを目的とする。まず、クロスタスクシナリオにおける一般化知識をより良く学習するために、教師ネットワークから物体の不変本質表現を学習するプロトタイプ学習モジュールを提案する。次に、多様な下流タスクに対して、習得した一般化プロトタイプ表現を用いて学生ネットワークの特徴を強化し、学生ネットワークの学習を誘導してその一般化能力を向上させるタスク適応特徴強化モジュールを提案する。異なる視覚タスクでの実験により、本手法がクロスタスク知識蒸留シナリオにおいて有効であることを検証した。

知識蒸留;クロスタスク;プロトタイプ学習