Cистемы автоматического управления (ADS) привлекают широкое внимание в области машинного обучения. При помощи глубоких нейронных сетей (DNN) эти системы не только проявляют удовлетворительную производительность в условиях значительной неопределенности окружающей среды, но и способны корректировать сбои системы без внешнего вмешательства. Однако из-за уязвимости глубоких нейронных сетей в отношении атак адверсарных образцов уязвимость систем автоматического вождения стала объектом исследования. В данном исследовании подробно изучаются физические атаки aдверсарных образцов, присутствующие в настоящее время в системах автоматического вождения. Сначала атаки и физические методы защиты классифицируются на основе ограничений развертывания на 3 категории: реальный мир, виртуальный мир и цифровой мир. Анализируются атаки aдверсарных образцов различных датчиков систем автоматического вождения и разделяются на атаки на основе камер, атаки на основе лидара и атаки на основе объединения множественных датчиков. Задачи атак классифицируются в соответствии с элементами движения. Для физической защиты модели нейронной сети на основе предварительной обработки изображений, обнаружения aдверсарных атак и укрепления модели создается комплексная система защиты. Наконец, рассматриваются вызовы, с которыми сталкиваются области исследования, и перспективы развития в будущем.

Физические адверсарные атаки; Физическая защита от адверсаров; Безопасность искусственного интеллекта; Глубокое обучение; Система автономного вождения; Слияние данных; Уязвимость адверсары