Уязвимость ИИ моделей для удалённого обнаружения объектов может быть вызвана внешними атаками
Как сообщает faktom.ru, технологии дистанционного зондирования обладают высокой эффективностью, однако до сих пор не проводилось исследований, которые бы оценивали общую надёжность и уязвимость моделей, основанных на глубоких нейронных сетях, для обнаружения объектов и классификации изображений.
Учёные провели обзор существующих исследований и разработали эталонную модель для оценки детекторов глубокого обучения. Их анализ выявил потенциальные уязвимости алгоритмов, которые могут быть использованы злоумышленниками. Результаты исследования были опубликованы в Журнале дистанционного зондирования.
Исследователи выявили, что естественный шум и различные виды атак влияют на производительность модели. Они использовали «соляной» и случайный шум, а также дождь, снег и туман различной интенсивности.