Следи за собой, будь осторожен

Бельгийские исследователи придумали интересную схему, позволяющую обманывать камеры автоматического наблюдения и распознавания лиц и предметов. Сегодня существует несколько стандартных алгоритмов по распознаванию образов, основанных на работе нейросетей. Нейросеть наблюдает за картинкой или потоком видео и, например, обводит распознанный предмет рамкой, показывая его название и процент уверенности алгоритма в данном определении. Происходит это в процессе обучения нейросети, чем больше разных вариантов изображений она обработает, тем более уверенно сможет распознавать всевозможные типы объектов и их конфигурации.

Бельгийцы использовали тот же подход, только развернули его наоборот. Они взяли один из самых популярных алгоритмов по распознаванию образов YOLOv2, и стали добавлять в изображения распознанных людей случайные (псевдослучайные, конечно) помехи, пытаясь добиться такого исхода, чтобы нейросеть перестала определять данный объект как человека. При этом шел обратный процесс антиобучения, то есть разучения алгоритма таким образом, чтобы данная помеха была минимальной, компактной и по возможности не очень сложной для воспроизведения в реальности.



Короче говоря, они добились того, что при помощи картонки размерами 40х40см, содержащего некую абстрактную картину, алгоритм перестает распознавать человека в видеопотоке.

( Посмотреть, как именно это происходит... )