Разработчики израильского стартапа научили нейросеть обманывать систему распознавания лиц

Созданный специалистами компании Adversa алгоритм вводит в заблуждение систему распознавания лиц, заставляя ее идентифицировать на фотоизображении  другого человека.
На сайт компании представлена демоверсия продукта. На презентации фото журналиста превращается с помощью алгоритма в фото основателя Facebook Марка Цукерберга. Нейросеть «обучена обману» благодаря интернет-ресурсу Pimeyes, на поисковике фото по лицам.

Эксперты отмечают, что нейросеть можно использовать как для сохранения приватности в сети. Однако злоумышленники могут воспользоваться алгоритмом в криминальных целях. Например, использовать его для обмана систем верификации пользователей по фото, чтобы выдать себя за кого-то другого.

Напомним, ученые Чикагского университета также разработали схожую программу Fawkes, позволяющую защитить фото пользователей сети от автоматизированного распознавания лиц. Она меняет некоторые пиксели на фотоизображении, чтобы повлиять на работу алгоритмов, которые превращают изображение лица в набор чисел. Измененные таким образом фото можно публиковать в интернете и не бояться, что алгоритмы смогут распознать того или иного пользователя.