Ученые университета Южной Калифорнии опубликовали исследование об ошибках искусственного интеллекта при распознавании дипфейков

Исследование особенно актуально на фоне роста рынка систем обнаружения видео deepfake. Так, компания Sensity из Нидерландов (ранее Deeptrace Labs) предлагает набор продуктов для классификации дипфейков, загруженных в социальных сетях, на платформах видеохостинга. Разработчик Dessa предложил методы улучшения решения для распознаваний deepfakes, обученных на наборах данных с видеоизображений. Truepic привлекла раунд финансирования в размере 8 млн долларов в июле 2018 года для своих услуг по обнаружению видео и фотографий deepfake. В декабре 2018 года компания приобрела еще один стартап, Fourandsix. Решение компании было лицензировано DARPA (Управление перспективных исследовательских проектов министерства обороны США), сообщает venturebeat.com.

По мнению исследователей из Университета Южной Калифорнии, некоторые наборы данных, используемые для обучения систем обнаружения deepfakes , недостаточны для точного распознавания людей, на пример, с очень смуглой кожей. В реальном сценарии лицевые профили женщин-азиаток или женщин-африканок в 1,5-3 раза чаще ошибочно помечаются как поддельные. Авторы исследования отмечают также, что  некоторые системы показывают разницу в частоте ошибок до 10,7% в зависимости от расовой группы.

При этом были изучены три модели обнаружения deepfake с «доказанным успехом в обнаружении поддельного видео». Все они были обучены набору данных FaceForensics++, который обычно используется для детекторов deepfake, а также Google DeepfakeDetection, CelebDF и DeeperForensics-1.0. Во время теста исследователи обнаружили, что все системы хуже всего работают на видео с более смуглыми лицами, особенно с лицами чернокожих мужчин.

Полученные результаты доказывают, что даже признанные и уже внедренные системы искусственного интеллекта не безупречны. Во время эксперимента только один детектор deepfake продемонстрировал точность 90,1% в тестовом наборе данных.

По мнению авторов исследования, прежде чем развертывать системы обнаружения deepfakes, нужно изучить социальные аспекты и последствия внедрения искусственного интеллекта.  
 

Фото — fikirce.com