/ /

Ученые университета Южной Калифорнии опубликовали исследование об ошибках искусственного интеллекта при распознавании дипфейков

Ученые университета Южной Калифорнии опубликовали исследование об ошибках искусственного интеллекта при распознавании дипфейков

download PDF
07 мая 2021, 14:29    2752
Ученые университета Южной Калифорнии опубликовали исследование об ошибках искусственного интеллекта при распознавании дипфейков

Исследование особенно актуально на фоне роста рынка систем обнаружения видео deepfake. Так, компания Sensity из Нидерландов (ранее Deeptrace Labs) предлагает набор продуктов для классификации дипфейков, загруженных в социальных сетях, на платформах видеохостинга. Разработчик Dessa предложил методы улучшения решения для распознаваний deepfakes, обученных на наборах данных с видеоизображений. Truepic привлекла раунд финансирования в размере 8 млн долларов в июле 2018 года для своих услуг по обнаружению видео и фотографий deepfake. В декабре 2018 года компания приобрела еще один стартап, Fourandsix. Решение компании было лицензировано DARPA (Управление перспективных исследовательских проектов министерства обороны США), сообщает venturebeat.com.

По мнению исследователей из Университета Южной Калифорнии, некоторые наборы данных, используемые для обучения систем обнаружения deepfakes , недостаточны для точного распознавания людей, на пример, с очень смуглой кожей. В реальном сценарии лицевые профили женщин-азиаток или женщин-африканок в 1,5-3 раза чаще ошибочно помечаются как поддельные. Авторы исследования отмечают также, что  некоторые системы показывают разницу в частоте ошибок до 10,7% в зависимости от расовой группы.

При этом были изучены три модели обнаружения deepfake с «доказанным успехом в обнаружении поддельного видео». Все они были обучены набору данных FaceForensics++, который обычно используется для детекторов deepfake, а также Google DeepfakeDetection, CelebDF и DeeperForensics-1.0. Во время теста исследователи обнаружили, что все системы хуже всего работают на видео с более смуглыми лицами, особенно с лицами чернокожих мужчин.

Полученные результаты доказывают, что даже признанные и уже внедренные системы искусственного интеллекта не безупречны. Во время эксперимента только один детектор deepfake продемонстрировал точность 90,1% в тестовом наборе данных.

По мнению авторов исследования, прежде чем развертывать системы обнаружения deepfakes, нужно изучить социальные аспекты и последствия внедрения искусственного интеллекта.  
 

Фото — fikirce.com

Свежее


Подобрать оборудование

Yandex.Дзен

Подписывайтесь на канал ru-bezh.ru
в Яндекс.Дзен

Вы должны авторизоваться, чтобы написать комментарий


    Яндекс.Директ

    RUБЕЖ в facebook RUБЕЖ в vk RUБЕЖ в twitter RUБЕЖ на youtube RUБЕЖ в google+ RUБЕЖ в instagram RUБЕЖ-RSS

    Контакты

    Адрес: 121471, г. Москва, Фрунзенская набережная, д. 50, пом. IIIа, комн.1

    Тел./ф.: , +7 (495) 539-30-20

    Время работы:

    E-mail: info@ru-bezh.ru

    E-mail: help@ru-bezh.ru - по техническим вопросам


    Свидетельство о регистрации ФС77-78638 от 10 июля 2020г

    выдано Федеральной службой по надзору в сфере связи,

    информационных технологий и массовых коммуникаций.

    Для рекламодателей

    E-mail: reklama@ru-bezh.ru

    тел.: +7 (495) 539-30-20 (доб. 103)

    total time: 0.6578 s
    queries: 269 (0.2897 s)
    memory: 4 096 kb
    source: database
    Выделите опечатку и нажмите Ctrl + Enter, чтобы отправить сообщение.