Искусственный интеллект станет национальным приоритетом

Объем российского рынка искусственного интеллекта (ИИ) в 2023 году достиг почти 650 млрд руб., это примерно на 18% больше, чем годом ранее. Согласно опросу Университета Иннополис (август 2023 года), 74% предприятий намерены повысить продуктивность с помощью внедрения ИИ, 57% применят его для оптимизации расходов, а более трети рассчитывают снизить риски, увеличить продажи, а также улучшить клиентский сервис. По данным другого исследования – компаний «Яков и партнеры» и Яндекс – эффект от внедрения ИИ к 2028 году может достичь 4,2-6,9 трлн рублей. Если этому не помешают риски, связанные с внедрением ИИ.

Текст подготовлен при поддержке компании «Синезис» и по материалам секции «Искусственный интеллект: вызовы и возможности» форума «Технологии Безопасности-2024» ( 13 февраля 2024 года, Москва, КРОКУС-ЭКСПО)

Интегрированность в реальную экономику

В феврале 2024 года Владимир Путин подписал указ, обновляющий Национальную стратегию развития искусственного интеллекта на период до 2030 года. Список изменений занимает 40 страниц. В течение 2024 года государство направит на развитие искусственного интеллекта (ИИ) 5,2 млрд рублей.

Идеологию трека определяет Федеральный проект «Искусственный интеллект» – основной инструмент реализации Национальной стратегии развития искусственного интеллекта на период до 2030 года, утвержденный указом Президента Российской Федерации от 10.10.2019 № 490. Новый этап приходится на 2024 год и предполагает переход к фазе активного внедрения проектов с использованием технологий ИИ в экономические и хозяйственные процессы. Всего к 2030 году в развитие данного направления направят 145,85 млрд руб. В том числе федеральный бюджет вложит 33,3 млрд руб., внебюджетные источники составят 112,6 млрд руб., включая Сбербанк — 99,73 млрд руб. и РФПИ (Российский фонд прямых инвестиций) — 5,6 млрд руб.

Согласно «дорожной карте», утвержденной Минэкономразвития, внедрение ИИ-технологий в России пойдет по четырем направлениям: «обработка естественного языка и синтез речи», «компьютерное зрение», «перспективные методы искусственного интеллекта» и «интеллектуальная поддержка принятия решений».

Тренды применения искусственного интеллекта в 2024 году

Новое поколение алгоритмов машинного обучения. Достижения в сфере генеративного искусственного интеллекта, того же OpenAI, тут же переходят в видеоаналитику. ChatGPT, YandexGPT, GigaChat сделаны на базе архитектуры трансформеров — то же самое появляется в сфере видеоаналитики. Таким образом, алгоритмы, используемые в этой сфере, становятся умнее, это повышает точность распознавания.

Директор по развитию компании «Синезис» Сергей Миронов

Ранее в нашей системе видеоаналитики использовались классические сверхточные сети, а сейчас мы внедряем трансформеры (модель машинного обучения), и они дают более высокую точность при распознавании событий или сценариев, к примеру при появлении людей на рельсовом пространстве, в туннелях или закрытом периметре. Задачу обнаружения оружия мы также решаем с помощью продвинутых нейронных сетей. Эти задачи решались нами и ранее, но с появлением нового типа архитектуры ИИ выходит на новый уровень.

Консолидация систем видеонаблюдения на национальном уровне. О подобных системах задумываются в Узбекистане и Азербайджане, в Казахстане и Беларуси. Речь о консолидации видеопотоков и видеоаналитики со всех городов и населенных пунктов в едином дата-центре. Анализ данных во входящем потоке, поиск по архиву, подготовка управленческих решений – в новом формате такие задачи будут просто невозможны без привлечения ИИ как надстройки над классической видеоаналитикой. Нейронные сети нового поколения открывают новый класс задач на производстве и в транспортной безопасности. Они дают возможность распознавать очень сложные ситуации. Например, классическая задача оставленного предмета может быть пересмотрена и решена на другом уровне уже с анализом контекста, с пониманием, что делают окружающие люди, что происходит с этим оставленным предметом. То же самое можно внести и на производство, в инфраструктуру и т.д.

Директор по развитию компании «Синезис» Сергей Миронов:

Специализированные алгоритмы делают процесс обучения нейронных сетей быстрее. Можно использовать нейронные сети даже для событий, которые происходят редко. Для этого используются синтетические дата-сеты. Для успешного обучения нейронной сети нужно большое количество примеров. Но в реальной жизни, если речь идет про какой-то инцидент, например появление вооруженного человека или падение человека, таких примеров мало. Поэтому мы используем генеративные сети, которые синтезируют картинки и видео с необходимыми для обучения сетей нештатными ситуациями. Также с помощью машинного обучения ведется аугментация этих данных. Предположим, у нас было несколько примеров с падением людей на рельсы. Для обучения нейронной сети нужны тысячи изображений. С помощью алгоритмов машинного обучения мы существенно расширяем этот дата-сет для получения аргументированного набора данных. Очень хорошо такой подход работает в распознавании транспортных средств.

Вызовы при работе с ИИ

Самый главный риск работы с ИИ — это непредсказуемость этих рисков. Бесконтрольное задействование искусственного интеллекта может привести к злоупотреблению и разбалансировке морально-этических ориентиров, социальной дезинтеграции. В ИИ-проекте в отличие от IT-проекта нет гарантированного результата. Разработчику и заказчику необходимо поэтапно прорабатывать проект для снижения неопределенности, нужно формировать целевую метрику. Проект, связанный с искусственным интеллектом, не гарантирует итог в виде «внедрено-не внедрено», у ИИ-проекта множество исходов.

Руководитель практики по внедрению ИИ для внешних клиентов компании Сбер Бизнес Софт Максим Иванов:

На старте проекта нужно договориться, какая метрика является ключевой и целевой. Допустим, мы внедряем чат-бот в какой-то компании. Что в качестве метрики может обозначить на входе наивный заказчик? Базовая метрика, которую обычно выдают на входе, — это процент автоматизации, доля обращений, которые чат-бот обрабатывает без участия живого человека. Что может сделать наивный или недобросовестный разработчик, получив такую метрику на вход? Он может либо вообще закрыть возможность перевода на оператора, либо создать внутри чата бесконечные петли.

Легитимность применения ИИ. Частый риск – обучение искусственного интеллекта нежелательному поведению. Например, так называемой атаке отправлений: хищению и подмене данных, введению в заблуждение, а также запуску непредсказуемого и бесконечного преобразования данных.

Председатель ТК164 «Искусственный интеллект», директор по научным проектам НИУ «Высшая школа экономики» Сергей Гарбук:

Подчас непредсказуемое поведение систем искусственного интеллекта в практически значимых условиях эксплуатации, чувствительность к каким-то непредсказуемым изменениям исходных данных, к сценариям применения делает само по себе применение ИИ серьезной проблемой.

Влияние аппаратной составляющей. Слабое место решений, построенных на применении искусственного интеллекта, — зависимость машинного обучения от импортных компонентов. Компании, специализирующиеся на машинном обучении (Яндекс, «Синезис») обладают математическим аппаратом, программными технологиями, но зависят от иностранных аппаратных компонентов. Китайские компании не могут конкурировать с российскими разработчиками по качеству программного обеспечения. Поэтому нередко через аппаратную часть пробуют навязать и программную за счет комплексности решений.

Директор по развитию компании «Синезис» Сергей Миронов:

В России есть технологический суверенитет в сфере программно-аппаратных комплексов, технологический суверенитет с точки зрения машинного обучения, но пока нет технологического суверенитета в части производства аппаратной части. По аппаратной части (камеры, серверы, телекоммуникационное оборудование) китайские производители практически до сих пор безальтернативны. Впрочем, сама ниша безопасности предполагает максимальное использование решений от местных производителей. Особенно если это касается решений государственного уровня. Поэтому российские производители могут чувствовать себя уверенно на своем рынке.

Что необходимо для корректного развития ИИ

Регулирование сфер применения ИИ требует дифференцированного подхода. Более жесткое регулирование необходимо в сферах, где на стороне ИИ будет лежать принятие решений, например беспилотный транспорт (если отвечает за действия ИИ или его разработчик, без оператора-посредника, водителя транспорта).

Заместитель министра цифрового развития, связи и массовых коммуникаций Российской Федерации Александр Шойтов:

Мировые тренды в области ИИ различаются в США, Китае и Европе. Так, для Европы на первом месте стоит защита прав граждан, для Китая – защита прав государства, все данные принадлежат государству, а в США важно безопасное, надежное и доверенное использование ИИ. В США сфера применения ИИ жестко регламентирована на всех этапах – от того, кто и в каком формате

Единство терминологии. Помимо нормативных документов необходимо единство терминологии. С этой целью создан ресурс «Навигатор по поддержке развития и внедрения технологий искусственного интеллекта в России». Он разработан и развивается при поддержке департамента цифровых технологий Министерства промышленности и торговли РФ.

Генеральный директор ФГАУ «Федеральный центр прикладного развития искусственного интеллекта» Минпромторга России Александр Сергеев:

Глоссарий состоит из 250 терминов и словосочетаний. В различных нормативно-правовых документах уже существует восемь определений, однако, если мы не договоримся до единой терминологии, законотворческая работа может идти с определенными сложностями.

Унификация искусственного интеллекта. Необходимо разрабатывать национальные стандарты для каждой сферы, с учетом прикладных задач в конкретных отраслях. Стандартизация обеспечит доверие к технологии.

Стандартизация искусственного интеллекта решит такие задачи, как обеспечение гарантий функциональной корректности в реальных условиях эксплуатации, а также обеспечит физическую безопасность ИИ для окружающих людей, природной среды и материальных активов (например, в случае беспилотного транспорта).

Фото - freepik.com