Российские процессоры IVA TPU вошли в число лучших мировых решений по версии MLPerf

На международной площадке MLPerf провели тестирование архитектуры ускорителя расчета нейронных сетей IVA TPU, разработанной компанией IVA Technologies. Успешная аттестация продукта позволит повысить степень доверия к разработчику, в частности со стороны коммерческого и исследовательского зарубежных сообществ, и обеспечит ему достойное место в ряду международных гигантов на рынке микроэлектроники в области поддержки искусственного интеллекта.

Результаты тестирования архитектуры IVA TPU, реализованной в FPGA, подтверждены и опубликованы на официальной странице сайта MLPerf (https://mlperf.org/inference-results/) в разделах инференса на оконечных устройствах Edge, Closed Division (ID 0.7-156) и Edge, Open Division (ID 0.7-396). MLPerf – международная площадка аттестации и тестирования оборудования в сфере машинного обучения и искусственного интеллекта. Решение квалифицировали в самую сложную группу Closed Division – закрытый список сетей с ограничениями на модификации, время ожидания и точность.

«Данное событие без преувеличения уникально для современной России. Трудно вспомнить примеры, когда отечественная разработка в микроэлектронике, получала аттестат зрелости аппаратной и программной составляющих у зарубежных экспертов, – отметил заместитель генерального директора IVA Technologies, руководитель направления Евгений Терентьев. – Мы показали, что сравнительно небольшая коммерческая молодая компания, при правильно выстроенной стратегии развития и рабочих процессах, способна реализовать потенциал своей команды, создать успешный продукт в одной из самых сложных областей микроэлектроники – микропроцессорах».

Edge AI – это самый быстрорастущий сегмент на рынке, и в группе Closed Division Edge представлено всего 5 поставщиков: Nvidia, ARM, Centaur, Xilinx и, с сентября 2020г., IVA Technologies.

Из анализа результатов видно, что для одной из самых распространенных нейронных сетей (Resnet-50), архитектура IVA TPU обеспечивает задержку в 3 раза меньше, чем лучшее решение от Xilinx. Планируется, что при реализации ускорителя с архитектурой IVA TPU в ASIC (ожидаются в первом квартале 2021г.), результаты будут лучше, чем у нашего ближайшего конкурента NVIDIA Jetson Xavier NX несмотря на отставание в технологии (28 нм против 12 нм).

«Это было серьезное испытание и оценка уровня зрелости аппаратных и программных стеков архитектуры IVA TPU, которое наша команда успешно прошла, подтвердив свой высокий профессионализм. Российская разработка заняла достойное место в одном ряду с международными гигантами с сфере микроэлектроники для поддержки искусственного интеллекта», – добавил Евгений Терентьев.

В ближайшее время на базе IP-ядра IVA TPU запускается в производство две конфигурации микропроцессоров – для оконечных устройств (IVA E) и облачных сервисов (IVA H). Ни базе микропроцессоров разрабатывается несколько реализаций модулей, которые будут непосредственно применяться в электронных устройствах заказчиков.

Таким образом IVA Technologies сможет сформировать широкую продуктовую линейку, которая позволит удовлетворить потребности в вычислительных ресурсах для ускоренного расчета нейронных сетей, у совершенно разных производственных и сервисных компаний. Речь идет о производителях смарт устройств (умные камеры, IoT, промышленная и городская безопасность), о разработчиках автономных машин (ADAS, дроны), о крупных операторах сервисов и ЦОД (обработка фото- и видеоданных, текста, голоса, информационная безопасность). Кроме того, в планах компании начало продаж вычислительных ресурсов для инференса нейронных сетей через облачный сервис.

О компании IVA Technologies

IVA Technologies – высокотехнологичное ИТ-оборудование и программное обеспечение российского производства, позволяющее выстраивать безопасную и высокопроизводительную ИТ-инфраструктуру различных масштабов — начиная от небольшого офиса и заканчивая крупными корпоративными решениями с центрами обработки данных.

Подробнее на сайте: www.iva-tech.ru

О консорциуме MLPerf

Международный консорциум MLPerf создан в 2018 году для разработки универсальных тестов, позволяющих измерить эффективность систем искусственного интеллекта. Его учредителями MLPerf являются: Baidu, Google, Harvard University, Stanford University, University of California, Berkeley.

В состав аттестующих рабочих групп входят сотрудники компаний: ARM, Facebook, Google, Microsoft, Cadence, Synopsys, HP, IBM, Intel, Nvidia, Cisco, MediaTek, Berkeley Lab, Brookhaven National Lab, Cerebrus, Cray, Harvard University, In-Q-Tel, Landing.AI, Myrtle.AI, Real World Insights, Stanford University, University of Toronto.