Intel развивает нейроморфные вычисления: чип Loihi 2, программная среда Lava и новые партнеры

Второе поколение исследовательского нейроморфного чипа Loihi 2 содержит более 1 млн нейронов и производится с использованием предсерийного техпроцесса Intel 4. Специализированный открытый программный фреймворк позволит ускорить инновационные разработки и переход к коммерциализации

Intel анонсировала Loihi 2, исследовательский чип второго поколения, а также Lava, среду программирования с открытым исходным кодом, позволяющую разрабатывать приложения для нейроморфных вычислителей.

«Loihi 2 и Lava аккумулируют наработки нескольких лет исследований с использованием Loihi. Наш чип второго поколения работает быстрее, для него проще писать программы, что расширяет возможности его применения в ограниченных по мощности вычислительных системах. Мы открываем исходный код Lava для обеспечения лучшей совместимости программного обеспечения, тестирования и кроссплатформенного взаимодействия в этой области, а также для того, чтобы ускорить вывод продуктов на уровень коммерческой рентабельности», – сказал Майк Дэвис (Mike Davies), директор лаборатории нейроморфных вычислений Intel.

Нейроморфные вычисления с применением микросхем, разработанных по принципам нейробиологии и функционирующих подобно биологическому мозгу, позволят значительно увеличить энергоэффективность, скорость вычислений и продуктивность обучения ИИ для выполнения задач, возникающих при взаимодействии человека с машиной – от компьютерного зрения, распознавания голоса и жестов до поисковых запросов, робототехники и решения оптимизационных задач с ограничениями. Intel и ее партнеры уже создали такие прикладные разработки, как роботизированные руки, нейроморфная искусственная кожа и алгоритм распознавания запахов.

О Loihi 2: Новый исследовательский чип объединяет опыт, накопленный за три года использования исследовательских микросхем первого поколения, с передовыми наработками Intel в области производства, а также в проектировании и производстве цифровых асинхронных схем.

• Усовершенствования Loihi 2 позволяют архитектуре поддерживать новые классы нейроморфных алгоритмов и приложений, обеспечивая при этом до 10 раз более быструю обработку[1] и до 15 раз более высокую плотность ресурсов[2] с использованием до 1 миллиона нейронов на чип наряду с улучшенной энергоэффективностью. При выпуске Loihi 2 была использована предварительная версия технологического процесса Intel 4. Применение литографии экстремального ультрафиолетового диапазона (Extreme Ultraviolet, EUV) в Intel 4 упростило принципы проектирования компоновки по сравнению с технологиями прошлых лет, что позволило ускорить разработку Loihi
• Среда программирования Lava соответствует потребности сообщества исследователей нейроморфных вычислений в универсальном программном фреймворке. В качестве открытой модульной среды с возможностью расширения, Lava позволит исследователям и разработчикам приложений опираться на совместные достижения и использовать общий набор инструментов, методик и библиотек. Lava работает на различных гетерогенных платформах с традиционными и нейроморфными процессорами, обеспечивая совместимость с широким спектром ИИ, нейроморфных и робототехнических программных средств. Теперь разработчики могут создавать нейроморфные приложения даже без доступа к специализированному аппаратному обеспечению, а также участвовать в развитии базы кода Lava, в том числе перенося свои разработки на другие платформы.

«Исследователи из Национальной лаборатории Лос-Аламоса использовали нейроморфную платформу Loihi для сравнения квантовых и нейроморфных вычислений, а также для практической реализации механизмов обучения на нейроморфной микросхеме, – заявил д-р Герд Дж. Кунде (Dr. Gerd J. Kunde), научный сотрудник Национальной лаборатории Лос-Аламоса. – Это исследование показало интересные сходства между импульсными нейронными сетями и принципами квантового отжига для решения сложных задач оптимизации. Мы также продемонстрировали, что алгоритм обратного распространения ошибки – основополагающий компонент для обучения нейронных сетей, ранее считавшийся нереализуемым в нейроморфных архитектурах, может быть эффективно выполнен на Loihi. Наша команда непременно продолжит это исследование с чипом второго поколения».

О ключевых достижениях: Loihi 2 и Lava предлагают исследователям инструменты разработки и описания новых нейроморфных приложений для вычислений в реальном времени, принятия решений, задач адаптации и обучения. Основные преимущества решений:

• Более быстрая и универсальная оптимизация: более высокая степень программируемости Loihi 2 даст возможность работать с более широким спектром сложных задач оптимизации, включая оптимизацию в реальном времени, планирование и принятие решений – от периферийных систем до дата-центров.
• Новые методы непрерывного и ассоциативного обучения: Loihi 2 предлагает улучшенную поддержку передовых методов обучения, в том числе варианты обратного распространения ошибки, одного из самых популярных алгоритмов глубокого обучения. Это расширяет возможности адаптации и обучающих алгоритмов с эффективным использованием данных, которые могут поддерживаться маломощными онлайн-системами.
• Новые нейронные сети, обучаемые с помощью глубокого обучения: полностью программируемые модели нейронов и стандартизированный спайковый метод обмена данными в Loihi 2 позволяют использовать новые модели нейронных сетей, которые можно обучать с помощью алгоритмов глубокого обучения. По предварительным оценкам, Loihi 2 позволяет снизить число выполняемых операций при инференсе более чем в 60 раз без потери точности[3] по сравнению со стандартными глубокими сетями на Loihi 1.
• Беспрепятственная интеграция с существующими робототехническими системами, традиционными процессорами и новыми датчиками: в Loihi 2 сняты технические ограничения Loihi первого поколения благодаря более быстрым, универсальным и стандартизированным интерфейсам ввода-вывода. Микросхемы Loihi 2 будут поддерживать интерфейсы Ethernet, прямую интеграцию широкого спектра событийно-управляемых датчиков технического зрения и возможность объединения микросхем Loihi 2 в большие связанные кластера.

Более подробная информация представлена в техническом обзоре Loihi 2/Lava.

О сообществе исследователей нейроморфных вычислений: в сообщество исследователей нейроморфных вычислений (The Intel Neuromorphic Research Community, INRC) сегодня входит более 150 участников, включая Ford, Технологический университет Джорджии, Raytheon Technologies, Teledyne-FLIR и Юго-западный исследовательский институт (SwRI), вступившие в него в этом году. Новые участники присоединились к сообществу научных, правительственных и отраслевых партнеров, которые вместе с Intel работают над подготовкой технологии нейроморфных вычислений к коммерческому использованию.

«Такие разработки как новый чип Loihi 2 и Lava API являются важными шагами в развитии нейроморфных вычислений, – сказал Эди Лионгосари (Edy Liongosari), главный научный сотрудник и управляющий директор Accenture Labs. – Нейроморфная архитектура нового поколения будет иметь решающее значение для исследований Accenture Labs в области алгоритмов компьютерного зрения на основе модели человеческого мозга для интеллектуальных периферийных вычислений, которые могут использоваться в будущих устройствах расширенной реальности или интеллектуальных мобильных роботах. Новый чип предоставляет функции, которые делают его более эффективным для многомерных вычислений и могут обеспечить улучшенное обучение на кристалле, в то время как Lava API предоставляет разработчикам простой и более оптимизированный интерфейс для создания нейроморфных систем».

Переход нейроморфных вычислений из стадии лабораторных исследований в статус коммерчески рентабельной технологии возможен при выполнении трех условий. Он требует постоянного итерационного развития нейроморфной аппаратуры в результате фундаментальных и прикладных исследований; разработки общей платформенно-независимой программной среды, которая позволит исследователям сравнивать, объединять и совершенствовать лучшие алгоритмические идеи разных групп; а также тесного сотрудничества производства, науки и государства в области прикладного применения нейроморфных вычислений для текущих задач бизнеса.

Сегодняшний анонс Intel охватывает все перечисленные выше направления, давая растущему сообществу исследователей новые инструменты для переосмысления основ вычислений и обеспечения прорыва в области интеллектуальной обработки информации.

Что дальше: В настоящее время Intel предлагает две нейроморфные системы на базе Loihi 2 в облаке Neuromorphic Research участникам сообщества исследователей нейроморфных вычислений INRC: однокристальную систему Oheo Gulch для ранней оценки и 8-чиповую систему Kapoho Point, которая будет доступна в ближайшее время. Программная платформа Lava Software Framework уже доступна для бесплатной загрузки на GitHub. Презентация и учебные материалы по Loihi 2 и Lava будут представлены на предстоящем мероприятии Intel Innovation в октябре.

Подробнее об Intel

Корпорация Intel (Nasdaq: INTC) является лидером отрасли, создающим изменяющие мир технологии для глобального развития и улучшения жизни. Вдохновленные Законом Мура, мы постоянно работаем над совершенствованием разработки и производства полупроводников для решения самых серьезных проблем наших клиентов. Встраивая интеллект в облако, сеть, периферию и любые типы вычислительных устройств, мы раскрываем потенциал данных для лучшей трансформации бизнеса и общества. Чтобы узнать больше об инновациях Intel, посетите newroom.intel.com и intel.com.

© Корпорация Intel. Intel, логотип Intel и другие знаки Intel являются товарными знаками корпорации Intel или ее дочерних компаний. Другие названия и бренды могут быть заявлены как собственность других лиц.

¹ По итогам моделирования Lava в сентябре 2021 года девятиуровневого варианта рабочей нагрузки PilotNet DNN, реализованной в виде сигма-дельта нейронной сети на Loihi 2, по сравнению с той же сетью, реализованной с кодированием скорости SNN на Loihi. Модель производительности Lava для обоих чипов основана на характеристике полупроводников с использованием Nx SDK версии 1.0.0 с процессором Intel Xeon E5-2699 v3 @ 2,30 ГГц, 32 ГБ ОЗУ в качестве хоста, работающего под управлением Ubuntu версии 20.04.2. Результаты Loihi используют систему Nahuku-32 ncl-ghrd-04. Результаты Loihi 2 используют систему Oheo Gulch ncl-og-04. Результаты могут отличаться.

[2] На основе ядра Loihi 2 размером 0,21 мм², поддерживающего до 8192 нейронов, по сравнению с ядром Loihi размером 0,41 мм², поддерживающим до 1024 нейронов.

[3] На основе измерений девятиуровневой рабочей нагрузки вывода DNN PilotNet, упомянутой выше, с реализацией сигма-дельта нейронной сети на Loihi 2, достигающей среднеквадратичной ошибки (MSE) 0,035 при 323815 синаптических операциях по сравнению с SNN с кодированием скорости на Loihi. 1, достигнувшей MSE 0,0412 при 20 250 023 синаптических операциях.