Новый AI-чип IBM обеспечивает ускорение в 22 раза и «умопомрачительную» энергоэффективность

IBM недавно представила новый прототип чипа искусственного интеллекта (ИИ), который, как утверждается, будет быстрее и гораздо более энергоэффективным, чем любой другой чип, доступный в настоящее время.

Согласно исследованию, опубликованному в журнале Science Magazine 19 октября, новый чип, получивший название NorthPole, «достигает в 25 раз более высокого показателя энергопотребления» в соответствующем тесте «и в 22 раза более низкого показателя времени задержки».

Якобы это означает потенциальную производительность после графического процессора за небольшую часть затрат на энергопотребление.

Дэмиен Керлиоз, исследователь наноэлектроники из Университета Париж-Сакле в Палезо, в статье, опубликованной в журнале Nature, охарактеризовал энергоэффективность Северного полюса как «потрясающую».

Согласно документу исследовательской группы IBM:

«NorthPole превосходит все распространенные архитектуры, даже те, которые используют более продвинутые технологические процессы».

Одно из основных препятствий на пути улучшения обработки ИИ называется «узким местом фон Неймана». Используя доступную в настоящее время архитектуру, чипы искусственного интеллекта, как правило, обладают более быстрыми вычислительными возможностями, чем память, необходимая для запуска процессов. В результате при каждой передаче информации между процессором и оперативной памятью возникает задержка.

Это особенно актуально на «периферии», где чипы и данные хранятся вместе. Многие эксперты уже давно считают, что устранение этого узкого места является ключом к запуску мощных нейронных сетей локально на устройствах.

https://twitter.com/IBMResearch/status/1715105629063258404?ref_src=twsrc%5Etfw

По данным IBM Research, новый прототип чипа, созданный в лаборатории компании в Аламадене, Калифорния, обходит узкое место фон Неймана, по сути, интегрируя компонент памяти в сам процессор.

По словам ведущего разработчика чипа Дхармендры Модхи, NorthPole — это «целая сеть на кристалле», которая «прокладывает путь, совершенно отличный от архитектуры фон Неймана».

Тест ResNet50, используемый для демонстрации эффективности чипа, представляет собой 50-слойную нейронную сеть, в основном используемую для тестирования задач компьютерного зрения, таких как классификация изображений.

Сообщенные результаты оборудования NorthPole в этом тесте показывают, что оно может исключительно хорошо справляться с сопутствующими задачами, такими как автономная хирургия, управление беспилотными автомобилями и другими транспортными средствами, а также многочисленные проекты, связанные с робототехникой.

IBM Research уже много лет занимается исследованием следующего чипа, использующего архитектуру NorthPole. Согласно блогу компании, «это только начало работы Modha на Северном полюсе».