Сейчас технологии искусственного интеллекта (ИИ) продвигаются во всех возможных сферах. И пусть этот термин уже давно вышел за рамки своего изначального значения, тенденций это не меняет. Как известно, на рынке присутствуют две однокристальных системы, оснащённых собственными блоками для работы с технологиями ИИ. Это Apple A11 Bionic и HiSilicon Kirin 970. Но обе они сторонним компаниям не отгружаются. Решить вопрос взялась ARM. Компания представила проект Trillium, объединяющий в себе группу программных решений и процессоров для обнаружения объектов (Object Detection, OD) и машинного обучения (Machine Learning, ML). Таким образом, с помощью Trillium британская компания рассчитывает наверстать отставание от других ведущих игроков индустрии, сосредоточенных на задачах ИИ, пишет The Verge.

У ARM уже имеется опыт работы с ИИ. Ранее она выпускала для ARM v8.2 ISA-расширения, ускоряющие работу нейросетей, и GPU, оптимизированный для ML. Подобные новшества полезны, однако специализированный интеллектуальный чип ускоряет нейросети на порядок лучше, чем любой центральный процессор. Как объясняет ARM, улучшение ARM v8.2 и GPU было лишь первым шагом к разработке комплексных решений для ML. Собственно, полученный в ходе этих разработок опыт и стал основой Trillium.

Архитектура ML-процессора оптимизирует управление памятью при выполнении нагрузок ML, минимизируя входящие и исходящие данные — ключевое условие для достижения высоких производительности и эффективности. Теоретическая пропускная способность (для чипа с детализацией 7 нм) превышает 4,6 TOPs, энергоэффективность достигает 3 TOPs на ватт при мощности порядка 1,5 Вт.

Версия ML ориентирована на смартфоны, камеры, устройства VR и AR, медицинские приборы, робототехнику, дроны и различную потребительскую электронику и призвана ускорить общие приложения ИИ — от ML до распознавания лиц. Нужно понимать, что разрабатывается не универсальная однокристальная система, а скорее сопроцессор, который будет заниматься исключительно задачами ML.

Второй продукт — процессор OD. Данное решение разработано специально для определения тех или иных объектов в кадре. То есть это уже решение для устройств, оснащённых камерами. Для ARM OD заявлена система обнаружения в реальном времени при разрешении Full HD и 60 кадр./с. Компания обещает, что ее нейропроцессор сможет обеспечить производительность в 4,5 трлн. операций в секунду.

Вице-президент ARM по ML Джем Дэвис сказал, что компания уже ведет переговоры с рядом производителей телефонов, заинтересованных в лицензировании ML-чипа, но не назвал конкретных фирм. На данный момент специализированные ИИ-процессоры используются только в высококачественных устройств, но Дэвис уверен, что вездесущность ИИ-приложений будет означать, что эти чипы быстро станут стандартными. «В Китае уже говорят о том, чтобы со следующего года внедрить ИИ-чипы в смартфоны начального уровня», — говорит он.

ИИ-процессоры будут полезны и для следующего поколения устройств, подключенных к Интернету. В ряде сценариев ARM видит целесообразным работу OD и ML в тандеме: первый будет выделять представляющие интерес области изображения, а второй подвергнет их более глубокой обработке. Первое поколение интеллектуальных чипов компании ориентировано на мобильное применение, остальные приложения планируется охватить в будущем, путём упрощения или усложнения исходной мобильной архитектуры. В рамках проекта Trillium на сайте для разработчиков ARM и на Github будет выложено большое количество ПО для реализации нейросетей на различных фреймворках ML.

Создание ARM сопроцессоров для ИИ позволит системам ML работать прямо на пользовательских устройствах. Cуть в том, что с помощью нейросетей решается все больше задач, от распознавания образов и ML до попытки техники подстроится под своего пользователя. При этом отработанная схема подразумевает, что системы ML работают в мощных вычислительных облачных кластерах, в которые информацию сначала нужно отослать, а потом получить ответ. Здесь и высокие требования к скорости и надежности связи, и ее стоимость, и опасения потребителя относительно безопасности данных.