Уже не вызывает сомнений, что искусственный интеллект (ИИ) и машинное обучение прочно прописались в современном мире ИТ, но при всех достоинствах у них имеются и недостатки — эти технологии очень требовательны к вычислительным ресурсам и для работы на мобильных устройствах им требуется подключение к облачным службам. И даже несмотря на то, что большую часть обрабатываемых запросов выполняется в облаке, процессоры смартфонов всё равно должны быть достаточно производительными, чтобы обрабатывать потоки возвращаемой облаком информации.
Учитывая, что мобильные чипы не предназначены для таких ресурсоёмких задач, Microsoft Research опубликовала на сайте GitHub библиотеку Embedded Learning Library (ELL), предложив разработчикам предварительно подготовленную модель распознавания образов для Raspberry Pi и других плат для разработчиков. Как поясняет компания, эта библиотека позволит разработчикам адаптировать свой софт для работы с ИИ не только на обычных чипах для смартфонов, но и на ARM-процессорах Cortex-M0, размер которых не превышает хлебной крошки.
Расчёт Microsoft строится на том, что ELL позволит запускать ИИ-приложения на имплантируемых устройствах, датчиках и других миниатюрных устройствах, у которых отсутствует подключение к Интернету. Чтобы адаптировать алгоритмы ИИ к указанным аппаратным возможностям, исследователи применяют два подхода: разрабатывают алгоритмы сжатия моделей машинного обучения, позволяющие перенести их на микросистемы, и создают наборы узкоспециализированных алгоритмов, оптимальных только для выполнения конкретной задачи. Разработчики утверждают, что такой подход позволяет снизить аппетиты ИИ в сотни и тысячи раз.
Известно, что компания уже адаптировала ИИ-технологии для смартфонов без необходимости их подключения к облаку. Одной из первых программ, которые работают по этому принципу, является Pix iPhone — она нацелена на получение максимально качественных фото в автоматическом режиме. Пользователи, уже успевшие опробовать приложение, называют его чуть ли не лучшей камерой для iPhone. Тем временем машинное обучение на мини-компьютерах Raspberry Pi, Arduino и других микроконтроллерах пока что работает лишь в экспериментальном режиме. Самое маленькое устройство, которое опробовали исследователи, это одноплатный компьютер Arduino Uno, который имеет 2 Кб оперативной памяти.
Сообщается, что инженеры компании работают над несколькими проектами для людей с ограниченными возможностями, такими как создание «умных» перчаток, которые могут интерпретировать язык жестов, и тростью, которая умеет сигнализировать о своём падении.