Применение периферийного искусственного интеллекта (Edge AI) растет, но для его широкого распространения необходимо преодолеть множество технических и логистических препятствий, пишет на портале InformationWeek Пшемыслав Крокош, эксперт по решениям для периферийных и встраиваемых технологий компании Mobica.
Внедрение Edge AI расширяется во многих отраслях, продолжение этой тенденции приведет к трансформационным изменениям не только в бизнесе, но и в обществе.
Децентрализованный подход к вычислениям на периферии дает возможность устранить такие проблемы, как перегруженность данными, разрывы связи и затраты на передачу данных. Это значительно повышает производительность ИИ-приложений, позволяя быстрее и надежнее принимать решения.
У Edge AI есть как логистические, так технические преимущества. Периферийный ИИ может выявлять закономерности, указывающие на повышенный риск, в труднодоступных местах, например на нефтяных вышках, и реагировать соответствующим образом, чтобы предотвращать потенциально опасные ситуации. В сельском хозяйстве фермеры могут максимально повысить урожайность, предоставив машинам возможность принимать самостоятельные решения в зависимости от условий окружающей среды.
Общество тоже в выигрыше. Представьте себе рой беспилотников, способных проводить поисково-спасательные операции в условиях пересеченной горной местности, используя многочисленные датчики для обнаружения фигур, звуков, тепла или движения, распознавая признаки жизни. Другой пример: разработка моделей Edge AI, которые могут отслеживать движения человека, чтобы обнаружить признаки усталости или травмы.
По мере распространения периферийных вычислений будет расширяться и применение ИИ. Но для того чтобы Edge AI процветал, необходимо преодолеть множество технических препятствий.
Барьеры на периферии
Возможно, самым ограничивающим фактором для Edge AI является то, что периферийные устройства, как правило, небольшие и имеют ограниченные вычислительные возможности. Их производительность далека от производительности дата-центров или даже мощных десктопов с GPU. Однако с помощью специальных ИИ-методов, таких как уменьшение размера модели и квантование, ограниченные модели, подходящие для небольших устройств, могут обеспечить много полезной функциональности.
Другие проблемы связаны с тем, что проекты периферийных вычислений часто реализуются в труднодоступных или удаленных местах. Обеспечение питания и связи таких устройств может быть затруднено, а соблюдение стандартов IoT для обеспечения взаимодействия этих устройств друг с другом не всегда является простым делом.
Третье препятствие заключается в том, что, хотя Edge AI сам по себе мало зависит от Интернета, многим персональным периферийным устройствам, например носимым, понадобится поддерживать приложения, требующие подключения к облаку, что создает элемент риска.
Однако эти препятствия не являются непреодолимыми. Помочь в этом может целый ряд решений в области питания и подключения, включая батареи с длительным сроком службы, связь 5G и аппаратную архитектуру с низким энергопотреблением.
Проблема ИИ-чипов
Основными препятствиям на пути Edge AI-проектов являются стоимость, производительность и требования к энергопотреблению ИИ-чипов. В некоторых промышленных сценариях, из-за большого количества задействованных IoT-устройств, может потребоваться до сотен тысяч таких чипов, что приведет к резкому удорожанию проекта.
Развертывание в таких масштабах требует тщательной оценки соотношения стоимости и производительности, и при нынешних ценах оно может оказаться непосильной задачей. Пока не произойдет значительного улучшения этих факторов, мы, скорее всего, увидим только маломасштабные модели с ограниченными возможностями решения проблем.
Обеспечение обучения на периферии
Еще одна важная задача — найти способ обучения всех этих автономных устройств с поддержкой ИИ. Последние разработки в области генеративного ИИ (GenAI) показывают, что такие системы, как GPT, обучаются на очень больших массивах данных, доступных в Интернете. Это требует значительных усилий для сбора и обработки данных. Для принятия обоснованных решений на периферии нам необходимо решить проблему достаточного количества данных.
Однако если мы снова обратимся к недавним разработкам в области GenAI, то решение, возможно, уже найдено. Один из подходов может заключаться в использовании способности генеративных моделей создавать большие объемы синтетических обучающих данных на основе нескольких предоставленных примеров, а затем использовать эти данные для более быстрого обучения небольших моделей. Другой подход, возможно, более перспективный, заключается в обучении большой генеративной модели непосредственно на реальных обучающих данных (если они доступны), а затем использовать их для обучения более мелких, периферийных ИИ-моделей.
Такой подход уже принес свои плоды, как это видно на примере
Межмашинное обучение
Еще один путь к ускоренному обучению — управление взаимосвязанным, самосовершенствующимся парком периферийных устройств с поддержкой ИИ из централизованной системы. Во многих случаях целесообразным решением будет создание моделей, которые могут постепенно обучаться, находясь «на задании», и которые могут делиться важными открытиями.
Подобно обмену передовым опытом в бизнесе или отрасли, межмашинный обмен может помочь выявлять закономерности, определяющие поведение.
Концепция флота автономных машин, управляемых интеллектуальным центральным органом, может напоминать антиутопическую научно-фантастическую историю. Поэтому, как и в случае с любым другим ИИ, необходимо будет установить поведенческие параметры.
В недалеком будущем вполне вероятно, что автоматизированные устройства будут способны учиться друг у друга. Это даст им возможность принимать все более обоснованные решения от нашего имени, что окажет преобразующее воздействие как на промышленность, так и на общество.
