NVIDIA представила платформу ускоренных вычислений NVIDIA EGX, которая позволяет компаниям использовать ИИ с низкими задержками на периферийных устройствах: получать непрерывный поток данных от 5G станций, складов, магазинов, заводов и других мест, обрабатывать их и принимать необходимые решения в реальном времени.

Платформа NVIDIA EGX призвана удовлетворить растущий спрос на мгновенное выполнение задач ИИ локально — там, где создаются данные, с гарантированным временем отклика, позволяя снизить объем данных, отправляемых в облако.

К 2025 году человечеству понадобится порядка 150 млрд датчиков и IoT устройств для обработки бесконечного потока данных — это на порядки больше объема данных, поступающих сегодня со смартфонов. Edge-серверы, такие, как NVIDIA EGX, будут установлены повсеместно для обработки данных с сенсоров в режиме реального времени.

«Компаниям нужны более мощные локальные вычислительные ресурсы для обработки огромных массивов сырых данных, поступающих от бесчисленных взаимодействий с пользователями и оборудованием, для принятия быстрых бизнес-решений на базе результатов ИИ-обработки, — говорит Боб Пит (Bob Pette), вице-президент и директор по корпоративным и периферийным вычислениям в NVIDIA. — Масштабируемая платформа, такая, как NVIDIA EGX, позволяет легко разворачивать необходимые системы локально, или в облаке, или и там, и там».

На одном краю EGX крошечный чип NVIDIA Jetson Nano, способный выполнять полтриллиона операций в секунду (TOPS) при энергопотреблении всего несколько Ватт в таких задачах, как распознавание изображений. EGX масштабируется до полноценной стойки серверов NVIDIA T4, способных обеспечить свыше 10 000 TOPS в операциях распознавания речи и других ИИ-задачах в реальном времени.

NVIDIA заключила соглашение с Red Hat для интеграции и оптимизации набора ПО NVIDIA Edge Stack под OpenShift, ведущую платформу управления кластером контейнеров Kubernetes корпоративного уровня.

NVIDIA Edge Stack — это оптимизированный пакет ПО, включающий драйверы NVIDIA, плагин CUDA Kubernetes, среду исполнения для контейнеров CUDA, библиотеки CUDA-X и контейнеризированные AI фреймворки и приложения, включая TensorRT, TensorRT Inference Server и DeepStream. NVIDIA Edge Stack оптимизирован для сертифицированных серверов и доступен для загрузки из NVIDIA NGC.

«Red Hat призвана обеспечить полноценные возможности для любых нагрузок и локаций, от гибридного облака до локальной точки, — говорит Крис Райт (Chris Wright), технический директор Red Hat. — Объединив платформы Red Hat OpenShift и NVIDIA EGX, пользователи смогут лучше оптимизировать свои распределенные операции в высокопроизводительном, ориентированном на контейнеры окружении».

EGX объединяет полный набор вычислительных ИИ-технологий NVIDIA с Red Hat OpenShift и NVIDIA Edge Stack, а также технологии защиты, связи и хранения данных Mellanox и Cisco. Это позволяет компаниям в крупнейших областях — телекоме, производстве, ритейле, здравоохранении и транспорте — быстро строить современные и надежные корпоративные ИИ-инфраструктуры.

«Сетевые карты и переключатели Mellanox Smart обеспечивают идеальный интерфейс для доступа к данным, которые масштабируются до больших дата-центров, — отметил Михаил Каган (Michael Kagan), технический директор Mellanox Technologies. — Сочетание высокой производительности, низких задержек и ускоренных сетевых соединений поднимает инфраструктурные вычисления на новый уровень, необходимый для эффективного доступа к данным и работы передовых ИИ-решений нового поколения на периферийных платформах, таких, как NVIDIA EGX».

«Компания Cisco рада сотрудничать с NVIDIA, чтобы предоставить своим клиентам полноценные решения на базе EGX платформы Cisco с ПО Cisco для вычислений, хранения и управления данными и Ethernet и IP сетевыми технологиями», — говорит Каустуб Дас (Kaustubh Das), вице-президент Cisco Computing Systems.

ИИ-вычисления NVIDIA доступны в ключевых облаках и архитектурно совместимы с NVIDIA EGX. ИИ-приложения, разработанные в облаке, могут работать на NVIDIA EGX и наоборот. NVIDIA Edge Stack подключается к ключевым облачным IoT сервисам, и клиенты могут удаленно управлять своим сервисом из AWS IoT Greengrass и Microsoft Azure IoT Edge.

«Azure IoT Edge помогает клиентам быстро и безопасно наделять облачными сервисами свои IoT устройства, — отметил Сэм Джордж (Sam George), директор Azure IoT Edge. — Мы стремимся к поддержке платформы NVIDIA EGX на устройствах Azure IoT Edge, чтобы клиенты могли запускать ИИ-задачи, предназначенные для EGX-совместимого аппаратного обеспечения».

NVIDIA EGX оптимизирует ИИ для расширяющейся экосистемы программных решений.

Сюда относятся приложения для видеоаналитики, идеально подходящие для крупных розничных сетей и умных городов, от таких поставщиков, как AnyVision, DeepVision, IronYun и Malong Technologies, а также приложения здравоохранения от 12 Sigma, Infervision, Qunatib и Subtle Medical.

EGX серверы доступны у ведущих мировых поставщиков корпоративных решений ATOS, Cisco, Dell EMC, Fujitsu, Hewlett Packard Enterprise, Inspur и Lenovo, а также у крупных производителей серверов и IoT-систем Abaco, Acer, ADLINK, Advantech, ASRock Rack, ASUS, AverMedia, Cloudian, Connect Tech, Curtiss-Wright, GIGABYTE, Leetop, MiiVii, Musashi Seimitsu, QCT, Sugon, Supermicro, Tyan, WiBase и Wiwynn.

Серверы NVIDIA EGX оптимизированы для NVIDIA Edge Stack и поддерживают NGC для CUDA-ускоренных контейнеров.