NVIDIA объявила о сотрудничестве с Amazon Web Services (AWS) IoT по платформе NVIDIA Jetson, чтобы наделить искусственным интеллектом и глубоким обучением миллионы подключенных устройств.

Это совместное решение позволяет легко создавать, обучать и оптимизировать модели на AWS и затем их разворачивать на конечных устройствах на базе Jetson с помощью AWS IoT Greengrass.

Платформа NVIDIA Jetson предлагает возможности ИИ в конечном устройстве с высокопроизводительными и экономичными вычислениями. Она получила применение в автономных машинах и умных камерах в таких индустриях, как розница, производство, сельское хозяйство и другие.

AWS IoT Greengrass аккуратно переносит AWS на конечные устройства, включая инференс машинного обучения, чтобы можно было его применять локально к генерируемым данным, одновременно используя облако для управления, аналитики и надежного хранения. Устройства на базе Jetson выполняют инференс локально, чтобы получать результат практически мгновенно с помощью AWS IoT Greengrass. Затем данные отправляются назад в сервисы машинного обучения, такие как Amazon SageMaker, для повышения точности модели.

Jetson поставляется с полноценным набором программных инструментов и SDK, включая NVIDIA JetPack. Также поддерживаются различные фреймворки, такие как MXNet, Caffe, TensorFlow и PyTorch, позволяющие разработчикам использовать эти алгоритмы для быстрого развертывания приложений реального мира.

«Jetson — это высокопроизводительный компьютер, построенный на той же архитектуре и унифицированном ПО, что и самые мощные суперкомпьютеры мира, — говорит Дипу Талла (Deepu Talla), вице-президент и директор по автономным машинам в NVIDIA. — Мы предлагаем маленький Jetson Nano в помощь к Jetson AGX Xavier, чтобы можно было масштабировать маленькие IoT устройства до мощных IoT шлюзов».

Jetson и AWS IoT Greengrass позволяет с легкостью разворачивать модели машинного обучения, оптимизированные для IoT устройств. Клиенты могут сэкономить траффик и расходы, выполняя инференс практически в реальном времени прямо на устройстве Jetson, а не отправляя данные в облако.

Jetson наделяет искусственным интеллектом приложения, ранее казавшиеся нереальными. В сельском хозяйстве камеры на базе Jetson с запущенным AWS IoT Greengrass могут находить сорняки практически в реальном времени, снимать ранее неопределенные сорняки, загружать аномалии в облако и быстро переобучать и разворачивать модель. Это сочетание технологий делает сельское хозяйство эффективнее и позволяет решать проблему достатка еды для растущего населения.

Автоматическая оптическая проверка позволяет быстро определять дефекты в продуктах прямо на производстве, чтобы избежать задержек в работе конвейера. Это повышает продуктивность, минимизирует потери и, в конечном итоге, улучшает общую эффективность работы.

В рознице устройства на базе Jetson могут проверять склады, отслеживать поведение покупателей и извлекать и обрабатывать данные на конечном устройстве, применяя AWS IoT Greengrass для развертывания обученных нейросетей. Это позволяет повысить эффективность работы и в рознице.