|
Источник: itWeek
|
Просмотров: 1320 |
 NVIDIA представила платформу ускоренных вычислений NVIDIA EGX, которая позволяет компаниям использовать ИИ с низкими задержками на периферийных устройствах: получать непрерывный поток данных от 5G станций, складов, магазинов, заводов и других мест, обрабатывать их и принимать необходимые решения в реальном времени.
Платформа NVIDIA EGX призвана удовлетворить растущий спрос на мгновенное выполнение задач ИИ локально — там, где создаются данные, с гарантированным временем отклика, позволяя снизить объем данных, отправляемых в облако.
К 2025 году человечеству понадобится порядка 150 млрд датчиков и IoT устройств для обработки бесконечного потока данных — это на порядки больше объема данных, поступающих сегодня со смартфонов. Edge-серверы, такие, как NVIDIA EGX, будут установлены повсеместно для обработки данных с сенсоров в режиме реального времени.
«Компаниям нужны более мощные локальные вычислительные ресурсы для обработки огромных массивов сырых данных, поступающих от бесчисленных взаимодействий с пользователями и оборудованием, для принятия быстрых бизнес-решений на базе результатов ИИ-обработки, — говорит Боб Пит (Bob Pette), вице-президент и директор по корпоративным и периферийным вычислениям в NVIDIA. — Масштабируемая платформа, такая, как NVIDIA EGX, позволяет легко разворачивать необходимые системы локально, или в облаке, или и там, и там».
На одном краю EGX крошечный чип NVIDIA Jetson Nano, способный выполнять полтриллиона операций в секунду (TOPS) при энергопотреблении всего несколько Ватт в таких задачах, как распознавание изображений. EGX масштабируется до полноценной стойки серверов NVIDIA T4, способных обеспечить свыше 10 000 TOPS в операциях распознавания речи и других ИИ-задачах в реальном времени.
NVIDIA заключила соглашение с Red Hat для интеграции и оптимизации набора ПО NVIDIA Edge Stack под OpenShift, ведущую платформу управления кластером контейнеров Kubernetes корпоративного уровня.
NVIDIA Edge Stack — это оптимизированный пакет ПО, включающий драйверы NVIDIA, плагин CUDA Kubernetes, среду исполнения для контейнеров CUDA, библиотеки CUDA-X и контейнеризированные AI фреймворки и приложения, включая TensorRT, TensorRT Inference Server и DeepStream. NVIDIA Edge Stack оптимизирован для сертифицированных серверов и доступен для загрузки из NVIDIA NGC.
Читать всю статью
Источник: itWeek
Facebook
Мой мир
Вконтакте
Одноклассники
Google+
|
|
NVIDIA представила EGX - платформу периферийных вычислений для применения ИИ в индустрии
