NVIDIA представила новейшие решения для платформы глубокого обучения на базе архитектуры Pascal - графические ускорители NVIDIA Tesla P4 и P40 и программное обеспечение, которое значительно ускоряет и оптимизирует анализ информации для сервисов, использующих искусственный интеллект (ИИ).
Современные сервисы ИИ, такие, как активируемая голосом помощь, почтовые фильтры спама и движки генерации рекомендуемых фильмов и продуктов, становятся все сложнее. Нейронным сетям, которые для них нужны, требуется в 10 раз больше вычислений по сравнению с нейронными сетями еще год назад. Современные центральные процессоры не способны оперативно реагировать на запросы сервисов ИИ, что не лучшим образом сказывается на возможностях пользователей.
Ускорители Tesla P4 и P40 специально созданы для ускорения операций инференса – применения обученных глубоких нейронных сетей для распознавания речи, изображений и текста в ответ на запрос пользователей или устройств. Основанные на архитектуре Pascal, новые графические процессоры использую специальные инструкции инференса на базе 8-битных (INT8) данных, обеспечивая ответную реакцию в 45 раз быстрее по сравнению с CPU и в 4 раза быстрее по сравнению с GPU, представленными меньше года назад.
Ускорители Tesla P4 отличаются высочайшей экономичностью и предназначены для гипермасштабируемых дата-центров. Благодаря малым размерам и низкому энергопотреблению (от 50Вт), они подходят для любых серверов, что делает их в 40 раз экономичнее центральных процессоров в задачах использования результатов обучения нейронных сетей при обработке данных. Сервер с одним Tesla P4 может заменить 13 серверов на базе CPU, предназначенных для анализа данных, что сокращает общую стоимость владения в 8 раз, включая затраты на сервер и электричество.
Tesla P40 обеспечивает максимальную пропускную способность для задач глубокого обучения. С производительностью в 47 тера-операций в секунду (TOPS) с инструкциями INT8 сервер с восемью ускорителями Tesla P40 может заменить 140 серверов на базе CPU. С учетом средней стоимости одного сервера с CPU порядка $5000, общая экономия составит более $650 000.
“В лице Tesla P100, а теперь и Tesla P4 и P40, компания NVIDIA предлагает единственную комплексную платформу глубокого обучения для дата-центров, раскрывая огромные возможности искусственного интеллекта для решения самого широкого круга задач, - говорит Ян Бак (Ian Buck), директор по ускоренным вычислениям в NVIDIA. – Новые процессоры сокращают время обучения нейронных сетей с нескольких дней до нескольких часов. Они позволяют мгновенно извлечь данные из анализируемых материалов. И они выдают ответы в реальном времени пользователям сервисов ИИ”.
Решения Tesla P4 и P40 дополняют два новых программных продукта, предназначенных для ускорения работы ИИ-сервисов: NVIDIA TensorRT и NVIDIA DeepStream SDK.
TensorRT – это библиотека, созданная для оптимизации моделей глубокого обучения, которая обеспечивает мгновенную ответную реакцию для самых сложных сетей. Она увеличивает пропускную способность и эффективность приложений глубокого обучения путем оптимизации обученных нейронных сетей – обычно в форме 32-битных или 16-битных операций – для операций INT8 пониженной точности.
NVIDIA DeepStream SDK использует мощь сервера на базе решений на архитектуре Pascal для одновременного декодирования и анализа до 93 видеопотоков в разрешении HD в реальном времени, в отличие от семи потоков в случае с серверами на базе двух CPU(6). Это позволяет решить одну из сложнейших задач в области применения искусственного интеллекта: восприятие масштабируемого видеоконтента – что является критически важным для таких областей применения ИИ, как самоуправляемые автомобили, интерактивные роботы, фильтрация и размещение рекламы. Интеграция глубокого обучения в видеоприложения позволит компаниям создавать умные инновационные сервисы, которые раньше были просто невозможны.
Последние новости
- Технологии | Вчера, 15:29
У Міноборони Канади підтвердили передачу ППО NASAMS - Бизнес | Вчера, 14:24
В США хотят вынудить Google продать свой браузер Chrome - Связь | Вчера, 13:15
Vodafone пропонує абонентам три місяці безплатного домашнього інтернету - Гаджеты | Вчера, 12:45
Официальный анонс Razer Kraken V4 Pro - Железо | Вчера, 12:15
Напольные весы Scarlett SC-BS33E028 – контроль веса с идеальной точностью - Технологии | Вчера, 11:45
ViewSonic зміцнює позиції лідера серед світових брендів інтерактивних дисплеїв - Безопасность | Вчера, 11:15
S.T.A.L.K.E.R. 2: Heart of Chornobyl стала лидером продаж в Steam - Технологии | Вчера, 10:45
Дания задержала судно, которое подозревают в порче кабелей в Балтийском море - Технологии | Вчера, 10:15
У США ігрову залежність визначають за низкою медичних критеріїв
Последние материалы
- Фотогалереи | 17 ноября, 19:41
Як виглядає аеропорт Луксор, Єгипет - Обзоры | 17 ноября, 12:43
Maxxter MX-CHR-1224V25M – інтелектуальний зарядний пристрій для АКБ - Обзоры | 10 ноября, 22:23
Maxxter MX-TST-1224 - протестує будь-який акумулятор - Обзоры | 5 ноября, 23:02
Gelius GP-PK008 - дитячий 4G-смартгодинник з персоналізацією - Обзоры | 3 ноября, 20:01
be quiet! Pure Wings 3 140 – 140-мілліметровий вентилятор для прогресивних систем - Обзоры | 27 октября, 20:58
Gelius Nexus Magnetic Wireless Charge GP-PBW100i – бездротовий 15Вт повербанк - Обзоры | 26 октября, 15:28
Gelius GP-FK001 – ліхтарик - брелок за 149 гривень - Обзоры | 22 октября, 13:04
RIVACASE 7661 – практично "армійський" рюкзак для великого міста - Фотогалереи | 16 октября, 13:29
Важкий бомбардувальний дрон використовують наші воїни проти окупанта
Популярные новости
- Бизнес | 19 ноября, 14:15
Знижки на Black Friday з OPPO AED Україна 5.00 - Технологии | Вчера, 11:45
ViewSonic зміцнює позиції лідера серед світових брендів інтерактивних дисплеїв 5.00 - Бизнес | 19 ноября, 13:45
Binance оголошує про партнерство з брендом Battery 5.00 - Технологии | Вчера, 15:29
У Міноборони Канади підтвердили передачу ППО NASAMS 0.00 - Бизнес | Вчера, 14:24
В США хотят вынудить Google продать свой браузер Chrome 0.00 - Связь | Вчера, 13:15
Vodafone пропонує абонентам три місяці безплатного домашнього інтернету 0.00 - Гаджеты | Вчера, 12:45
Официальный анонс Razer Kraken V4 Pro 0.00 - Железо | Вчера, 12:15
Напольные весы Scarlett SC-BS33E028 – контроль веса с идеальной точностью 0.00 - Безопасность | Вчера, 11:15
S.T.A.L.K.E.R. 2: Heart of Chornobyl стала лидером продаж в Steam 0.00