NVIDIA представила новейшие решения для платформы глубокого обучения на базе архитектуры Pascal - графические ускорители NVIDIA Tesla P4 и P40 и программное обеспечение, которое значительно ускоряет и оптимизирует анализ информации для сервисов, использующих искусственный интеллект (ИИ).
Современные сервисы ИИ, такие, как активируемая голосом помощь, почтовые фильтры спама и движки генерации рекомендуемых фильмов и продуктов, становятся все сложнее. Нейронным сетям, которые для них нужны, требуется в 10 раз больше вычислений по сравнению с нейронными сетями еще год назад. Современные центральные процессоры не способны оперативно реагировать на запросы сервисов ИИ, что не лучшим образом сказывается на возможностях пользователей.
Ускорители Tesla P4 и P40 специально созданы для ускорения операций инференса – применения обученных глубоких нейронных сетей для распознавания речи, изображений и текста в ответ на запрос пользователей или устройств. Основанные на архитектуре Pascal, новые графические процессоры использую специальные инструкции инференса на базе 8-битных (INT8) данных, обеспечивая ответную реакцию в 45 раз быстрее по сравнению с CPU и в 4 раза быстрее по сравнению с GPU, представленными меньше года назад.
Ускорители Tesla P4 отличаются высочайшей экономичностью и предназначены для гипермасштабируемых дата-центров. Благодаря малым размерам и низкому энергопотреблению (от 50Вт), они подходят для любых серверов, что делает их в 40 раз экономичнее центральных процессоров в задачах использования результатов обучения нейронных сетей при обработке данных. Сервер с одним Tesla P4 может заменить 13 серверов на базе CPU, предназначенных для анализа данных, что сокращает общую стоимость владения в 8 раз, включая затраты на сервер и электричество.
Tesla P40 обеспечивает максимальную пропускную способность для задач глубокого обучения. С производительностью в 47 тера-операций в секунду (TOPS) с инструкциями INT8 сервер с восемью ускорителями Tesla P40 может заменить 140 серверов на базе CPU. С учетом средней стоимости одного сервера с CPU порядка $5000, общая экономия составит более $650 000.
“В лице Tesla P100, а теперь и Tesla P4 и P40, компания NVIDIA предлагает единственную комплексную платформу глубокого обучения для дата-центров, раскрывая огромные возможности искусственного интеллекта для решения самого широкого круга задач, - говорит Ян Бак (Ian Buck), директор по ускоренным вычислениям в NVIDIA. – Новые процессоры сокращают время обучения нейронных сетей с нескольких дней до нескольких часов. Они позволяют мгновенно извлечь данные из анализируемых материалов. И они выдают ответы в реальном времени пользователям сервисов ИИ”.
Решения Tesla P4 и P40 дополняют два новых программных продукта, предназначенных для ускорения работы ИИ-сервисов: NVIDIA TensorRT и NVIDIA DeepStream SDK.
TensorRT – это библиотека, созданная для оптимизации моделей глубокого обучения, которая обеспечивает мгновенную ответную реакцию для самых сложных сетей. Она увеличивает пропускную способность и эффективность приложений глубокого обучения путем оптимизации обученных нейронных сетей – обычно в форме 32-битных или 16-битных операций – для операций INT8 пониженной точности.
NVIDIA DeepStream SDK использует мощь сервера на базе решений на архитектуре Pascal для одновременного декодирования и анализа до 93 видеопотоков в разрешении HD в реальном времени, в отличие от семи потоков в случае с серверами на базе двух CPU(6). Это позволяет решить одну из сложнейших задач в области применения искусственного интеллекта: восприятие масштабируемого видеоконтента – что является критически важным для таких областей применения ИИ, как самоуправляемые автомобили, интерактивные роботы, фильтрация и размещение рекламы. Интеграция глубокого обучения в видеоприложения позволит компаниям создавать умные инновационные сервисы, которые раньше были просто невозможны.
Последние новости
- Бизнес | Сегодня, 14:15
Бензин будет стоить под 60 грн за литр, — Минфин - Технологии | Сегодня, 13:45
В порту Барселоны появится плавучая опреснительная станция - Интернет | Сегодня, 13:15
В Испании началась распродажа ЖД-билетов по 1 евро - Технологии | Сегодня, 12:45
На российскую базу в Армении совершена попытка кибератаки - Технологии | Сегодня, 12:15
КМДА хоче перетворити Гостинний двір на "Київський Лувр" - Технологии | Сегодня, 11:45
Україна може отримати від НАТО ще шість систем Patriot, - Шольц - Бизнес | Сегодня, 11:15
На ймовірність зради впливає професія, – дослідження - Связь | Сегодня, 10:45
У мережі активізувалася шахрайська схема від імені "Укрпошти" - Технологии | Сегодня, 10:15
Росія будує нові азіатські торгові шляхи, щоб обійти санкції через війну
Последние материалы
- Аналитика | Позавчера, 10:45
Мікрогенерація - шлях до автономності родин. Наявні можливості в Україні - до 10 ГВт на місяць. - Обзоры | Позавчера, 9:07
Gelius AeroWave S (GP-PCH01) – обігрівач для "вилазок" на природу - Обзоры | 5 апреля, 21:22
Bloody MR720 – ігрова гарнітура з RGB та трьома інтерфейсами підключення - Аналитика | 5 апреля, 9:47
Інноваційні рішення в галузі хостингу у 2024 - Обзоры | 3 апреля, 13:12
Что ожидать от очков смешанной реальности Apple Vision Pro - Обзоры | 2 апреля, 22:15
RIVACASE 8068 (Black) Bundle – твій комплект чемпіона! - Обзоры | 1 апреля, 6:27
Maxxter MX-CHR-1224V10A - мікропроцесорний зарядний пристрій для АКБ 12-24В - Обзоры | 24 марта, 16:18
Gelius Pro Smart Rope Kangaroo 2 (GP-SR002 Black) – твоя особиста скакалка з дисплеєм - Фотогалереи | 23 марта, 23:59
ДніпроГЕС в момент удару російських ракет
Популярные новости
- Бизнес | Сегодня, 14:15
Бензин будет стоить под 60 грн за литр, — Минфин 0.00 - Технологии | Сегодня, 13:45
В порту Барселоны появится плавучая опреснительная станция 0.00 - Интернет | Сегодня, 13:15
В Испании началась распродажа ЖД-билетов по 1 евро 0.00 - Технологии | Сегодня, 12:45
На российскую базу в Армении совершена попытка кибератаки 0.00 - Технологии | Сегодня, 12:15
КМДА хоче перетворити Гостинний двір на "Київський Лувр" 0.00 - Технологии | Сегодня, 11:45
Україна може отримати від НАТО ще шість систем Patriot, - Шольц 0.00 - Бизнес | Сегодня, 11:15
На ймовірність зради впливає професія, – дослідження 0.00 - Связь | Сегодня, 10:45
У мережі активізувалася шахрайська схема від імені "Укрпошти" 0.00 - Технологии | Сегодня, 10:15
Росія будує нові азіатські торгові шляхи, щоб обійти санкції через війну 0.00