Что такое H100 от Nvidia и почему это поможет сделать ИИ массовым

Что такое H100 от Nvidia и почему это поможет сделать ИИ массовым

После того как Nvidia представила рынку компьютерный чип H100, рыночная стоимость компании превысила 1 триллион долларов. Этот новый GPU (графический процессор) NVLink ясно показывает инвесторам, что шумиха около генеративного искусственного интеллекта (инструмента, который способен выполнять много задач за минимальное время) привлекает большие деньги.

Людей, которые хотят приобрести H100 настолько много, что некоторые готовы ждать до шести месяцев, чтобы заполучить заветную обновку.

Что это

H100 — это высокоэффективный компьютерный процессор, оснащенный новейшими архитектурными решениями и улучшенными технологиями, которые позволяют выполнять сложные задачи ИИ гораздо шустрее и эффективнее, чем предыдущие поколения. Проще говоря, это как, если бы вместо Altair-8800 — первый компьютер в мире, вам дали LUMI — один из самых мощных компьютеров в Европе.

H100 — это аппаратный ускоритель с 80 миллиардами транзисторов и двумя типами ядер, созданный с использованием ведущего в отрасли 4-нанометрового производственного процесса.

В чем уникальность

Для ответа на этот вопрос сразу распишем основные характеристики чипа, среди которых:

  • Высокая вычислительная мощность: H100 значительно увеличивает производительность и позволяет обрабатывать огромные объемы данных за кратчайшее время. Это важно для сложных задач машинного и глубокого обучения ИИ.
  • Энергоэффективность: агрегат разработан с учетом разумного потребления энергии, что уменьшает затраты на электроэнергию и повышает эффективность работы целых серверных ферм.
  • Расширяемость: он поддерживает различные интерфейсы и конфигурации, его можно использовать в разных системах и аппаратных решениях.

С преимуществами, которые дает H100, сфера его применения в жизни ощутимо широка. Например:

  • Медицина: для обработки и анализа медицинских изображений, диагностики заболеваний и поиска новых лекарственных препаратов. Крутая вычислительная мощность и энергоэффективность чипа ускоряет получение результатов медицинских исследований и повышает точность диагностики.
  • Транспорт: В сфере самоуправляемых транспортных средств H100 способен обрабатывать огромные объемы данных в реальном времени: данные с камер, лидаров и радаров, для принятия автопилотом решений на дороге.
  • Финансы: для анализа больших объемов данных, предсказаний трендов рынка, обнаружения мошенничества и оптимизации инвестиционных портфелей.
Читать статью  Что делать, если сильно греется видеокарта на компьютере или ноутбуке?

Как поможет сделать ИИ массовым

Возможности H100 значительно сокращают время на обучение ИИ и повышает их точность.

  • обещает до 9 раз более быстрое обучение ИИ
  • до 30 раз ускорить получение логических выводов ИИ в популярных моделях машинного обучения по сравнению с DGX A100

DGX A100 — это чип, который использовали до появления H100.

Повышенная скорость чипа связана с новым Transformer Engine, который был создан Google для ускорения конкретной модели машинного обучения.

Чарли Бойл (вице-президент и гендир DGX Systems в Nvidia) в недавнем интервью объяснил, чем технология Google поможет их модели: «Когда мы смотрим на оптимизацию конкретных функций, мы задаемся вопросом, что действительно может изменить ситуацию для наших клиентов и куда движется отрасль? И именно здесь поддержка ядра Tensor для Transformer действительно имеет место быть».

Если вам интересна сфера IT, и вы ищете классное комьюнити на русском языке, ждем вас в нашем телеграм-канале , который насчитывает больше 13 тысяч разработчиков. В нем постоянно обсуждают тренды в программировании и делятся ценным опытом.

NVIDIA TITAN RTX

Очередной «титановый» флагман был представлен компанией NVIDIA в начале декабря 2018 года. На момент своего выхода графический ускоритель NVIDIA TITAN RTX является самым мощным и в то же время самым дорогим пользовательским решением. Его стоимость на момент анонса составляет 2.500 долларов США или 221.990 рублей. Топовая видеокарта построена на ядре с маркировкой TU102 новой графической архитектуры Turing.

titan-rtx

Рассматриваемая видеокарта возглавляет рейтинг адаптеров NVIDIA и располагается на шаг выше GeForce RTX 2080 Ti. В сравнении с моделью 2080 Ti новинка имеет больше ядер CUDA, больше текстурных блоков, а также тензорных и RT-ядер. Базовая частота видеоядра у этих двух видеокарт одинаковая, но в режиме ускорения у TITAN RTX она на 255 МГц выше. Разрядность шины у «Титана» составляет 384 бит, что выводит пропускную способность на уровень в 672 ГБ/с. Объем видеопамяти нового поколения GDDR6 у флагманской модели составляет 24 ГБ. Энергопотребление соответствует производительности и составляет 280 Вт. Для сравнения приведём таблицу с характеристиками двух упомянутых моделей.

Читать статью  Лучшая видеокарта для процессоров AMD Phenom X6 и AMD Athlon X4 (Socket AM3 и FM1)

Технические характеристики

titan-rtx-gpu-z

NVIDIA TITAN RTX GeForce RTX 2080 Ti
Модель GPU (архитектура) TU102 (Turing) TU102 (Turing)
Техпроцесс TSMC 12 нм TSMC 12 нм
Кол-во транзисторов 18,6 млрд. 18,6 млрд.
Потоковых процессоров CUDA 4608 4352
Кол-во ядер Tensor 576 544
Кол-во ядер RT 72 68
Текстурных блоков 288 272
Блоков рендеринга (ROPs) 96 88
Частота ядра базовая 1350 МГц 1350 МГц
Частота ядра Boost 1770 МГц 1635 МГц
Шина памяти 384 бит 352 бит
Частота памяти 1750 МГц 1750 МГц
Объем памяти 24 ГБ 11 ГБ
Тип памяти GDDR6 GDDR6
Пропускная способность 672 ГБ/с 616 ГБ/с
Энергопотребление 280 Вт 260 Вт
Мин. системные требования 650 Вт 650 Вт
Максимальная температура GPU 89 °С 89 °С
Интерфейс PCI-E 3.0 PCI-E 3.0
Доп. питание 2x 8-конт. 2x 8-конт.
Коммуникация 2x NVLink 2x NVLink
Стоимость 2500 USD 1199 USD

Учитывая разницу в цене между этими двумя моделями более чем в два раза, преимущества TITAN RTX не так уж и велики.

titan-rtx-back

Внешний вид кожуха и дизайн радиатора рассматриваемой видеокарты практически однотипен модели GeForce RTX 2080 Ti. Только цвет кожуха «Титана» золотистый, по аналогии с флагманом 2017 года NVIDIA TITAN V. Питание видеокарты обеспечивается двумя 8-пиновыми разъёмами. Картинка выводится посредством коннекторов DisplayPort 1.4 и HDMI 2.0b.

titan-rtx-connectors

Тестирование в играх

Для тестирования использовалась следующая конфигурация стенда:

  • процессор Intel Core i7-6850K,
  • материнская плата MSI X99S MPower,
  • память G.Skill F4-3200C14Q-32GTZ (32 ГБ),
  • диск SSD Plextor PX-256M6Pro (256 МБ),
  • блок питания Corsair AX1500i (1500 Вт),
  • операционная система Windows 10 Pro x64,
  • драйвер GeForce 419.35 WHQL.

Тестирование проводилось при максимальных настройках графики с разрешениями экрана FullHD и 4K.

Читать статью  Процессор AMD Athlon II X2 215
Игры / Разрешение 1920х1080 px 3840х2160 px
Battlefield V 160 fps 95 fps
F1 2018 151 fps 97 fps
Shadow of the Tomb Raider 139 fps 61 fps
Assassin´s Creed Odyssey 90 fps 51 fps
Far Cry 5 143 fps 72 fps
Kingdom Come: Deliverance 92 fps 52 fps
Playerunknown’s Battlegrounds 196 fps 92 fps
GTA V 156 fps 65 fps
The Witcher 3: Wild Hunt 142 fps 88 fps

Заключение

Касательно игровой производительности — заявление о том, что TITAN RTX является самой мощной видеокартой, полностью подтверждается результатами тестов. Но при этом возникает вопрос — на сколько оправдана разница в стоимости по сравнению с GeForce RTX 2080 Ti? Понятно, что для игры в FullHD приобретать «Титан» нет никакого смысла. Но в играх при 2K или 4K превосходство TITAN RTX над моделью 2080 Ti составляет примерно 10%. А стоимость, напомним, больше, чем в два раза.

Вывод напрашивается такой: NVIDIA TITAN RTX может быть востребована лишь отдельными компьютерными энтузиастами, а также теми геймерами, для кого стоимость комплектующих в принципе не имеет значения. Но если вы привыкли тратить деньги с умом, то лучше присмотреться к адаптерам GeForce RTX 2080 Ti с заводским разгоном. Некоторые из них практически равны в производительности TITAN RTX.

Источник https://ya.zerocoder.ru/chto-takoe-h100-ot-nvidia-i-pochemu-eto-pomozhet-sdelat-ii-massovym/

Источник https://gtx-force.ru/nvidia-titan-rtx/

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *