Что такое H100 от Nvidia и почему это поможет сделать ИИ массовым
После того как Nvidia представила рынку компьютерный чип H100, рыночная стоимость компании превысила 1 триллион долларов. Этот новый GPU (графический процессор) NVLink ясно показывает инвесторам, что шумиха около генеративного искусственного интеллекта (инструмента, который способен выполнять много задач за минимальное время) привлекает большие деньги.
Людей, которые хотят приобрести H100 настолько много, что некоторые готовы ждать до шести месяцев, чтобы заполучить заветную обновку.
Что это
H100 — это высокоэффективный компьютерный процессор, оснащенный новейшими архитектурными решениями и улучшенными технологиями, которые позволяют выполнять сложные задачи ИИ гораздо шустрее и эффективнее, чем предыдущие поколения. Проще говоря, это как, если бы вместо Altair-8800 — первый компьютер в мире, вам дали LUMI — один из самых мощных компьютеров в Европе.
H100 — это аппаратный ускоритель с 80 миллиардами транзисторов и двумя типами ядер, созданный с использованием ведущего в отрасли 4-нанометрового производственного процесса.
В чем уникальность
Для ответа на этот вопрос сразу распишем основные характеристики чипа, среди которых:
- Высокая вычислительная мощность: H100 значительно увеличивает производительность и позволяет обрабатывать огромные объемы данных за кратчайшее время. Это важно для сложных задач машинного и глубокого обучения ИИ.
- Энергоэффективность: агрегат разработан с учетом разумного потребления энергии, что уменьшает затраты на электроэнергию и повышает эффективность работы целых серверных ферм.
- Расширяемость: он поддерживает различные интерфейсы и конфигурации, его можно использовать в разных системах и аппаратных решениях.
С преимуществами, которые дает H100, сфера его применения в жизни ощутимо широка. Например:
- Медицина: для обработки и анализа медицинских изображений, диагностики заболеваний и поиска новых лекарственных препаратов. Крутая вычислительная мощность и энергоэффективность чипа ускоряет получение результатов медицинских исследований и повышает точность диагностики.
- Транспорт: В сфере самоуправляемых транспортных средств H100 способен обрабатывать огромные объемы данных в реальном времени: данные с камер, лидаров и радаров, для принятия автопилотом решений на дороге.
- Финансы: для анализа больших объемов данных, предсказаний трендов рынка, обнаружения мошенничества и оптимизации инвестиционных портфелей.
Как поможет сделать ИИ массовым
Возможности H100 значительно сокращают время на обучение ИИ и повышает их точность.
- обещает до 9 раз более быстрое обучение ИИ
- до 30 раз ускорить получение логических выводов ИИ в популярных моделях машинного обучения по сравнению с DGX A100
DGX A100 — это чип, который использовали до появления H100.
Повышенная скорость чипа связана с новым Transformer Engine, который был создан Google для ускорения конкретной модели машинного обучения.
Чарли Бойл (вице-президент и гендир DGX Systems в Nvidia) в недавнем интервью объяснил, чем технология Google поможет их модели: «Когда мы смотрим на оптимизацию конкретных функций, мы задаемся вопросом, что действительно может изменить ситуацию для наших клиентов и куда движется отрасль? И именно здесь поддержка ядра Tensor для Transformer действительно имеет место быть».
Если вам интересна сфера IT, и вы ищете классное комьюнити на русском языке, ждем вас в нашем телеграм-канале , который насчитывает больше 13 тысяч разработчиков. В нем постоянно обсуждают тренды в программировании и делятся ценным опытом.
NVIDIA TITAN RTX
Очередной «титановый» флагман был представлен компанией NVIDIA в начале декабря 2018 года. На момент своего выхода графический ускоритель NVIDIA TITAN RTX является самым мощным и в то же время самым дорогим пользовательским решением. Его стоимость на момент анонса составляет 2.500 долларов США или 221.990 рублей. Топовая видеокарта построена на ядре с маркировкой TU102 новой графической архитектуры Turing.
Рассматриваемая видеокарта возглавляет рейтинг адаптеров NVIDIA и располагается на шаг выше GeForce RTX 2080 Ti. В сравнении с моделью 2080 Ti новинка имеет больше ядер CUDA, больше текстурных блоков, а также тензорных и RT-ядер. Базовая частота видеоядра у этих двух видеокарт одинаковая, но в режиме ускорения у TITAN RTX она на 255 МГц выше. Разрядность шины у «Титана» составляет 384 бит, что выводит пропускную способность на уровень в 672 ГБ/с. Объем видеопамяти нового поколения GDDR6 у флагманской модели составляет 24 ГБ. Энергопотребление соответствует производительности и составляет 280 Вт. Для сравнения приведём таблицу с характеристиками двух упомянутых моделей.
Технические характеристики
| NVIDIA TITAN RTX | GeForce RTX 2080 Ti | |
| Модель GPU (архитектура) | TU102 (Turing) | TU102 (Turing) |
| Техпроцесс | TSMC 12 нм | TSMC 12 нм |
| Кол-во транзисторов | 18,6 млрд. | 18,6 млрд. |
| Потоковых процессоров CUDA | 4608 | 4352 |
| Кол-во ядер Tensor | 576 | 544 |
| Кол-во ядер RT | 72 | 68 |
| Текстурных блоков | 288 | 272 |
| Блоков рендеринга (ROPs) | 96 | 88 |
| Частота ядра базовая | 1350 МГц | 1350 МГц |
| Частота ядра Boost | 1770 МГц | 1635 МГц |
| Шина памяти | 384 бит | 352 бит |
| Частота памяти | 1750 МГц | 1750 МГц |
| Объем памяти | 24 ГБ | 11 ГБ |
| Тип памяти | GDDR6 | GDDR6 |
| Пропускная способность | 672 ГБ/с | 616 ГБ/с |
| Энергопотребление | 280 Вт | 260 Вт |
| Мин. системные требования | 650 Вт | 650 Вт |
| Максимальная температура GPU | 89 °С | 89 °С |
| Интерфейс | PCI-E 3.0 | PCI-E 3.0 |
| Доп. питание | 2x 8-конт. | 2x 8-конт. |
| Коммуникация | 2x NVLink | 2x NVLink |
| Стоимость | 2500 USD | 1199 USD |
Учитывая разницу в цене между этими двумя моделями более чем в два раза, преимущества TITAN RTX не так уж и велики.
Внешний вид кожуха и дизайн радиатора рассматриваемой видеокарты практически однотипен модели GeForce RTX 2080 Ti. Только цвет кожуха «Титана» золотистый, по аналогии с флагманом 2017 года NVIDIA TITAN V. Питание видеокарты обеспечивается двумя 8-пиновыми разъёмами. Картинка выводится посредством коннекторов DisplayPort 1.4 и HDMI 2.0b.
Тестирование в играх
Для тестирования использовалась следующая конфигурация стенда:
- процессор Intel Core i7-6850K,
- материнская плата MSI X99S MPower,
- память G.Skill F4-3200C14Q-32GTZ (32 ГБ),
- диск SSD Plextor PX-256M6Pro (256 МБ),
- блок питания Corsair AX1500i (1500 Вт),
- операционная система Windows 10 Pro x64,
- драйвер GeForce 419.35 WHQL.
Тестирование проводилось при максимальных настройках графики с разрешениями экрана FullHD и 4K.
| Игры / Разрешение | 1920х1080 px | 3840х2160 px |
| Battlefield V | 160 fps | 95 fps |
| F1 2018 | 151 fps | 97 fps |
| Shadow of the Tomb Raider | 139 fps | 61 fps |
 Assassin´s Creed Odyssey | 90 fps | 51 fps |
| Far Cry 5 | 143 fps | 72 fps |
| Kingdom Come: Deliverance | 92 fps | 52 fps |
| Playerunknown’s Battlegrounds | 196 fps | 92 fps |
| GTA V | 156 fps | 65 fps |
| The Witcher 3: Wild Hunt | 142 fps | 88 fps |
Заключение
Касательно игровой производительности — заявление о том, что TITAN RTX является самой мощной видеокартой, полностью подтверждается результатами тестов. Но при этом возникает вопрос — на сколько оправдана разница в стоимости по сравнению с GeForce RTX 2080 Ti? Понятно, что для игры в FullHD приобретать «Титан» нет никакого смысла. Но в играх при 2K или 4K превосходство TITAN RTX над моделью 2080 Ti составляет примерно 10%. А стоимость, напомним, больше, чем в два раза.
Вывод напрашивается такой: NVIDIA TITAN RTX может быть востребована лишь отдельными компьютерными энтузиастами, а также теми геймерами, для кого стоимость комплектующих в принципе не имеет значения. Но если вы привыкли тратить деньги с умом, то лучше присмотреться к адаптерам GeForce RTX 2080 Ti с заводским разгоном. Некоторые из них практически равны в производительности TITAN RTX.
Источник https://ya.zerocoder.ru/chto-takoe-h100-ot-nvidia-i-pochemu-eto-pomozhet-sdelat-ii-massovym/
Источник https://gtx-force.ru/nvidia-titan-rtx/