Как работает создатель изображений

Oтдает приоритет совместимости, а не пиковой производительности, поскольку лишь немногие серверные шасси могут работать с картами PCIe мощностью выше 350 Вт (и менее 400 Вт), что означает, что TDP должен соответствовать требованиям. Однако, учитывая более высокую производительность и пропускную способность памяти, неясно, какую дополнительную производительность обеспечит NVIDIA. Подключения питания могут иметь здесь большое значение, но это также может быть случай, когда NVIDIA предоставит карте более высокую тактовую частоту, чем обычно, потому что целевой рынок в первую очередь ориентирован на тензорную работу, а не на использование всего графического процессора. один раз.


В противном случае решение NVIDIA выпустить, по сути, лучший Купить Список номеров сотовых телефонов контейнер H100, является странным выбором, учитывая их общее предпочтение деталям SXM, но это решение имеет смысл в контексте того, что нужно клиентам LLM. Большие кластеры H100 на базе SXM можно легко масштабировать до 8 графических процессоров, но пропускная способность NVLink, доступная между любыми двумя, ограничивается необходимостью прохождения через NVSwitches. Всего для двух конфигураций графического процессора сопряжение набора карт PCIe гораздо проще: фиксированное соединение гарантирует пропускную способность 600 ГБ/с между картами. Но, возможно, более важным является просто вопрос возможности .



быстрого развертывания H100 NVL в существующей инфраструктуре. Вместо того, чтобы требовать установки несущих плат H100 HGX, специально предназначенных для сопряжения графических процессоров, клиенты LLM могут просто добавить H100 NVL в новые сборки серверов или в качестве относительно быстрого обновления существующих сборок серверов. В конце концов, NVIDIA нацелена на очень специфический рынок, поэтому обычное преимущество SXM (и способность NVIDIA распределять свой коллективный вес) здесь может не применяться. В целом NVIDIA предлагает H100 NVL с пропускной способностью в 12 раз большей.