Встречайте фантастическую L40S, более доступную альтернативу чрезвычайно дорогой Nvidia H100.
Видеокарта Nvidia H100 стала одним из самых популярных продуктов, выпущенных технологическим гигантом в последние годы, несмотря на существенные проблемы ценообразования и продолжительные задержки в цепочке заказов.
К счастью, доступны и более экономичные альтернативы,
которые не знакомы широкой общественности, а именно серия L40S.
Это мощные графические процессоры, родственные H100, они предлагают вдвое
больше памяти и остаются доступной альтернативой для пользователей, которые не
могут растянуть бюджет больше.
«Захватывающая» альтернатива H100
Как и аналоги H100 и A100,
графический процессор L40S разработан
специально для работы с нагрузками центров обработки данных следующего
поколения в эпоху искусственного интеллекта, способные справиться с интенсивным
давлением генеративного ИИ, а также LLM-вывода, включая огромные нагрузки 3D-графики.
Компании Serve The Home удалось заполучить L40S и похвалить продукт, назвав его «увлекательной» и более
доступной альтернативой H100.
«L40S – это
нечто совсем иное. Nvidia взяла базовую L40, графический процессор для визуализации центров обработки
данных, использующую новую архитектуру Ada Lovelace от Nvidia, после чего изменила настройки
так, чтобы оптимизировать графический чип на работу с искусственным интеллектом»,
— говорится в публикации.
L40S по-прежнему
может похвастаться типичными функциями предшествующей L40, включая ядра трассировки лучей,
выходы DisplayPort и NVENC/NVDEC с
поддержкой AVI.
Однако в данном конкретном случае гораздо больше мощности
видеокарта отдает части ИИ, что делает её мощным решением для обучающих систем
с ограниченным бюджетом.
L40S имеет
гораздо меньший объем памяти, нежели A100, что является заметным недостатком этой серии. Однако
недостаток этих объемов компенсируется производительностью.
Графический процессор поддерживает как Nvidia Transformer Engine, так и FP8, а это значит, что он
способен сократить размер данных и требует меньшей пропускной способности
памяти.
Показатели Nvidia также обещают увеличение тензорной производительности до
1466 терафлопс наряду с впечатляющей производительностью RT-ядер до 212 терафлопс.
Nvidia L40S: экономичная альтернатива
Цена, естественно, становится ключевым аргументом в пользу L40S. С текущим ценообразованием H100 приблизительно в 2,6
раза дороже графического процессора L40S, что
делает последнюю гораздо более доступным вариантом.
Доступность становится особенно заметным преимуществом.
Графические процессоры H100
оказались чрезвычайно популярными с момента их релиза, поэтому достать их
сегодня не просто.
Будучи малоизвестным графическим процессором, L40S становится
гораздо более доступной без продолжительного ожидания.