В линейке Thor компании Broadcom появились сетевые адаптеры 400 GbE. Как и всё в наши дни, они позиционируются как продукты для ИИ, но в то же время серверы ИИ, использующие действительно высокоскоростные 400-гигабитные сетевые подключения, и кластеры ИИ – одна из тех областей применения сетевых карт, которые стимулируют быстрое скачкообразное развитие этих устройств от поколения к поколению.
Выход сетевых карт 400 GbE важен с той точки зрения, что эта скорость примерно соответствует той, которую может обеспечить шина PCIe Gen5 x16. Это значит, что стандарт Ethernet отвечает уровню интерфейсов PCIe Gen5 графических ускорителей ИИ, которые чаще всего предлагают 16 линий. Это также соответствует портам x16 современных процессоров. На этих скоростях крайне важными становятся такие фишки, как поддержка RDMA и разгрузка центрального процессора, поскольку без этого в нынешних условиях процессор не сможет обеспечивать коммуникацию на несколько сетевых карт 400 GbE.
Broadcom выпускает на рынок новое поколение сетевых адаптеров Thor. В принципе, поколение 800 GbE ожидается уже в обозримом будущем, и в этом поколении Broadcom также будет предлагать свой проприетарный модуль в виде чиплета для интеграции в продвинутые корпусировки. Мы полагаем, что с этого поколения начнется реальная история сетевых карт, совместимых со стандартами консорциума UEC (Ultra Ethernet Consortium), хотя потенциальные нестыковки сроков выпуска окончательной версии спецификаций UEC и сроков окончания разработки проектной документации на сами карты 800 GbE могут иметь место.
Не так давно мы делали обзор сетевой карты NVIDIA ConnectX-7 400GbE с Infiniband NDR, и чуть раньше – карты NVIDIA ConnectX-7 200 GbE в форм-факторе OCP NIC 3.0 с двумя портами IB NDR200. Поскольку Intel еще не представила свои 400-гигабитные сетевые карты, NVIDIA на данный момент является главным конкурентом Broadcom. Со своей стороны, они говорят, что их 5-нм 400-гигабитные сетевые карты отличаются, прежде всего, более низким энергопотреблением – благодаря продвинутой паре SerDes, обеспечивающей более длинные подключения при использовании кабелей DAC.
Broadcom представляет таблицу дальнодействия своего модуля SerDes 112G на примере подключения одной из своих 400-гигабитных сетевых карт к коммутатору Tomahawk 5.
Преимущество здесь в том, что можно использовать более тонкие пассивные DAC-кабели не только на коротких, но и на более длинных (до 4 метров) подключениях. Основная идея – не переходить на активные кабели или оптику, потому что это будет дороже и увеличит энергопотребление. Современные ИИ-серверы могут просто использовать 8-10 таких подключений 400 GbE, что позволит сэкономить энергию. Кроме того, использование более тонких кабелей DAC обычно подразумевает физически более гибкие и менее громоздкие коммуникации, чем при использовании более толстых DAC-кабелей. Если вы имеете опыт использования DAC-кабелей 400 и 40 GbE, то для вас выбор очевиден.
У нас есть два образца новых адаптеров, и мы уже начали их тестировать. Это имеет и практическое значение, так как карты NVIDIA ConnectX-7 за последние год-два стали почти дефицитом. Кроме того, Broadcom проводит более открытую партнерскую политику в отношении производителей DAC и оптических модулей, чем NVIDIA. Мы слышали, что ИИ-кластеры приостанавливаются, потому что им нужны кабели NVIDIA. В общем, приход на рынок еще одного поставщика 400-гигабитных сетевых карт с развитой экосистемой DAC-кабелей и оптических модулей важен с точки зрения дальнейшего продвижения стандарта 400 GbE в серверный сегмент.
Источник: www.servethehome.com