Supermicro представляет новую гибкую серверную платформу для граничных сред с ИИ

Компания Super Micro Computer, Inc. (SMCI), поставщик интегрированных IT-решений для ИИ, облаков, СХД и граничных сред/ сетей 5G, анонсировала новую гибкую платформу высокой плотности, оптимизированную под сценарии использования инференсов ИИ в граничных серверах. Так как компании сегодня запускают сложные модели ИИ (большие языковые модели, LLM) практически ежедневно, назрела потребность в новом аппаратном обеспечении инференсинга с большими объемами данных в граничных серверах с минимальными задержками. Новый трехъюнитовый сервер оснащен двумя процессорами Intel Xeon 6900 с ядрами P и поддерживает до 18 видеокарт. Инновационная система Supermicro сочетает в себе гибкость, производительность и теплоэнергетическую эффективность, позволяющую установить до 10 видеокарт двойной ширины в один сервер с традиционным воздушным охлаждением.

"Благодаря оптимизированному дизайну системы охлаждения сервер Supermicro способен обеспечить максимум производительности при высокой плотности платформы, которая поддерживает до 20 слотов PCIe и 256 ядер CPU в форм-факторе 3U и может развертываться в граничных дата-центрах," – сказал Чарльз Лианг (Charles Liang), президент и генеральный директор Supermicro. "Так как рынок ИИ растет экспоненциальными темпами, заказчикам нужны мощные и гибкие решения для запуска приложений для обработки данных на базе инференсов LLM на месте, то есть там, где происходит первичный сбор этих данных. Наша новая граничная система для ИИ в формате 3U позволяет использовать инновационные модели с минимальными задержками."

Новый сервер SYS-322GB-NR уже включает в себя два мощный процессора Intel Xeon 6900 с ядрами P, MRDIMM 8800 MT/с и до 20 слотов расширения PCIe 5.0. Эта система Supermicro поддерживает различные модели видеокарт, как одинарной, так и двойной ширины, а также позволяет занять часть слотов PCIe высокопроизводительными устройствами I/O или другими картами расширения. Кроме того, сервер предлагает до 6 ТБ памяти RDIMM и до 14 дисков NVMe формата E1.S или до шести формата U.2.

Пример области применения этой системы – автоматизированное производство, где новая система Supermicro может развертываться непосредственно в цеху в месте сбора данных от камер и датчиков без необходимости передавать данные для обработки на удаленную машину. Эта возможность снижает потребность в дополнительном сетевом оборудовании и сокращает время отклика. Еще один вариант места развертывания SYS-322GB-NR – большой пункт управления, где часть графических ускорителей ИИ можно заменить на мультидисплейные карты, что позволит серверу поддерживать до 64 независимых дисплеев.

Supermicro на конгрессе MWC (Mobile World Congress) в Лас-Вегасе

Сервер SYS-322GB-NR был выставлен в павильоне Supermicro на MWC (Лас-Вегас, 8-10 октября). Также Supermicro представит системы, укомплектованные компонентами от NVIDIA, AMD и Intel (процессоры Xeon 6); в числе этих решений – граничные и телекоммуникационные системы семейства X14, как то:

• SYS-222HE-FTN – серверы Hyper-E предлагают граничным средам телекоммуникационных сетей производительность класса дата-центров на базе двух процессоров Intel Xeon 6 в форм-факторе 2U укороченной глубины с фронтальным доступом к портам I/O;
• SYS-212B-FN2T – платформа 2U укороченной глубины для ИИ, предназначенная для развертывания в граничных средах телекоммуникационных сетей, с одним процессором Intel Xeon 6700 с ядрами E и возможностью установки GPU;
  Серверы Искусственного Интеллекта с GPU или возможностью установки GPU для тренировки нейросетей
• SYS-E403-14B-FRN2T – компактная машина с настенным креплением для удаленных граничных сред, предлагающая возможности процессора Intel Xeon 6700 с ядрами E и поддержкой GPU;
• AS-1115S-FDWTRT – платформа 1U, соответствующая стандартам NEBS и предназначенная для телекоммуникационных сетей ORAN, Core и поддерживаемых сервисов. Эта система оснащена процессором AMD EPYC 8004 и допускает установку одного графического ускорителя одинарной ширины для высоконагруженных приложений.

Кроме аппаратных систем, Supermicro в партнерстве с NVIDIA представляет программные решения для локального (on-premise) развертывания ИИ и инференсинга в граничных средах, включая такие приложения, как Enterprise AI, Retail, Telco Edge и Financial Services. Мы представляем ключевые решения для генеративного ИИ, в том числе NVIDIA NIM, NVIDIA NeMo, NVIDIA Metropolis, приложения для удаленного сетевого менеджмента и безопасности. Telecom, Supermicro и NVIDIA продемонстрируют работу AI RAN в реальном времени с использованием высокопроизводительных решений NVIDIA и Supermicro и наглядными примерами практического применения ИИ.

Кроме того, на MWC в Лас-Вегасе представлено новое совместное решение Supermicro и Intel – усиленную по стандарту IP65 граничную систему для уличной установки Outdoor Edge со встроенным сетевым ускорителем ИИ и графическим ускорителем Intel Flex 170 для дата-центров. Это решение позволяет быстро и экономически эффективно развертывать множественные приватные сети 5G и граничные приложения для ИИ на одном устройстве. Эти сети могут эксплуатироваться различными пользователями, представляя собой масштабируемое решение для сред с высокой плотностью подключений, как то – промышленные предприятия и кампусы, места большого скопления людей и смарт-сити.

О компании Super Micro Computer, Inc.

Корпорация Supermicro (NASDAQ: SMCI, центральный офис расположен в г. Сан-Хосе, штат Калифорния) – мировой лидер в области интегрированных IT-решений, оптимизированных под различные области применения. Supermicro поставляет на рынок инновационные предложения для корпоративных, облачных, ИИ, 5G и граничных IT-инфраструктур. Мы предлагаем полностью готовые решения, включая серверы для ИИ, СХД, устройства IoT, сетевые коммутаторы, программное обеспечение и техническую поддержку. Производство серверов Supermicro опирается на экспертный опыт разработки материнских плат, систем питания и корпусов и вводит в практику инновации следующего поколения, обеспечивая заказчиков продвинутыми решениями всех уровней, от облаков до граничных сред. Наши продукты проектируются и производятся на собственных предприятиях (в США, на Тайване и в Нидерландах) с учетом глобальных тенденций в плане масштабируемости и эффективности и оптимизированы в расчете на минимизацию TCO и негативного влияния на окружающую среду (Green Computing). Портфолио наших решений Server Building Block Solutions, удостоенное ряда премий, позволяет заказчикам подобрать оптимальную платформу в точности под свои нагрузки и приложения благодаря возможности выбора из большого семейства систем, построенных на принципе гибкости и взаимозаменяемости модулей и компонентов, которое охватывает весь диапазон форм-факторов, процессоров, модулей памяти, видеокарт, накопителей, сетевых карт, блоков питания и опций охлаждения (кондиционирование, прямое воздушное охлаждение и жидкостное охлаждение).

Решения Supermicro выпускаются под торговыми марками Supermicro, Server Building Block Solutions и We Keep IT Green.