Подождите...Каталог
Компания Super Micro Computer, Inc. (SMCI), поставщик интегрированных IT-решений для ИИ, облаков, СХД и граничных сред/ сетей 5G, анонсировала новую гибкую платформу высокой плотности, оптимизированную под сценарии использования инференсов ИИ в граничных серверах. Так как компании сегодня запускают сложные модели ИИ (большие языковые модели, LLM) практически ежедневно, назрела потребность в новом аппаратном обеспечении инференсинга с большими объемами данных в граничных серверах с минимальными задержками. Новый трехъюнитовый сервер оснащен двумя процессорами Intel Xeon 6900 с ядрами P и поддерживает до 18 видеокарт. Инновационная система Supermicro сочетает в себе гибкость, производительность и теплоэнергетическую эффективность, позволяющую установить до 10 видеокарт двойной ширины в один сервер с традиционным воздушным охлаждением.
"Благодаря оптимизированному дизайну системы охлаждения сервер Supermicro способен обеспечить максимум производительности при высокой плотности платформы, которая поддерживает до 20 слотов PCIe и 256 ядер CPU в форм-факторе 3U и может развертываться в граничных дата-центрах," – сказал Чарльз Лианг (Charles Liang), президент и генеральный директор Supermicro. "Так как рынок ИИ растет экспоненциальными темпами, заказчикам нужны мощные и гибкие решения для запуска приложений для обработки данных на базе инференсов LLM на месте, то есть там, где происходит первичный сбор этих данных. Наша новая граничная система для ИИ в формате 3U позволяет использовать инновационные модели с минимальными задержками."
Новый сервер SYS-322GB-NR уже включает в себя два мощный процессора Intel Xeon 6900 с ядрами P, MRDIMM 8800 MT/с и до 20 слотов расширения PCIe 5.0. Эта система Supermicro поддерживает различные модели видеокарт, как одинарной, так и двойной ширины, а также позволяет занять часть слотов PCIe высокопроизводительными устройствами I/O или другими картами расширения. Кроме того, сервер предлагает до 6 ТБ памяти RDIMM и до 14 дисков NVMe формата E1.S или до шести формата U.2.
Пример области применения этой системы – автоматизированное производство, где новая система Supermicro может развертываться непосредственно в цеху в месте сбора данных от камер и датчиков без необходимости передавать данные для обработки на удаленную машину. Эта возможность снижает потребность в дополнительном сетевом оборудовании и сокращает время отклика. Еще один вариант места развертывания SYS-322GB-NR – большой пункт управления, где часть графических ускорителей ИИ можно заменить на мультидисплейные карты, что позволит серверу поддерживать до 64 независимых дисплеев.
Сервер SYS-322GB-NR был выставлен в павильоне Supermicro на MWC (Лас-Вегас, 8-10 октября). Также Supermicro представит системы, укомплектованные компонентами от NVIDIA, AMD и Intel (процессоры Xeon 6); в числе этих решений – граничные и телекоммуникационные системы семейства X14, как то:
Кроме аппаратных систем, Supermicro в партнерстве с NVIDIA представляет программные решения для локального (on-premise) развертывания ИИ и инференсинга в граничных средах, включая такие приложения, как Enterprise AI, Retail, Telco Edge и Financial Services. Мы представляем ключевые решения для генеративного ИИ, в том числе NVIDIA NIM, NVIDIA NeMo, NVIDIA Metropolis, приложения для удаленного сетевого менеджмента и безопасности. Telecom, Supermicro и NVIDIA продемонстрируют работу AI RAN в реальном времени с использованием высокопроизводительных решений NVIDIA и Supermicro и наглядными примерами практического применения ИИ.
Кроме того, на MWC в Лас-Вегасе представлено новое совместное решение Supermicro и Intel – усиленную по стандарту IP65 граничную систему для уличной установки Outdoor Edge со встроенным сетевым ускорителем ИИ и графическим ускорителем Intel Flex 170 для дата-центров. Это решение позволяет быстро и экономически эффективно развертывать множественные приватные сети 5G и граничные приложения для ИИ на одном устройстве. Эти сети могут эксплуатироваться различными пользователями, представляя собой масштабируемое решение для сред с высокой плотностью подключений, как то – промышленные предприятия и кампусы, места большого скопления людей и смарт-сити.
О компании Super Micro Computer, Inc.
Корпорация Supermicro (NASDAQ: SMCI, центральный офис расположен в г. Сан-Хосе, штат Калифорния) – мировой лидер в области интегрированных IT-решений, оптимизированных под различные области применения. Supermicro поставляет на рынок инновационные предложения для корпоративных, облачных, ИИ, 5G и граничных IT-инфраструктур. Мы предлагаем полностью готовые решения, включая серверы для ИИ, СХД, устройства IoT, сетевые коммутаторы, программное обеспечение и техническую поддержку. Производство серверов Supermicro опирается на экспертный опыт разработки материнских плат, систем питания и корпусов и вводит в практику инновации следующего поколения, обеспечивая заказчиков продвинутыми решениями всех уровней, от облаков до граничных сред. Наши продукты проектируются и производятся на собственных предприятиях (в США, на Тайване и в Нидерландах) с учетом глобальных тенденций в плане масштабируемости и эффективности и оптимизированы в расчете на минимизацию TCO и негативного влияния на окружающую среду (Green Computing). Портфолио наших решений Server Building Block Solutions, удостоенное ряда премий, позволяет заказчикам подобрать оптимальную платформу в точности под свои нагрузки и приложения благодаря возможности выбора из большого семейства систем, построенных на принципе гибкости и взаимозаменяемости модулей и компонентов, которое охватывает весь диапазон форм-факторов, процессоров, модулей памяти, видеокарт, накопителей, сетевых карт, блоков питания и опций охлаждения (кондиционирование, прямое воздушное охлаждение и жидкостное охлаждение).
Решения Supermicro выпускаются под торговыми марками Supermicro, Server Building Block Solutions и We Keep IT Green.
Источник: supermicro.com