Графический ускоритель AMD Instinct MI350 с 288 ГБ памяти в следующем году предложит 35-кратное увеличение производительности инференсов ИИ

Это впечатляющая новость. AMD добавляет новую память HBM3E к графическому чипу MI300X и создает ускоритель MI325X, который выходит уже в 2024 году. Также в своем программном докладе на Computex 2024 компания представила ускоритель следующего поколения AMD MI350 на базе архитектуры CDNA 4, который запланирован на 2025 год. В докладе заявлены потрясающие показатели производительности ИИ.

288-гигабайтный ускоритель AMD Instinct MI325X выходит в этом году, MI350 – в следующем

AMD представила новую карту выпуска ускорителей AMD Instinct. Новые модели будут выходить с годичным интервалом. Что здесь особенно интересно: эволюция архитектуры от CDNA 3 в 2023-2024 годах до CDNA 4 в 2025 году по-прежнему подразумевает наименование модели MI3xx, тогда как в 2026 году с приходом архитектуры CDNA Next выйдет модель MI400; возможно, это значит, что в 2026 году мы увидим некий сюрприз от AMD. Действительно, почему AMD называет эту архитектуру CDNA Next, а не просто CDNA 5? А может, они замышляют какую-то хитрость с этой CDNA Cinco [испанск. – «пять»]? Так или иначе, сегодня мы можем только гадать, что значит Next после CDNA 1-4.

На 2024 год мы имеем ускоритель AMD Instinct MI325X. Он использует память HBM3E емкостью до 288 ГБ. Больший объем памяти означает больший размер модели ускорителя.

AMD выставляет MI325X против NVIDIA H200. Здесь AMD рассматривает H200 как пример ускорителя 2024 года, однако новые платформы Blackwell также начнут выходить в этом году.

Конкурирующим аналогом Blackwell, очевидно, выступит ускоритель AMD Instinct MI350X. Этот 3-нм компонент будет поддерживать форматы данных FP4 и FP6 и представлять архитектуру CDNA 4, в отличие от MI300X и MI325X, базирующихся на CDNA 3.

Вот это просто сумасшедший слайд – AMD заявляет 35-кратное увеличение производительности инференсов на архитектуре CDNA 4.

Действительно, в 35 раз? Отчасти это может быть обусловлено поддержкой короткого формата FP4, но все-таки это очень много для годового прироста производительности.

Резюме

AMD также сообщила, что все это ориентировано на стандарт Ultra Ethernet Consortium (UEC) для горизонтального масштабирования сетей ИИ. И мы уже писали, что разрабатываемый стандарт UALink – это проект аналога NVLink от AMD, Intel, Broadcom, Cisco и других для вертикального масштабирования.

Тем не менее, AMD выставляет свои ускорители ИИ против ускорителей от NVIDIA. Этим объясняется и то, что в 2024 году AMD продает свои ускорители более активно, чем Intel.

Чего мы, однако, здесь не получаем – это модернизированной версии MI300A, что удивительно, поскольку NVIDIA довольно активно продвигает Grace Hopper, а потом уже Grace Blackwell.