AMD выпускает новое поколение Instinct MI

6 декабря компания AMD представила свой новый графический ускоритель Instinct MI300X, построенный на базе архитектуры AMD CDNA 3 и предназначенный для генерирующих новый контент систем искусственного интеллекта (generative AI) и создания и использования моделей Large Language Model (LLM), пишет ITBestsllers.

AMD Instinct MI300X оборудован 304 вычислительными модулями Compute Unit (CU) и имеет 192 Гбайт памяти HBM3 с пиковой пропускной способностью 5.3 Тбайт/сек. По сравнению с предыдущим поколением графических ускорителей Instinct MI250X новый Instinct обеспечивает увеличение на 40% числа CU, увеличение в 1.5 раза объема памяти и в 1.7 раз ее пиковой производительности, а также поддержку форматов исходных данных FP8 и sparsity.

Кроме того, как утверждает AMD, платформа Instinct Platform с 8 ускорителями MI300X работает до 1.6 раз быстрее при обработке данных с помощью LLM, чем выпущенная в ноябре платформа H100 HGX от Nvidia.

Также компания AMD представила модуль Акселератора — Accelerated Processing Unit (APU) Instinct MI300A, состоящий из 228 вычислительных модулей CU с архитектурой CDNA 3 и 24 ядер центрального процессора (CPU) с архитектурой Zen 4. Это устройство предназначено для высокопроизводительных вычислений.