СХД Huawei OceanStor серии A снова заняла лидирующие позиции в глобальном рейтинге MLPerf

OceanStor A600 с архитектурой одного двухузлового модуля 2U может поддерживать требования к обучению 76 графических процессоров H100 с пропускной способностью 108 ГиБ/с на U и 104 ГиБ/с на клиента.

Сценарий проверки: система хранения OceanStor серии A лидирует на втором месте с разницей в 6,7 раза
В тесте Checkpointing серия Huawei OceanStor A показала выдающуюся производительность при моделировании одного сервера с 8 картами с 8 одновременными сценариями.

В сценарии llama3 8b пропускная способность чтения и записи для одного клиента достигла 40,2 ГиБ/с и 20,5 ГиБ/с соответственно, что позволило занять первое место.

В сценарии llama3_70b пропускная способность одного клиента достигает 68,8 ГиБ/с, а пропускная способность записи — 62,4 ГиБ/с, что позволяет ему занять второе место с перевесом в 6,7 раза и занять первое место.

Системы хранения данных Huawei OceanStor серии A продолжают внедрять инновации, ускоряя внедрение крупномасштабных модельных приложений.
В условиях растущих требований к вычислительной мощности в будущем, система хранения данных Huawei OceanStor серии A обеспечивает линейный рост производительности с увеличением числа клиентов и узлов хранения благодаря многомерным технологическим инновациям. Она обеспечивает стабильную пропускную способность кластера до 100 ТБ, эффективно поддерживает доступ к большим объёмам обучающих данных и обеспечивает ускорение всех процессов для масштабных сценариев обучения и продвижения.

Эта серия хранилищ отличается превосходной высокой масштабируемостью, а ее кластер поддерживает горизонтальное расширение емкости уровня EB для обеспечения потребностей хранения больших объемов данных; С точки зрения устойчивости данных, достижение высокой надежности 99,999% за счет архитектурных инноваций; Инновационное построение новой парадигмы данных на основе глобального пула ресурсов KV-кэша уровня PB, при обеспечении точности вывода, первая задержка токена (TTFT) может быть уменьшена до 90%, а пропускная способность вывода в сценариях с длинной последовательностью может быть увеличена более чем в 10 раз, что значительно оптимизирует процесс вывода; В то же время встроенная база знаний RAG поддерживает многомодальное извлечение скаляров, векторов, тензоров, графов и т. д., что значительно снижает порог для использования больших моделей ИИ.

Заглядывая в будущее, Huawei OceanStor A-series продолжит углублять свое развитие, выпуская ведущие продукты и решения для высокопроизводительных вычислений, обучения/продвижения больших моделей ИИ и других сценариев, а также достигая комплексного интеллектуального будущего вместе с заказчиками.