Le stockage Huawei OceanStor série A atteint une fois de plus le sommet des performances mondiales de MLPerf

L'OceanStor A600 avec une architecture à double nœud 2U unique peut prendre en charge les besoins de formation de 76 GPU H100, avec une bande passante de 108 Gio/s par U et 104 Gio/s par client.

Scénario de point de contrôle : le stockage OceanStor série A devance la deuxième place de 6,7 fois
Lors du test Checkpointing, la série Huawei OceanStor A a montré des performances exceptionnelles lors de la simulation d'un seul serveur à 8 cartes avec 8 scénarios simultanés

Dans le scénario llama3 8b, la bande passante de lecture et d'écriture d'un seul client a atteint respectivement 40,2 Gio/s et 20,5 Gio/s, se classant au premier rang.

Dans le scénario llama3_70b, la bande passante client unique atteint 68,8 Gio/s et la bande passante d'écriture est de 62,4 Gio/s, devançant la deuxième place de 6,7 fois et se classant au premier rang.

Le stockage Huawei OceanStor série A continue d'innover, accélérant la mise en œuvre d'applications de modèles à grande échelle
Face à la demande croissante de puissance de calcul à l'avenir, le stockage Huawei OceanStor série A affiche une croissance linéaire des performances en fonction du nombre de clients et de nœuds de stockage grâce à une innovation technologique multidimensionnelle. Il offre une bande passante de cluster stable jusqu'à 100 To, prend en charge efficacement l'accès aux données de formation à grande échelle et accélère pleinement les processus pour les scénarios de formation et de promotion à grande échelle.

Cette série de stockage présente une excellente évolutivité élevée et son cluster prend en charge l'extension horizontale de la capacité de niveau EB pour garantir les besoins de stockage de données massives ; En termes de résilience des données, atteignant une fiabilité élevée de 99,999 % grâce à l'innovation architecturale ; En construisant de manière innovante un nouveau paradigme de données basé sur le pool de ressources partagées global KV Cache de niveau PB, tout en garantissant la précision de l'inférence, la latence du premier jeton (TTFT) peut être réduite jusqu'à 90 %, et le débit d'inférence dans les scénarios de séquence longue peut être augmenté de plus de 10 fois, optimisant considérablement l'expérience d'inférence ; Dans le même temps, la base de connaissances RAG intégrée prend en charge la récupération multimodale de scalaires, de vecteurs, de tenseurs, de graphiques, etc., réduisant considérablement le seuil d'utilisation de grands modèles d'IA.

En regardant vers l'avenir, le stockage Huawei OceanStor série A continuera d'approfondir sa culture, en lançant des produits et des solutions de pointe pour le HPC, la formation/promotion de grands modèles d'IA et d'autres scénarios, et en réalisant un avenir intelligent complet avec les clients.