Brindamos a los clientes varios productos de comunicación a precios razonables y productos y servicios de alta calidad.
El almacenamiento Huawei OceanStor serie A alcanza una vez más la cima del rendimiento global de MLPerf
Escenario de entrenamiento: Huawei rompe récord mundial con un rendimiento de 698 GiB/s
En la prueba de entrenamiento 3D U-Net con los mayores requisitos de ancho de banda de almacenamiento, el almacenamiento Huawei OceanStor serie A logró tres primeros lugares a nivel mundial manteniendo una utilización de la GPU de más del 90 %.
El OceanStor A800 con una única arquitectura de nodo dual de 8U puede soportar las necesidades de entrenamiento de 255 GPU H100 y proporcionar continuamente un ancho de banda estable de 698 GiB/s.
El OceanStor A600 con una única arquitectura de nodo dual 2U puede soportar los requisitos de entrenamiento de 76 GPU H100, con un ancho de banda de 108 GiB/s por U y 104 GiB/s por cliente.
Escenario de control: el almacenamiento de la serie A de OceanStor lidera el segundo puesto por 6,7 veces
En la prueba Checkpointing, la serie Huawei OceanStor A mostró un rendimiento sobresaliente al simular un solo servidor de 8 tarjetas con 8 escenarios simultáneos.
En el escenario llama3 8b, el ancho de banda de lectura y escritura de un solo cliente alcanzó 40,2 GiB/s y 20,5 GiB/s respectivamente, ocupando el primer lugar.
En el escenario llama3_70b, el ancho de banda de un solo cliente alcanza los 68,8 GiB/s y el ancho de banda de escritura es de 62,4 GiB/s, liderando el segundo lugar por 6,7 veces y ocupando el primer lugar.
El almacenamiento de la serie Huawei OceanStor A continúa innovando y acelerando la implementación de aplicaciones de modelos a gran escala.
Ante la creciente demanda de potencia informática en el futuro, el almacenamiento Huawei OceanStor serie A logra un crecimiento de rendimiento lineal con el número de clientes y nodos de almacenamiento mediante innovación tecnológica multidimensional. Puede proporcionar un ancho de banda de clúster estable de hasta 100 TB, soportar eficientemente el acceso a datos de entrenamiento a gran escala y lograr una aceleración completa del proceso para escenarios de entrenamiento y promoción a gran escala.
Esta serie de almacenamiento tiene una excelente alta escalabilidad y su clúster admite la expansión horizontal de la capacidad de nivel EB para garantizar las necesidades de almacenamiento de datos masivos; En términos de resiliencia de datos, logrando una alta confiabilidad del 99,999% a través de la innovación arquitectónica; Construyendo de manera innovadora un nuevo paradigma de datos basado en el grupo de recursos compartidos globales de caché KV de nivel PB, al tiempo que garantiza la precisión de la inferencia, la latencia del primer token (TTFT) se puede reducir hasta en un 90% y el rendimiento de la inferencia en escenarios de secuencia larga se puede aumentar en más de 10 veces, optimizando significativamente la experiencia de inferencia; Al mismo tiempo, la base de conocimiento RAG incorporada admite la recuperación multimodal de escalares, vectores, tensores, gráficos, etc., lo que reduce en gran medida el umbral para el uso de modelos grandes de IA.
De cara al futuro, el almacenamiento de la serie A de Huawei OceanStor continuará profundizando su cultivo, lanzando productos y soluciones líderes para HPC, capacitación/promoción de modelos grandes de IA y otros escenarios, y logrando un futuro inteligente integral con los clientes.
Correo electrónico:
Lilicheng0510@163.com
Brindamos a los clientes varios productos de comunicación a precios razonables y productos y servicios de alta calidad.
Flat/Rm P, 4/F, Lladro Center, 72 Hoi Yuen Road, Kwun Tong, Hong Kong, China