Supermicro présente une solution totale à l'échelle du rack pour le stockage de l'IA afin d'accélérer les pipelines
Une solution pour des centaines de pétaoctets dans une solution multiniveau prennent en charge la capacité de données massive requise et la bande passante de données haute performance nécessaire pour les charges de travail évolutives de l'IA.
Supermicro fabricant de solutions informatiques globales pour l'IA, le cloud, le stockage et la 5G/Edge, lance une solution de stockage optimisée full-stack pour les pipelines de données d'IA et de ML, de la collecte des données à la livraison des données haute performance. Cette nouvelle solution maximise le délai de rentabilisation de l'IA en maintenant les pipelines de données GPU entièrement saturés. Pour l'entraînement de l'IA, des quantités massives de données brutes à des capacités pétascales peuvent être collectées, transformées et chargées dans le pipeline de flux de travail d'IA d'une organisation.
Cette solution Supermicro à plusieurs niveaux a démontré sa capacité à fournir des données de plusieurs pétaoctets pour les AIOps et les MLOps dans les environnements de production. L'ensemble de la solution à plusieurs niveaux de Supermicro est conçu pour réduire les risques de mise en œuvre, permettre aux organisations de former des modèles plus rapidement et d'utiliser rapidement les données résultantes pour l'inférence de l'IA.
« Avec 20 Po par rack de stockage flash haute performance pilotant quatre serveurs à refroidissement par air basés sur NVIDIA HGX H100 8-GPU optimisés pour les applications ou huit serveurs à refroidissement liquide basés sur NVIDIA HGX H100 8-GPU, les clients peuvent accélérer leurs applications d'IA et de ML fonctionnant à l'échelle du rack », a déclaré Charles Liang, président et CEO de Supermicro.
« Cette solution peut fournir un débit de lecture de 270 Go/s et 3,9 millions d'E/S par seconde par cluster de stockage dans le cadre d'un déploiement minimum et peut facilement évoluer jusqu'à des centaines de pétaoctets. En utilisant les derniers systèmes Supermicro avec des périphériques de stockage PCIe 5.0 et E3.S et le logiciel WEKA Data Platform, les utilisateurs verront des augmentations significatives dans la performance des applications d'IA avec cette solution testée sur le terrain à l'échelle du rack. Notre nouvelle solution de stockage pour l'entraînement de l'IA permet aux clients de maximiser l'utilisation de nos solutions au format rack les plus avancées de serveurs GPU, en réduisant leur coût total de possession et en augmentant les performances de l'IA. »
Les pétaoctets de données non structurées utilisés dans le traitement de l'apprentissage de l'IA à grande échelle doivent être mis à la disposition des serveurs GPU avec de faibles latences et une large bande passante pour que les GPU restent productifs. Le vaste portefeuille de serveurs de stockage Supermicro basés sur Intel et AMD est un élément crucial du pipeline de l'IA. Il comprend notamment des serveurs de stockage Supermicro Petascale All-Flash, qui ont une capacité de 983,04* To par serveur de capacité flash NVMe Gen 5 et fournissent jusqu'à 230 Go/s de bande passante en lecture et 30 millions d'E/S par seconde. Cette solution comprend également les serveurs de stockage de baie de disque Supermicro 90 pour le niveau de capacité objet. Cette solution complète et testée est disponible dans le monde entier pour les clients en ML, GenAI et autres charges de travail complexes en termes de calcul.
La nouvelle solution de stockage comprend :
- Niveau All-Flash - Serveurs de stockage Supermicro Petascale
- Niveau d'application - Serveurs GPU Supermicro 8U : AS -8125GS-TNHR et SYS-821GE-TNHR
- Niveau objet - Serveur de biaie de disque SuperStorage 4U Supermicro 90 utilisant le stockage objet Quantum ActiveScale
- Logiciels : WEKA Data Platform et le stockage d'objet Quantum ActiveScale
- Commutateurs : Commutateurs InfiniBand et Ethernet Supermicro
« La haute performance et la grande capacité flash des serveurs de stockage All-Flash Petascale de Supermicro complètent parfaitement le logiciel de plateforme de données AI-native de WEKA. Ensemble, ils offrent la vitesse, l'échelle et la simplicité inégalées exigées par les entreprises clientes de l'IA d'aujourd'hui », a déclaré Jonathan Martin, président de WEKA.
www.supermicro.com