L'écosystème ouvert Dell Generative AI intègre les accélérateurs AMD Instinct™?
DELL Technologies I 9:46 am, 7th December
Bruxelles, le 7 décembre 2023 - Dell Technologies et AMD s'associent pour dévoiler une extension du portefeuille Dell Generative AI Solutions. Cette initiative permet d’offrir aux entreprises une palette étendue d’options pour enrichir leurs parcours uniques dans le domaine de l’IA générative. Cette nouvelle technologie souligne le rôle essentiel joué par les écosystèmes ouverts, offrant ainsi aux clients des options variées et des solutions accessibles, personnalisées et fiables pour intégrer l'IA au traitement de leurs données.
L'IA générative (GenAI) émerge comme le catalyseur le plus prometteur de l'innovation de cette décennie. Selon la récente enquête de Dell Technologies, 78 % des décideurs informatiques expriment un enthousiasme significatif à l'égard du potentiel de l'IA générative pour leur entreprise. La majorité d'entre eux perçoivent cette technologie comme un moyen d'atteindre des niveaux accrus de productivité, de rationaliser les processus et de maîtriser les coûts. Il devient impératif d'exploiter cette avancée technologique pour que les entreprises restent compétitives dans cette ère numérique émergente.
La croissance exponentielle des données, et la nécessité de déterminer comment les exploiter, sont au cœur des enjeux de l'intelligence artificielle. Il est essentiel de veiller à ce que les organisations aient accès à la puissance de calcul nécessaire pour alimenter leur moteur d'innovation qu’est l’IA. Grâce à sa collaboration avec AMD, Dell Technologies propose à ses clients une gamme plus étendue d’options pour alimenter leurs charges de travail d'IA et de GenAI.
La solution Dell PowerEdge XE9680, intègrera le dernier accélérateur AMD Instinct MI300X, offrant ainsi aux clients un plus grand choix en matière de performances pour l’IA. Le PowerEdge XE9680 avec AMD Instinct MI300X offre des capacités de haute performance pour les entreprises qui cherchent à libérer la valeur de leurs données et à différencier leur activité avec des grands modèles de langage (LLM) personnalisés. Avec huit GPU MI300X, 192 Go de mémoire HBM (High Bandwidth Memory) à 5,3 To/s par GPU pour une capacité HBM3 cohérente totale de 1,5 To par serveur et plus de 21 pétaflops de performance FP16, le PowerEdge XE9680 avec MI300X est prêt à démocratiser davantage l'accès à la GenAI pour les entreprises désireuses d'entraîner des modèles plus grands, de réduire l’empreinte carbone des datacenters et de bénéficier d’un avantage concurrentiel.
Parallèlement à la prise en charge de l'accélérateur AMD MI300X Instinct Accelerator, Dell Technologies annonce également la prochaine étape des solutions Dell Generative AI, facilitant le déploiement d'une GenAI fiable par les entreprises grâce à la nouvelle conception Dell Validated Design for Generative AI with AMD.
Ce nouveau Dell Validated Design for Generative AI with AMD ROCm™ powered AI frameworks, disponible l'année prochaine, enrichi l'écosystème Dell Generative AI Solutions et inclura des LLM open-source. AMD ROCm™ est une pile open-source de pilotes, de boîtes à outils de développement et d'API pour les accélérateurs AMD Instinct. Les conceptions validées de Dell pour l'IA générative permettent aux clients de Dell de concevoir des plateformes GenAI de confiance adaptées à leurs besoins en écartant les incertitudes liées à l’intégration, la performance et le dimensionnement.
Le dernier eBook et la dernière infographie de Dell montrent comment les frameworks d'IA et de ML open-source optimisés par ROCm, tels que PyTorch, TensorFlow, ONNX-RT, JAX et Triton, bénéficient d'une prise en charge native pour le PowerEdge XE9680 avec MI300X, ce qui permet une intégration simplifiée des LLM basés sur ces frameworks de référence. Pour en savoir plus et découvrir des exemples de déploiement :
Partie 1 : AMD ROCm est-il prêt à déployer des charges de travail d'IA de premier plan ?
Partie 2 : Comment exécuter les modèles Hugging Face avec AMD ROCm sur Dell PowerEdge ?
Partie 3 : Comment exécuter Llama 2 via les modèles Hugging Face avec AMD ROCm ?
Le modèle PowerEdge XE9680 est un concentré de performances et un champion de la sécurité et de la simplicité. Le logiciel Dell Open Manage Enterprise simplifie et accélère le déploiement de l'infrastructure GenAI, tandis que le logiciel CloudIQ assure une automatisation intelligente depuis n'importe où. Le PowerEdge XE9680 est protégé par une solution intégrée de cyber-recovery et une approche Zero Trust étendue pour plus de sécurité.
Le PowerEdge XE9680 exploite la plateforme Instinct d'AMD alimentée par huit accélérateurs AMD Instinct MI300X, permettant une mise à l'échelle quasi linéaire et une faible latence de l'entraînement et de l'inférence GenAI distribués avec Global Memory Interconnect (xGMI) couvrant un cluster de serveurs PowerEdge interconnectant les GPU MI300X sur une structure AI basée sur Ethernet à l'aide d'une structure GPU validée par Dell avec Dell PowerSwitch Z9664F-ON.
En tant que membre de l'Ultra Ethernet Consortium (UEC), Dell continue de plaider en faveur de réseaux normalisés. Dell Technologies est dans une position unique pour exploiter tout le potentiel d'une approche ouverte, et la déploie dans l'ensemble de la solution GenAI : calcul, fabric et stockage. Le modèle Dell PowerEdge XE9680 avec accélérateurs AMD Instinct™ MI300X et Dell Validated Design For Generative AI avec AMD seront disponibles au cours du premier semestre 2024.
En savoir plus sur la famille de serveurs accélérés Dell PowerEdge XE.
Subscribe to our Newsletters
Stay up to date with our latest news
more news
NEW REGULATIONS LEAD TO NEW SOLUTIONS: LUXHUB IS BACK IN THE REGTECH100 LIST
by LUXHUB I 9:41 am, 11th December
After making the renowned REGTECH100 list in 2020 and 2022, LUXHUB is once again recognized as one of the 100 most innovative Regtech companies for the upcoming year. This award acknowledges the recent developments and solutions that LUXHUB has provided to its wide range of customers, located all over the EU.
How ServiceNow helps IT teams to improve their service operations
by NTT Data I 5:29 pm, 14th October
In every organization, the IT team wants to provide the best employee experience (EX). To do this, they need to automate and optimize their operational processes to reduce resolution time and, ultimately, be more proactive.
load more