Lors de sa conférence annuelle .NEXT 2024 qui s'est tenue à Barcelone du 21 au 23 mai, Nutanix a annoncé de nouvelles fonctionnalités pour Nutanix GPT-in-a-Box, notamment des intégrations avec les microservices d'inférence NVIDIA NIM et la bibliothèque Hugging Face Large Language Models (LLMs). De plus, l’entreprise a annoncé le programme de partenariat Nutanix AI, visant à rassembler les principaux fournisseurs de solutions et de services d’intelligence artificielle destiné à soutenir les clients qui cherchent à exécuter, gérer et sécuriser les applications d'IA générative (GenAI) sur Nutanix Cloud Platform et GPT-in-a-Box. Nutanix GPT-in-a-Box est une solution complète conçue pour simplifier l'adoption par les entreprises de l’intelligence artificielle avec une intégration étroite avec Nutanix Objects et Nutanix Files pour le stockage des modèles et des données. 

Nutanix GPT-in-a-Box 2.0

Nutanix annonce GPT-in-a-Box 2.0, qui offrira un support étendu du calcul accéléré de NVIDIA et LLM, ainsi qu'une gestion simplifiée des modèles de base et des intégrations avec les microservices NVIDIA NIMs et la bibliothèque Hugging Face LLM. GPT-in-a-Box 2.0 comprendra une interface utilisateur unifiée pour la gestion des modèles de base, la création de points de terminaison API, la gestion des clés d'accès de l'utilisateur final, et intégrera les fichiers et objets Nutanix, ainsi que les GPU NVIDIA Tensor Core.

"Nous avons vu une belle réponse au lancement initial de Nutanix GPT-in-a-Box, validant les besoins des clients Enterprise pour des solutions logicielles on-premises qui simplifient le déploiement et la gestion des modèles d’intelligence artificielle et des points de terminaison d'inférence,”  a souligné Thomas Cornely, SVP of Product Management chez Nutanix. "L’enterprise est la nouvelle frontière pour l’IA Générative et nous sommes ravis de travailler avec notre écosystème de partenaires en pleine croissance pour rendre aussi simple que possible l'exécution d'applications GenAI sur place à l'échelle tout en maintenant le contrôle sur la confidentialité et les coûts.”

GPT-in-a-Box 2.0 apportera la simplicité Nutanix à l'expérience utilisateur avec une interface utilisateur graphique intégrée, un contrôle d'accès basé sur les rôles, l'auditabilité et la prise en charge des dark sites, entre autres avantages. Il fournira également une interface utilisateur “pointer-cliquer” pour déployer et configurer NVIDIA NIM, qui fait partie de la plateforme logicielle NVIDIA AI Enterprise pour le développement et le déploiement de l'IA de niveau production, afin de déployer et d'exécuter facilement des charges de travail GenAI dans Enterprise et en périphérie.

"Nous nous sommes associés à Nutanix comme l'un de nos principaux partenaires technologiques pour réaliser nos ambitions en matière d'IA tout en favorisant un avenir où la technologie est au service de l'humanité,” a déclaré Khalid Al Kaf, COO de Yahsat. "Nous ne nous contentons pas de suivre le rythme de l'avenir, nous le façonnons activement en tirant parti de Nutanix GPT-in-a-Box, qui nous offre des capacités de gestion simples de bout en bout et la possibilité de garder le contrôle sur nos données."

Partenariat avec Hugging Face pour offrir un accès intégré à la bibliothèque LLM

Nutanix a également annoncé un partenariat avec Hugging Face pour aider à accélérer le parcours de l'IA des clients en fournissant un accès intégré à la bibliothèque de Hugging Face et l'exécution de grands modèles de langage (LLM) pour les clients de Nutanix. Les clients communs pourront utiliser Nutanix GPT-in-a-Box 2.0 pour consommer facilement les LLMs validés de Hugging Face et les exécuter efficacement.

Grâce à ce partenariat, Nutanix et Hugging Face vont développer une intégration personnalisée avec Text Generation Inference, la populaire bibliothèque open-source de Hugging Face pour le déploiement en production de larges modèles de langages, et permet la disponibilité de modèles de génération de texte sur le Hub de Hugging Face dans Nutanix GPT-in-a-Box 2.0. Il fournira un flux de travail transparent pour déployer des LLM d'IA validés de Hugging Face avec le soutien complet de Nutanix, augmentant de manière significative le nombre de LLM pris en charge. Cela créera un flux de travail validé et supporté conjointement pour les bibliothèques et les LLM de Hugging Face, garantissant aux clients un point de gestion unique pour une inférence de modèle cohérente.

Renforcement de la plateforme de données non structurées pour l'IA/ML

Nutanix a également amélioré sa plateforme de données non structurées pour l'IA/ML et d'autres applications avec une performance, une densité et un coût total de possession accrus. Nutanix Unified Storage (NUS) supporte désormais une nouvelle plateforme low-cost dense de plus de 550 Téraoctets entièrement NVMe et jusqu'à 10 Gigaoctets/seconde de débit de lecture séquentielle à partir d'un seul nœud (proche de la vitesse de ligne pour un port ethernet de 100 Gigabit) permettant des lectures de données plus rapides et une utilisation plus efficace des ressources GPU. Nutanix ajoutera également le support de NVIDIA GPUDirect Storage pour accélérer davantage les applications AI/ML. En outre, pour protéger les données précieuses et souvent confidentielles telles que les ensembles de données utilisés pour former et traiter les charges de travail AI/ML, Nutanix Data Lens étend la valeur de la cyber-résilience aux Objets en plus des données Fichiers. Un nouveau point de présence Data Lens basé à Francfort permet une adoption plus large chez les clients de l'UE, répondant à leurs propres besoins de conformité.

Nutanix a collaboré avec les principaux serveurs OEM pour offrir aux clients une large gamme de GPU optimisés pour l'IA et de systèmes GPU optimisés pour la densité. Ces GPU optimisés pour l’intelligence artificielle, y compris les GPU NVIDIA L40S, H100, L40 et L4, sont maintenant supportés sur Nutanix GPT-in-a-Box. Nutanix supporte aussi maintenant les systèmes GPU optimisés pour la densité de Dell, HPE et Lenovo pour aider à réduire le coût total de possession en permettant aux clients de déployer un plus petit nombre de systèmes pour répondre à leurs demandes de charge de travail. La société a également annoncé le support prévu du NX-9151 qui est basé sur l'architecture de référence NVIDIA MGX.

Programme Partenaire AI de Nutanix

Pour soutenir davantage les stratégies d’intelligence artificielle des clients, Nutanix a annoncé le nouveau programme de partenariat AI qui fournit aux clients un accès simplifié à un écosystème élargi de partenaires AI pour fournir des solutions GenAI réelles. Les partenaires aideront les organisations à construire, exécuter, gérer et sécuriser des applications GenAI tierces et maison sur Nutanix Cloud Platform et la solution Nutanix GPT-in-a-Box, ciblant les cas d'utilisation de l'IA les plus importants.

Ce large écosystème de partenaires aidera à répondre à divers cas d'utilisation, y compris les opérations, la cybersécurité, la détection de fraude et le support client, dans des secteurs verticaux tels que la santé, les services financiers, les services juridiques et professionnels. Les premiers partenaires sont les suivants : Codeium, DataRobot, DKube, Instabase, Lamini, Neural Magic, Robust Intelligence, RunAI et UbiOps.

Les avantages du programme pour les partenaires sont les suivants :

- Validation Nutanix AI Ready : Tous les partenaires recevront la validation Nutanix AI Ready pour démontrer l'interopérabilité avec Nutanix Cloud Infrastructure, l'hyperviseur Nutanix AHV et la plateforme Nutanix Kubernetes.

- Solutions complètes : Les partenaires du programme bénéficieront de solutions individuelles soulignant les avantages de la solution Nutanix et du partenaire. De plus, les partenaires sélectionnés recevront une note technique, un guide des meilleures pratiques ou une architecture de référence pour simplifier la mise en œuvre avec des clients communs.

- Alignement promotionnel et go-to-market : Les partenaires bénéficieront d’activités go-to-market et de génération de demande centrées sur les cas d'utilisation de l'IA pour les entreprises. Ils auront accès à des opportunités de promotion et de mise sur le marché, y compris la création de contenu, des articles de blog, des webinaires, des podcasts et d'autres événements, afin de contribuer à la sensibilisation et à la demande pour les cas d'utilisation clés.

Nutanix GPT-in-a-Box 2.0 devrait être disponible dans la seconde moitié de 2024. La prise en charge de NVIDIA GPU Direct et de NX-9151 est actuellement en cours de développement. Les fonctionnalités supplémentaires annoncées dans NUS ainsi que Data Lens sont actuellement disponibles pour les clients.

Plus d'informations via ce lien.