Avec GPT-in-a-Box 2.0 et des collaborations avec NVIDIA et Hugging Face, Nutanix favorise l’adoption de la GenAI des entreprises.
Nutanix annonce, lors de sa conférence .NEXT 2024 à Barcelone, de nouvelles fonctionnalités pour Nutanix GPT-in-a-Box telles que des intégrations avec les microservices d’inférence NVIDIA NIM et la bibliothèque Hugging Face Large Language Models (LLMs). L’entreprise a également annoncé le programme de partenariat Nutanix AI qui vise à rassembler les principaux partenaires de solutions et de services d’intelligence artificielle pour soutenir les clients qui cherchent à exécuter, gérer et sécuriser les applications d’IA générative (GenAI) sur Nutanix Cloud Platform et GPT-in-a-Box. Nutanix GPT-in-a-Box est une solution complète conçue pour simplifier pour les entreprises l’adoption de l’intelligence artificielle avec une intégration étroite avec Nutanix Objects et Nutanix Files pour le stockage des modèles et des données.
GPT-in-a-Box 2.0 offrira un support étendu du calcul accéléré de NVIDIA et LLM, ainsi qu’une gestion simplifiée des modèles de base et des intégrations avec les microservices NVIDIA NIMs et la bibliothèque Hugging Face LLM. La solution comprendra une interface utilisateur unifiée pour la gestion des modèles de base, la création de points de terminaison API, la gestion des clés d’accès de l’utilisateur final, et intégrera les fichiers et objets Nutanix, ainsi que les GPU NVIDIA Tensor Core.
L’expérience utilisateur sera simplifiée grâce à GPT-in-a-Box 2.0, avec une interface utilisateur graphique intégrée, un contrôle d’accès basé sur les rôles, l’auditabilité et la prise en charge des dark sites, entre autres avantages. Avec une interface utilisateur “pointer-cliquer” pour déployer et configurer NVIDIA NIM, les utilisateurs pourront déployer et exécuter facilement des charges de travail GenAI dans Enterprise et en périphérie. Cette fonctionnalité fait partie de la plateforme logicielle NVIDIA AI Enterprise pour le développement et le déploiement de l’IA de niveau production.
Nutanix a également annoncé un partenariat avec Hugging Face pour aider à accélérer le parcours de l’IA des clients. Il fournit un accès intégré à la bibliothèque de Hugging Face et l’exécution de grands modèles de langage (LLM) pour les clients de Nutanix. Les clients communs pourront utiliser Nutanix GPT-in-a-Box 2.0 pour consommer facilement les LLMs validés de Hugging Face et les exécuter efficacement.
Grâce à ce partenariat, Nutanix et Hugging Face vont développer une intégration personnalisée avec Text Generation Inference, la bibliothèque populaire open-source de Hugging Face pour le déploiement en production de larges modèles de langages. Cela permet la disponibilité de modèles de génération de texte sur le Hub de Hugging Face dans Nutanix GPT-in-a-Box 2.0. Il fournira un flux de travail transparent pour déployer des LLM d’IA validés de Hugging Face avec le soutien complet de Nutanix, augmentant de manière significative le nombre de LLM pris en charge. Cela créera un flux de travail validé et supporté conjointement pour les bibliothèques et les LLM de Hugging Face, garantissant aux clients un point de gestion unique pour une inférence de modèle cohérente.
Nutanix a également amélioré sa plateforme de données non structurées pour l’IA/ML et d’autres applications avec une performance, une densité et un coût total de possession accrus. Nutanix Unified Storage (NUS) supporte désormais une nouvelle plateforme low-cost dense de plus de 550 Téraoctets entièrement NVMe et jusqu’à 10 Gigaoctets/seconde de débit de lecture séquentielle à partir d’un seul nœud (proche de la vitesse de ligne pour un port ethernet de 100 Gigabit). Cela permet des lectures de données plus rapides et une utilisation plus efficace des ressources GPU. Pour accélérer davantage les applications AI/ML, Nutanix ajoutera également le support de NVIDIA GPUDirect Storage. Pour protéger les données précieuses et souvent confidentielles telles que les ensembles de données utilisés pour former et traiter les charges de travail AI/ML, Nutanix Data Lens étend la valeur de la cyber-résilience aux Objets en plus des données Fichiers. Un nouveau point de présence Data Lens basé à Francfort permet une adoption plus large chez les clients de l’UE, répondant à leurs propres besoins de conformité.
Nutanix a collaboré avec les principaux serveurs OEM pour offrir aux clients une large gamme de GPU optimisés pour l’IA et de systèmes GPU optimisés pour la densité. Ces GPU optimisés pour l’intelligence artificielle, y compris les GPU NVIDIA L40S, H100, L40 et L4, sont maintenant supportés sur Nutanix GPT-in-a-Box. Nutanix supporte aussi maintenant les systèmes GPU optimisés pour la densité de Dell, HPE et Lenovo pour aider à réduire le coût total de possession en permettant aux clients de déployer un plus petit nombre de systèmes pour répondre à leurs demandes de charge de travail. La société a également annoncé le support prévu du NX-9151 qui est basé sur l’architecture de référence NVIDIA MGX.
Nutanix a annoncé le nouveau programme de partenariat AI fournissant aux clients un accès simplifié à un écosystème élargi de partenaires AI pour fournir des solutions GenAI réelles. Cela dans le but de faciliter la stratégie d’intelligence artificielle des clients. Les partenaires aideront les organisations à construire, exécuter, gérer et sécuriser des applications GenAI tierces et maison sur Nutanix Cloud Platform et la solution Nutanix GPT-in-a-Box, ciblant les cas d’utilisation de l’IA les plus importants.
Ce large écosystème de partenaires aidera à répondre à divers cas d’utilisation, y compris les opérations, la cybersécurité, la détection de fraude et le support client, dans des secteurs verticaux tels que la santé, les services financiers, les services juridiques et professionnels. Les premiers partenaires sont les suivants : Codeium, DataRobot, DKube, Instabase, Lamini, Neural Magic, Robust Intelligence, RunAI et UbiOps.
De nombreux avantages pour les partenaires seront disponibles. Premièrement, tous les partenaires recevront la validation Nutanix AI Ready pour démontrer l’interopérabilité avec Nutanix Cloud Infrastructure, l’hyperviseur Nutanix AHV et la plateforme Nutanix Kubernetes. Les partenaires du programme bénéficieront également de solutions individuelles soulignant les avantages de la solution Nutanix et du partenaire. De plus, les partenaires sélectionnés recevront une note technique, un guide des meilleures pratiques ou une architecture de référence pour simplifier la mise en œuvre avec des clients communs. Ils bénéficieront aussi d’activités go-to-market et de génération de demande centrées sur les cas d’utilisation de l’IA pour les entreprises. Ils auront accès à des opportunités de promotion et de mise sur le marché, y compris la création de contenu, des articles de blog, des webinaires, des podcasts et d’autres événements, afin de contribuer à la sensibilisation et à la demande pour les cas d’utilisation clés.
