Red Hat introduit AI 3.5, une mise à jour de l’ensemble de son portefeuille d’IA qui mise sur le contrôle, la sécurité et la transparence au sein des environnements de cloud hybride. Les organisations bénéficient de nouveaux outils pour une sécurité vérifiée, un contrôle des GPU et un déploiement efficace des agents d’IA.
Red Hat lance AI 3.5, une suite de la version AI 3.3 lancée précédemment, qui se concentre sur l’évolutivité, la sécurité et le contrôle opérationnel. Les équipes informatiques et de plateforme obtiennent ainsi une meilleure maîtrise de leurs workloads d’IA et de leur infrastructure. Cette mise à jour est particulièrement pertinente pour les entreprises travaillant avec le cloud hybride et ayant besoin d’une visibilité accrue sur l’utilisation et les performances de leurs applications d’IA. Red Hat AI 3.5 est disponible dès aujourd’hui, également en tant que composant de Red Hat AI Factory avec Nvidia.
Sécurité proactive et surveillance en temps réel
EvalHub, désormais disponible de façon générale au sein de Red Hat AI 3.5, permet aux entreprises de tester la sécurité de leurs modèles d’IA avant même leur mise en production. L’outil effectue des tests de performance axés sur les risques et génère automatiquement des rapports démontrant si les modèles respectent les exigences de conformité. Ceci rend le processus de déploiement de l’IA non seulement plus transparent, mais également plus sûr.
De nouveaux tableaux de bord offrent une visibilité en temps réel sur la santé des modèles d’IA, la consommation des GPU et les performances. Cela permet aux équipes de plateforme d’intervenir de manière proactive et de minimiser les risques. De plus, la surveillance intégrée assure une mesure de l’utilisation par utilisateur ainsi que des tableaux de bord de performance clairs.
Contrôle des GPU et des agents
Les entreprises disposant d’une infrastructure partagée profitent d’une multi-tenancy renforcée. Des hosted control planes reposant sur Red Hat OpenShift Virtualization permettent de prévoir une couche de contrôle distincte pour chaque client, tandis que le matériel reste géré de manière centralisée. Les GPU sont répartis de façon juste via une planification équitable (fair-share), et un traitement tenant compte des priorités donne la préséance aux tâches d’IA critiques.
Red Hat AI 3.5 introduit également de nouvelles capacités pour les agents d’IA. Avec AutoRAG, les données d’entreprise sont directement couplées aux agents, avec une prise en charge de plusieurs langues et de la recherche contextuelle. Des modèles d’agents (templates) prêts à l’emploi accélèrent des applications telles que la révision de code et le traitement de documents.