OVHcloud introduit AI Endpoints : une plateforme serverless accessible offrant l’accès à plus de 40 modèles d’IA open source pour diverses applications.
OVHcloud a lancé AI Endpoints. Il s’agit d’une nouvelle solution serverless permettant aux développeurs d’intégrer aisément des fonctionnalités d’IA avancées dans leurs applications.
Intégration simplifiée
AI Endpoints propose une bibliothèque de plus de 40 LLM et modèles d’IA générative open source. La solution cible diverses applications telles que les chatbots, les modèles vocaux, les assistants de code et bien d’autres. Les développeurs de telles applications peuvent déployer des modèles sans se soucier de l’infrastructure sous-jacente ou des connaissances spécialisées en IA.
Le service comprend un environnement sandbox permettant aux utilisateurs de tester les fonctionnalités d’IA avant leur déploiement à grande échelle. Parmi les applications clés, soulignées par OVHcloud, figurent l’intégration de LLM pour les interactions clients, l’extraction automatisée de texte pour traiter les données non structurées, les environnements de conversion parole-texte et texte-parole, ainsi que l’assistance au code dans les environnements de développement.
Grâce aux modèles à poids ouverts, les utilisateurs ont la possibilité d’utiliser les modèles d’IA non seulement au sein d’OVHcloud, mais aussi sur leur propre infrastructure ou d’autres plateformes cloud. Cela permet aux organisations de conserver le contrôle sur leurs données et leurs implémentations.
AI Endpoints prend en charge de nombreux LLM, notamment Llama 3.3 70B, Mixtral 8x7B et Qwen 2.5 VL 72B. Les petits SLM (Small Language Models) efficaces sont également pris en charge, y compris Mistral Nemo.
Serverless dans l’UE
AI Endpoints est conçu de manière serverless, ce qui signifie qu’OVHcloud prend en charge l’intégralité de la gestion de l’infrastructure. De telles applications serverless sont pratiques à utiliser, mais créent une forme de verrouillage. C’est un aspect dont les hyperscalers comme AWS profitent traditionnellement. Avec cette solution, OVHcloud offre une alternative européenne.
lire aussi
OVHcloud lance sa propre plateforme de données intégrée en Europe
En effet, AI Endpoints fonctionne sur l’infrastructure cloud du groupe français OVHcloud, avec une gestion des données entièrement réalisée en Europe. Le fournisseur cloud met volontiers en avant ses racines européennes et souligne en outre que ses propres centres de données utilisent des serveurs refroidis par eau pour limiter la consommation d’énergie.
Le service est disponible en Europe, au Canada et dans la région Asie-Pacifique, avec un hébergement depuis le centre de données de Gravelines. Le prix est déterminé en fonction du nombre de tokens consommés par minute et par modèle.