Le nouveau service d’IA générative de l’OCI est entièrement géré, se trouve dans le cloud et donne accès à Llama 2 et à d’autres LLM puissants.
Oracle lance son service Oracle Cloud Infrastructure Generative AI très attendu. Ce service permet aux entreprises de traiter de grands modèles de langage (LLM) comme Llama 2 de Meta. Au total, le service prend en charge plus de 100 langues. Le portail inclut également une gestion améliorée des clusters pour les GPU et d’autres options de peaufinage.
Selon Oracle, le nouveau service offre une base pour ces modèles, qui peuvent ensuite être utilisés dans des services tels que la génération de texte, les résumés et la similarité sémantique.
En annonçant le service vers le milieu de l’année dernière, Oracle a décrit la plateforme comme une alternative au service Azure OpenAI de Microsoft. Ce service permet déjà de déployer des LLM qui réagissent à des données humaines par le biais d’une conversation.
On peut bien-sûr utiliser les modèles d’IA existants de Llama 2 ou d’autres langages, mais on augmente encore la performance en y ajoutant ses propres données. En utilisant le service OCI Generative AI Agents, on peut ajouter ces données en toute sécurité. Cette fonctionnalité, actuellement en version bêta, permet à un agent RAG d’utiliser les capacités de recherche de l’OCI Open Search. De cette manière, les informations les plus récentes sont toujours à votre disposition.
Oracle prévoit d’ajouter progressivement d’autres outils de recherche et d’agrégation de données à RAG, notamment Oracle Database 23c, AI Vector Search et MySQL HeatWave avec Vector Store.
Le service OCI Generative AI est disponible dans Oracle Cloud dans différentes régions. Pour en savoir plus sur toutes les fonctionnalités, consultez le blog d’Oracle.