Certaines sources indiquent que Microsoft travaille en coulisse sur MAI-1 : un LLM avec plus de 500 milliards de paramètres. Il s’agirait du plus grand modèle d’IA que Microsoft développe sans passer par OpenAI.
Selon The Information, Microsoft prévoit de grands projets d’IA. En coulisses, on travaille d’arrache-pied sur un LLM baptisé MAI-1. Si les informations de The Information sont fondées, le LLM serait officiellement annoncé lors de la conférence Build, le 21 mai. Avec 500 milliards de paramètres, le MAI-1 serait le plus grand modèle de la gamme de Microsoft.
Microsoft a enlevé la quasi-totalité du personnel de la start-up Inflection AI et a aussi acquis la propriété intellectuelle pour 650 millions de dollars. Le modèle a toutefois été entièrement développé en interne. Et, détail important, le chef de projet, Mustafa Suleyman, est le cofondateur de Google DeepMind.
Qui a le plus gros ?
Avec son LLM énorme, Microsoft change de direction. Les modèles précédents développés en interne étaient des modèles légers avec un nombre « limité » de paramètres : Phi-3 Medium compte 14 milliards de paramètres. Le grand avantage des petits modèles d’IA est leur faible consommation d’énergie. Cela permet de réduire les coûts énergétiques et d’utiliser des applications mobiles.
Grâce à son partenariat avec OpenAI, Microsoft n’a pas eu besoin de développer ses propres grands modèles. Les applications Copilot fonctionnent toutes sur GPT-4. On ne connaît pas encore exactement comment Microsoft souhaite intégrer le nouveau modèle dans son propre écosystème. Peut-être que la conférence Build nous en dira plus à ce sujet.
Microsoft a déjà injecté des milliards de dollars dans des partenariats avec OpenAI et dans le développement de ses propres modèles. Malgré ces investissements massifs, la stratégie ne semble pas fructueuse pour Microsoft. Avec une capitalisation boursière de plus de trois mille milliards de dollars, Microsoft dépasse Apple en tant qu’entreprise la plus valorisée.