Presque tout le monde de la technologie se rallie à l’Open Secure AI Alliance, qui vise à promouvoir l’IA open source. Les grands spécialistes de l’IA avec leurs modèles phares brillent par leur absence.
Nvidia annonce le lancement de l’Open Secure AI Alliance. Les membres fondateurs ne sont pas des moindres. Presque toutes les grandes entreprises technologiques soutiennent l’initiative. Parmi les principaux acteurs : Microsoft, HPE, Dell Technologies, IBM, SAP, Salesforce, Red Hat, Snowflake, Databricks et la Linux Foundation. Ils estiment que les logiciels open source sont critiques pour l’économie mondiale et ne voient aucune exception en ce qui concerne l’IA.
Poussé à créer un compte X
Le PDG de Databricks, Ali Ghodsi, s’est exprimé avec ferveur sur l’importance de l’open source lors de son Data+AI Summit le mois dernier. « Je pense que ce serait un risque majeur si l’open source était interdit », a-t-il déclaré. « Tant que l’open source existe en tant qu’alternative, les universités et les chercheurs du monde entier peuvent examiner l’intérieur de la technologie. Si cela disparaît, il ne restera qu’une poignée d’entreprises de pointe autorisées à regarder sous le capot. »
« Je pense que ce serait un risque majeur si l’open source était interdit. »
Ali Ghodsi, PDG de Databricks
Cet avis est partagé par les participants. Le PDG de Nvidia, Jensen Huang, est même si passionné par l’importance de l’IA ouverte qu’il a créé un compte X. Le gourou de l’IA, qui avait réussi à éviter le réseau social de Musk jusqu’à présent, s’est senti obligé de rompre une lance en faveur de l’IA ouverte par le biais d’une lettre ouverte.
Crainte d’une interdiction
Cela semble nécessaire, du moins aux États-Unis. Là-bas, des voix s’élèvent au sein du gouvernement pour restreindre l’IA ouverte. Cela s’explique en partie par le fait que le domaine de l’IA ouverte, qu’il s’agisse d’open source ou d’open weight, est pour l’instant dominé par la Chine. Pensons à Deepseek ou GLM 5.2.
L’open weight signifie ici que le modèle entraîné, avec tous ses paramètres, est disponible ouvertement en tant que tel, mais pas nécessairement toutes les données avec lesquelles il a été entraîné. Les « weights » (poids) font référence aux composants de base du LLM.
On craint que les modèles américains fermés ne soient utilisés à mauvais escient pour entraîner des modèles ouverts via ce qu’on appelle la distillation. Le gouvernement américain, jamais avare d’initiatives pour jeter le bébé avec l’eau du bain, y voit une motivation pour se retourner contre l’IA ouverte.
L’IA ouverte sans OpenAI
Les signataires de la lettre ouverte sont en partie les mêmes organisations qui se rallient aujourd’hui à l’Open Secure AI Alliance. Sans surprise, la lettre n’a pas été signée par OpenAI, Anthropic et Google. Ces trois entreprises se distinguent également par leur absence au sein de l’Open Secure AI Alliance.
La raison en est évidente. Les trois parties investissent des milliards dans le développement de leurs modèles dits frontier. Ces modèles d’IA sont systématiquement les plus puissants de la planète lors de leur lancement. Cependant, le développement de l’IA va très vite : quelques mois après le lancement, des modèles ouverts aux performances similaires apparaissent généralement.
Des billions en jeu
Ce n’est pas une bonne nouvelle pour les entreprises d’IA. OpenAI et Anthropic envisagent toutes deux une introduction en bourse et souhaitent être valorisées à plus d’un billion de dollars. Cette valorisation est difficile à justifier lorsqu’une alternative générique au produit phare est disponible gratuitement dans le monde entier en moins d’un an.
Nvidia n’en a cure. Jensen Huang gagne son argent lorsque les modèles d’IA sont entraînés et utilisés. Pour cela, des accélérateurs Nvidia sont nécessaires. Que ces modèles d’IA soient ouverts ou fermés, un accélérateur tourne en dessous. Plus l’IA est largement diffusée, mieux c’est pour Nvidia.
Agnosticisme LLM
Les autres membres de l’Open Secure AI Alliance ont également intérêt à la disponibilité d’une grande quantité d’IA, de préférence ouverte. Databricks et Snowflake, par exemple, se positionnent comme des plateformes de données agnostiques vis-à-vis des LLM. Ils fournissent le cadre qui permet à l’IA de fonctionner ; c’est au client d’utiliser le modèle de son choix comme cerveau.
Microsoft a également laissé passer le train de l’IA. Malgré tout, les investissements initiaux de plusieurs milliards dans OpenAI ont surtout conduit à une relation tendue entre les deux. Microsoft considère désormais que son rôle consiste principalement à intégrer l’IA, et cela ne doit pas nécessairement se faire avec un LLM coûteux d’Anthropic ou d’OpenAI.
SpaceX participe
Il y a un participant notable dans l’Open Secure AI Alliance, ce qui explique peut-être pourquoi Huang a soudainement créé un compte X. SpaceX, qui construit pourtant ses propres modèles d’IA avec Grok, est membre de la collaboration.
La sécurité est au premier plan dans l’annonce de l’alliance. Le lancement de la collaboration a clairement une fonction de lobbying. Les partenaires veulent anticiper d’éventuels murmures à l’oreille de Trump concernant une interdiction, et positionnent l’ouverture comme essentielle à la sécurité (nationale), plutôt que comme un obstacle.
La transparence garantit la sécurité
L’Open Secure AI Alliance affirme que les modèles ouverts ne sont pas intrinsèquement moins sûrs que les modèles fermés. Les deux peuvent être utilisés pour des cyberattaques. Les criminels finiront par obtenir des LLM, affirme-t-on. Une interdiction de l’IA ouverte aurait alors pour effet pervers de réduire l’accès des organisations légitimes aux moyens de se défendre.
Du point de vue de la sécurité, l’ouverture est une bonne chose. Les modèles ouverts peuvent être testés par des experts du monde entier. En cela, l’IA ouverte ne diffère pas des logiciels open source. Plus c’est ouvert, plus il y a d’yeux rivés sur le code et plus le risque de bug est faible. Cela contraste avec le code (ou l’IA) développé à huis clos, où le secret doit être synonyme de sécurité.
Outils concrets
Plusieurs participants à l’Open Secure AI Alliance apportent des contributions pour rendre l’IA accessible à la cyberdéfense. Nvidia fournit de l’open source, des weights ouverts et des harnais pour les agents. Les harnais constituent le cadre des LLM, qui aident à déterminer ce qu’un modèle doit et peut faire, et comment.
HPE contribue avec SPIFFE/SPIRE, qui assure la sécurité cryptographique de l’identité des agents d’IA. Hugging Face, en tant que plateforme pour l’IA ouverte, a également tout intérêt à son existence. Cette entreprise propose Safetensors : un format sécurisé pour stocker et partager des modèles d’IA ouverts. Safetensors est proposé à la PyTorch Foundation open source.
IBM et Red Hat apportent Lightwell au projet. Lightwell peut résoudre de manière autonome des problèmes de sécurité. Microsoft propose également un harnais avec MDASH, qui permet aux agents d’IA de découvrir des bugs de manière sécurisée.
SpaceX se tourne vers l’open source et rend public le code de Grok Build. De plus, l’entreprise prévoit d’ouvrir les weights de la famille de modèles Grok afin de soutenir les développeurs et les chercheurs.
Un nouveau fossé
La création de l’Open Secure AI Alliance est l’étape la plus importante vers le développement de l’IA ouverte depuis le début de l’engouement pour l’IA. La collaboration ne se tourne pas contre les modèles fermés et précise que ceux-ci ont également une place importante. Pourtant, une scission claire apparaît avec cette création : les grandes entreprises technologiques choisissent résolument la carte de l’ouverture, et OpenAI, Anthropic, Google et Meta devront voir comment ils s’intègrent dans cette histoire.