Un nouveau modèle d’IA chinois ouvert égalerait les performances du modèle Mythos d’Anthropic en matière de cybersécurité. Cela remet davantage en question l’utilité des restrictions américaines pour ce modèle.
En Chine, Z.ai a lancé un nouveau modèle d’IA ouvert : GLM-5.2. Il s’agit d’un modèle à poids ouverts. En d’autres termes, le LLM est librement accessible à tous pour le téléchargement et l’utilisation. En ce qui concerne les capacités, les modèles ouverts sont généralement un peu en retrait par rapport aux modèles dits frontier d’Anthropic et d’OpenAI, mais cet exemplaire appartiendrait au sommet absolu en matière de cybersécurité.
Selon le Wall Street Journal, des chercheurs en sécurité ont établi qu’il égale les modèles américains les plus récents, dont Mythos, lorsqu’il s’agit de rechercher des vulnérabilités de sécurité. Pour d’autres tâches, le GLM-5.2 serait toutefois encore moins performant.
La capacité d’un LLM à détecter des bugs et éventuellement à les enchaîner pour aboutir à une vulnérabilité comporte des risques. Les équipes de sécurité peuvent utiliser un tel modèle d’IA pour résoudre les problèmes à temps, mais entre de mauvaises mains, des pirates peuvent également en abuser pour élaborer des attaques sophistiquées contre lesquelles il n’existe pas encore de remède.
Restrictions
Le gouvernement américain affirme avoir imposé des restrictions à l’exportation pour Fable 5 et sa variante Mythos 5 d’Anthropic pour cette raison. Ces modèles puissants seraient trop dangereux pour être mis à la disposition du grand public.
Il convient toutefois de noter qu’Anthropic avait intégré les mécanismes nécessaires pour prévenir les abus dans Fable 5, et que le gouvernement a mis en œuvre les restrictions de manière unilatérale et sans justification transparente. En outre, la Maison-Blanche constate que les LLM sont suffisamment sûrs pour être utilisés par des personnes de nationalité américaine.
Quoi qu’il en soit, les États-Unis utilisent l’argument de la sécurité pour ralentir le déploiement mondial de l’IA et maintenir les modèles à l’intérieur des frontières nationales. Le fait qu’une entreprise chinoise lance aujourd’hui un modèle ouvert doté de capacités similaires démontre les fondements fragiles de cette stratégie. Les États-Unis partent du principe que leurs propres entreprises sont et resteront les leaders absolus de l’IA, mais les chercheurs chinois parviennent tout de même à rattraper leur retard. Ils y parviennent d’ailleurs sans avoir accès au matériel le plus sophistiqué de Nvidia.