L’Open Secure AI Alliance lance les directives SAFE et s’élargit avec Mistral, Amazon et Visa pour une meilleure sécurité des agents d’IA.
L’Open Secure AI Alliance (OSAA) démontre lors de la conférence Black Hat à Las Vegas sa détermination à apporter collaboration et ouverture à l’IA, dans la quête d’un cadre pour une intelligence artificielle sécurisée. À cette fin, la Linux Foundation publie une demande de commentaires (Request for Comments) pour un nouveau concept : le Shared AI Findings Exchange (SAFE).
SAFE comprend de nouvelles directives visant à transformer les incidents de cybersécurité impliquant des agents d’IA en une protection partagée pour l’ensemble du secteur.
Partage confidentiel
SAFE collectera de manière confidentielle les données sur les incidents et les quasi-incidents impliquant des agents d’IA et en assurera l’analyse. L’objectif est d’informer les parties concernées, d’identifier les vulnérabilités récurrentes et de publier des recommandations qui réduisent le risque systémique. Ce faisant, les membres de l’OSAA souhaitent expressément s’écarter de la culture du secret qui est aujourd’hui la norme lors d’incidents cybernétiques et qui empêche l’ensemble du secteur de progresser de concert.
Nvidia, Cisco, CrowdStrike, Hugging Face et Red Hat ont notamment collaboré aux premières propositions. Selon l’alliance, une coopération rapide est nécessaire, car chaque changement technologique crée de nouvelles surfaces d’attaque et les défenseurs doivent pouvoir réagir aussi vite que les agents qu’ils protègent.
Contributions à travers l’ensemble de la pile de sécurité de l’IA
En plus de SAFE, les membres de l’alliance fournissent également d’autres outils concrets. Nvidia apporte notamment l’environnement de recherche NOOA, le runtime OpenShell et plusieurs modèles ouverts tels que Nemotron et Cosmos, complétés par des outils de sécurité comme Garak et NeMo Guardrails.
En matière d’identité et d’accès, Okta, Palo Alto Networks et Red Hat contribuent avec des projets qui définissent qui ou quoi peut solliciter un agent. Amazon, qui rejoint l’alliance aujourd’hui, apporte son Strands Agents-toolkit et le système d’autorisation Cedar. Capital One, Cloudflare, Microsoft et Wiz fournissent également des outils pour tester et contrôler le comportement des agents.
Au niveau des modèles, Cisco, CrowdStrike et Mistral travaillent sur des modèles de sécurité spécialisés, tandis qu’Akamai, Perplexity et Uber se concentrent sur la détection et l’analyse de l’activité des agents. Visa rejoint également l’alliance avec son propre outil de recherche de vulnérabilités. Enfin, LangChain et Veeam se focalisent sur la résilience, afin que les agents puissent reprendre leur activité en toute sécurité après une panne, sans perte de données.
Avec SAFE et les outils complémentaires, l’Open Secure AI Alliance souhaite rendre la sécurité autour des agents d’IA moins dépendante des entreprises individuelles. En partageant les incidents et les solutions, les organisations devraient pouvoir apprendre plus rapidement des expériences des unes et des autres.
Momentum
L’élan semble énorme. En effet, l’Open Secure AI Alliance n’a été portée sur les fonts baptismaux que la semaine dernière. En à peine une semaine, le nombre de membres a explosé, et l’alliance tente de démontrer sa pertinence par des plans concrets.
L’organisation compte désormais plus de 120 membres. Le nom de Mistral ne figurait pas encore sur la liste lors du lancement de l’alliance, et de grands noms de la sécurité, dont Fortinet et Check Point, sont nouveaux, tout comme Amazon et Visa. Les grands absents restent OpenAI, Anthropic et Google. Google est le seul des trois « hyperscalers » à construire ses propres modèles d’IA de pointe, et le seul à ne pas s’être encore rallié à l’approche ouverte.