Avec Project Perception, Microsoft annonce un système de sécurité entièrement construit sur l’IA. Des agents d’IA doivent détecter, évaluer et traiter les risques.
Avec Project Perception, Microsoft dévoile une vision concrète de ce à quoi pourrait ressembler l’avenir de la cybersécurité. Project Perception ne doit pas fournir plus d’alertes aux équipes de sécurité, mais aider à réduire les risques eux-mêmes de manière permanente. Le système combine des signaux, un contexte de sécurité, des modèles et des agents d’IA spécialisés en un ensemble global fonctionnant de manière autonome. Selon Microsoft, les collaborateurs conservent toutefois le contrôle sur les actions de la plateforme.
Bleu, vert et rouge
Le cœur du fonctionnement de Project Perception repose sur trois classes d’agents d’IA. Les agents de la « Red team » recherchent les voies d’attaque possibles avant que des assaillants ne puissent les exploiter. Les agents de la « Blue team » examinent les signaux, les placent en contexte et déterminent quels risques sont pertinents pour l’organisation.
Les agents de la « Green team » effectuent ensuite des actions correctives et doivent renforcer la défense. Ensemble, les agents forment un système fermé qui examine, évalue et améliore continuellement la posture de sécurité d’une entreprise. Microsoft décrit cela comme une approche capable de percevoir, de raisonner et de traiter les risques à la vitesse de la machine.
Nouvelle pile
Project Perception repose sur une nouvelle pile (stack) de cybersécurité. Selon Microsoft, cela est nécessaire pour soutenir la nouvelle approche de la sécurité basée sur l’IA.
La fondation de la pile se compose de capteurs qui perçoivent les signaux de l’environnement numérique. Ensuite, un contexte de sécurité transforme ces informations en une vision partagée des actifs, des identités, des relations, des risques et des activités.
Ce contexte doit éviter que chaque agent d’IA ne doive collecter et corréler lui-même des données brutes. Ensuite, une couche de modèles et d’agents coordonne les différents flux de travail de sécurité. Microsoft a construit un cadre (framework) dans lequel ces LLM fonctionnent. Les agents opérant au sein de ce cadre appartiennent aux équipes rouge, verte ou bleue mentionnées précédemment.
Des composants appelés actionneurs traduisent les décisions en actions au sein des produits Microsoft Security, de sorte que Project Perception puisse non seulement identifier les risques, mais aussi les traiter.
Plusieurs modèles (ouverts)
Microsoft n’utilise pas un seul modèle d’IA pour Project Perception, mais une architecture multi-modèles. Le système doit sélectionner un modèle par tâche en fonction de la qualité, de la fiabilité, de la latence et du coût. Selon Microsoft, cela est nécessaire car la sécurité doit être disponible en permanence, tout en évoluant rapidement.
Microsoft a récemment rejoint l’Open Secure AI Alliance. Cette alliance, composée en grande partie des plus grandes entreprises technologiques mondiales, a pour objectif de soutenir et de promouvoir les modèles d’IA ouverts dans le cadre de la sécurité. Une multitude de modèles ouverts profite à la sécurité et permet à Project Perception d’évoluer rapidement sans que les coûts pour les utilisateurs n’augmentent de manière excessive.
Propre LLM
La première application concrète de Project Perception est la gestion des vulnérabilités logicielles. Pour cela, Microsoft ajoute MAI-Cyber-1-Flash à MDASH. Il s’agit d’une équipe de modèles et d’agents pour ce domaine. Selon Microsoft, cette combinaison atteint 96 % sur le benchmark CyberGym, soit douze points de plus que Mythos, tandis que les coûts seraient inférieurs de près de cinquante pour cent par rapport à la configuration MDASH actuelle.
Project Perception sera disponible en version préliminaire publique le 3 août. Microsoft prévoit de déployer ultérieurement MAI-Cyber-1-Flash pour d’autres flux de travail de sécurité. L’entreprise affirme que le système s’aligne sur ses principes d’IA responsable et reprend les contrôles existants en matière de sécurité, de conformité et de gestion.
La sécurité à la vitesse de la machine
L’annonce montre comment le centre de gravité de la sécurité est en passe de changer. Bien que Microsoft souligne que les humains continuent de jouer un rôle important, un changement est amorcé. La cybersécurité évolue vers une lutte entre le code et les machines. Les humains reçoivent un rôle de gestion, mais les vulnérabilités sont recherchées, évaluées et même résolues à la vitesse de la machine.
Il reste à voir si Project Perception tiendra cette promesse, s’il fonctionnera avec une précision suffisante dans la pratique et s’il pourra automatiser efficacement les actions dès que les clients pourront tester la version préliminaire. En attendant, l’initiative esquisse déjà une vision possible de l’avenir de la sécurité dans un monde doté d’IA.