La division de recherche DeepMind de Google introduit un nouveau cadre d’évaluation dans lequel est analysée la manière dont l’IA rend les techniques d’attaque existantes plus efficaces.
Un nouveau framework de Google DeepMind vise à aider à analyser systématiquement le rôle de l’IA dans les cyberattaques et à mieux armer les équipes de sécurité contre les risques émergents. Les tests effectués avec le modèle Gemini 2.0 de Google révèlent en effet que de nouvelles techniques d’attaque émergent rarement, mais que les techniques existantes deviennent plus efficaces grâce à l’utilisation de l’IA. Ces insights devraient aider les organisations à mieux déployer leurs mécanismes de défense.
De la chaîne d’attaque au score d’impact
Google DeepMind propose un cadre d’évaluation pour cartographier l’impact de l’IA sur les cybermenaces. Le modèle analyse comment l’IA rend les techniques d’attaque existantes plus efficaces, et quelles phases d’une cyberattaque nécessitent par conséquent une attention particulière. Pour ce faire, DeepMind a travaillé avec des données provenant de 12 000 incidents connus impliquant l’IA.
Le cadre d’évaluation comprend quatre étapes. Tout d’abord, des chaînes d’attaque représentatives sont sélectionnées, telles que le phishing, les attaques DDoS ou les exploits de type zero-day. Ensuite, une analyse des goulots d’étranglement est effectuée : quelles étapes de la chaîne d’attaque l’IA peut-elle rendre plus faciles ou plus rapides ? L’équipe développe ensuite des benchmarks pour mesurer de manière ciblée les performances de l’IA dans ces phases. Enfin, un score d’impact est établi pour estimer l’économie potentielle de coûts pour les attaquants, sur l’ensemble de la chaîne.
lire aussi
Gemini au-dessus de la science : Google DeepMind maintient la recherche en IA derrière des portes closes
Les tests effectués avec le propre modèle Gemini 2.0 de Google montrent que l’IA augmente principalement l’échelle et la vitesse des attaques. De nouvelles techniques d’attaque émergent rarement, mais les tactiques existantes deviennent plus efficaces. L’IA performe bien dans des tâches telles que la reconnaissance, l’évasion et le maintien de l’accès. Des tâches plus difficiles comme le développement d’exploits restent pour l’instant complexes.
Mesures de défense
Les insights issus du cadre devraient aider les organisations à déployer plus efficacement les mesures de défense. Il apparaît par exemple que l’IA est déjà assez performante dans la phase d’installation et dans la communication de commande et de contrôle. Selon DeepMind, cela nécessite des mécanismes de détection et de réponse plus robustes. Le framework peut également servir de base pour des ‘red teaming’ plus réalistes basés sur l’IA.
Une proposition notable dans le document est de mesurer l’impact de l’IA via une sorte d' »indice d’inflation cyber ». Celui-ci indiquerait comment l’IA abaisse le seuil économique des cyberattaques, en réduisant le temps ou les connaissances spécialisées nécessaires.
Avec ce cadre, DeepMind souhaite contribuer à une discussion plus étayée sur le rôle de l’IA dans la cybersécurité. Il offre des outils pour mieux comprendre les risques et adapter proactivement la défense aux menaces changeantes.