Google, Microsoft et xAI concluent un accord avec le gouvernement américain pour partager des versions préliminaires de leurs modèles d’IA à des fins d’évaluations de sécurité. Le Center for AI Standards and Innovation du département du Commerce effectue les évaluations, tout comme il l’a fait précédemment avec OpenAI et Anthropic.
La collaboration entre le gouvernement américain et Google, Microsoft et xAI se concentre sur l’évaluation des capacités et des risques des systèmes d’IA avancés avant qu’ils ne soient rendus publics. Cela s’inscrit dans le cadre d’une prise de conscience croissante des implications pour la sécurité nationale de la frontier AI.
Selon Chris Fall, directeur du CAISI, une mesure indépendante et approfondie est essentielle pour comprendre l’impact de cette technologie. L’accord prévoit que les développeurs partagent des modèles dont les mesures de sécurité ont été réduites ou supprimées, afin que le gouvernement puisse évaluer les risques pour la sécurité nationale.
Extension des accords précédents
Plus tôt cette année, OpenAI et Anthropic ont déjà conclu un accord similaire avec le département du Commerce. Depuis lors, le CAISI a réalisé plus de quarante évaluations, y compris sur des modèles non encore publiés. La nouvelle collaboration avec Google, Microsoft et xAI permet de passer à la vitesse supérieure.
L’accord intervient à un moment où le gouvernement américain envisage de mettre en place un nouveau processus d’examen pour les outils d’IA présentant des risques pour la cybersécurité. La Maison-Blanche envisage un décret présidentiel qui pourrait formaliser un groupe de surveillance gouvernemental chargé d’établir des normes pour les modèles d’IA les plus puissants.
Objectif : protection contre les cyberattaques
L’objectif ultime est de protéger les consommateurs et les entreprises contre les cyberattaques et autres perturbations pouvant résulter de la publication prématurée de tels modèles. Le gouvernement souhaite ainsi limiter les risques de l’IA sans freiner l’innovation.
