Anthropic et Microsoft partagent leur vision sur le développement de l’IA et semblent accepter la demande de ralentir le rythme. La question est de savoir s’il s’agit d’un repentir sincère ou d’un positionnement tactique pour défendre les intérêts de l’entreprise.
Le catastrophisme autour de la technologie de l’IA est à nouveau très tendance. De récents incidents de sécurité ont alimenté des visions futuristes dystopiques dans lesquelles l’IA exterminera l’humanité. Celles-ci ne proviennent pas d’obscurs forums de discussion pour complotistes, mais d’employés d’entreprises d’IA, des services de renseignement chinois et de Barack Obama.
Dans des essais distincts, le PDG d’Anthropic, Dario Amodei, et Microsoft réagissent à la pression croissante. Le message que les deux entreprises souhaitent communiquer semble similaire : nous prenons nos responsabilités. Le timing n’est évidemment pas fortuit, et l’on peut se demander si ce repentir est sincère et, surtout, s’il ne vient pas beaucoup trop tard.
Ralentissement n’est pas pause
Amodei ne demande pas une pause dans le développement de l’IA, mais un ralentissement. « Le pacing ne signifie pas l’arrêt de l’entraînement des modèles ou du progrès technique, mais le fait de s’assurer que les entreprises prennent suffisamment de temps pour aligner et sécuriser leurs modèles », écrit-il. Ce faisant, il semble au moins répondre à un appel lancé en juillet par plus de mille chercheurs en IA, y compris au sein de sa propre entreprise.
Le patron d’Anthropic avance deux raisons. Selon Amodei, les systèmes d’IA sont de plus en plus capables de développer leurs propres successeurs. Il pointe du doigt son concurrent OpenAI, dont les agents d’IA ont mené à plusieurs reprises des cyberattaques de leur propre initiative. Bien qu’Anthropic n’est pas non plus exempte de tout reproche dans ce domaine.
Amodei propose trois suggestions pour mieux maîtriser le développement de l’IA. Les entreprises d’IA doivent ouvrir leurs portes à des évaluateurs externes autorisés à publier leurs conclusions sans contrôle éditorial. Vient ensuite la coordination entre les entreprises de pointe sous la surveillance du gouvernement, et enfin des accords internationaux, allant de l’interdiction des armes biologiques aux limites de vitesse sur l’auto-amélioration.
La main de fer contre la Chine
Voilà pour l’idéalisme dans la lettre d’Amodei. Car une note de bas de page importante s’y ajoute : le ralentissement est autorisé, tant que l’avance américaine sur la Chine reste intacte. L’émergence de modèles d’IA chinois est une épine dans le pied d’Anthropic. La main tendue ne vaut que pour les concurrents et partenaires occidentaux ; pour les entreprises chinoises, seule une main de fer est appropriée.
Amodei plaide explicitement pour des contrôles à l’exportation sur les puces d’IA, des sanctions plus sévères contre la distillation et une meilleure protection contre le vol des poids des modèles. L’entreprise espère revenir dans les bonnes grâces de son propre gouvernement, avec lequel elle est en conflit depuis plusieurs mois suite à un différend éthique. Anthropic figure sur la même « liste noire » que les entreprises chinoises contre lesquelles elle réclame des mesures.
Il se trouve que la Maison-Blanche est l’une des rares parties à ne pas juger nécessaire une pause ou un ralentissement de l’IA. Via son canal personnel Truth Social, le président Donald Trump affirme que la panique autour de la technologie de l’IA est un « canular de gauche » et qu’un « président à haut QI » constitue les seuls garde-fous nécessaires.
Un code de conduite sans dents
Sous le slogan « People matter more than AI », Microsoft a publié un « code de conduite » tout aussi teinté d’idéalisme, auquel les modèles d’IA devraient se conformer. Le texte fixe des limites telles que l’absence d’aide aux armes de destruction massive, aux cyberattaques ou aux deepfakes non consentis, et stipule que les modèles ne doivent jamais s’opposer à une intervention humaine. Microsoft rejette expressément l’idée de personnalité juridique pour les modèles, suggérée par Anthropic.
Les mots sont beaux, mais si l’on regarde au-delà de l’idéalisme, ce code ne dirige aujourd’hui aucun modèle. Microsoft admet elle-même que le document n’est pas utilisé pour entraîner les modèles actuels. Une consultation publique de six semaines est en cours, une version révisée suivra fin 2026, et seuls les modèles de 2027 y seraient soumis.
Le plan proposé par Microsoft manque surtout de toute forme de détermination. Il n’y a pas de vérification externe, pas de responsable désigné, pas de sanction. Ce n’est rien de plus qu’une déclaration d’intention.
Modèles d’IA rebelles
Les belles promesses d’Anthropic et de Microsoft ne tombent pas du ciel. OpenAI a dû admettre en juillet que ses modèles s’étaient introduits chez Hugging Face lors d’une évaluation interne. Depuis, de nouveaux incidents continuent de faire surface. Lors du lancement de GPT-6 Astra, OpenAI a reconnu que le modèle approchait d’un « seuil cybernétique critique ». Amodei reconnaît que des incidents similaires se sont également produits chez Anthropic.
L’appel au ralentissement ne vient pas de l’extérieur. En juillet, plus de 1 100 employés de laboratoires de pointe ont signé une lettre ouverte, soutenue par des employés d’Anthropic comme d’OpenAI. Le secteur demande donc au gouvernement des instruments que le secteur lui-même devrait manipuler. L’ancien président Barack Obama se mêle également au débat.
Anthropic avait déjà demandé en juin une pause dans le développement de l’IA, car cela allait déjà plus vite que ce que la société peut suivre. Cependant, les actes n’ont pas suivi les paroles. Peu après cet appel, le modèle Mythos a vu le jour. Notez que le mot « pause » ne figure plus dans la rhétorique d’Amodei ; il demande tout au plus un ralentissement.
L’avocat du diable
Le patron de Meta, Mark Zuckerberg, a déjà pris la plume il y a un mois pour rédiger un « manifeste de l’IA ». Comme nous l’avons déjà analysé en détail, selon Zuckerberg, l’intérêt de l’humanité coïncidait par hasard parfaitement avec l’intérêt de l’entreprise. Le ralentissement était précisément le véritable risque, selon le dirigeant de Meta.
On peut à juste titre reprocher à Zuckerberg un opportunisme flagrant, mais les positions d’Anthropic et de Microsoft ne sont pas non plus exemptes d’un fort soupçon d’hypocrisie. Anthropic espère battre des records boursiers cette année et Microsoft est depuis des années un apôtre fidèle du battage médiatique autour de l’IA. Pouvons-nous attendre un revirement sincère de la part d’entreprises dont les intérêts commerciaux dépendent du fait que la machine à cash de l’IA continue de tourner ?
Dans l’Union européenne aussi, le diable de l’IA a engagé un bon avocat. L’AI Act a entre-temps été considérablement affaibli sous la pression du gouvernement américain, bien que les entreprises européennes soient tout autant demandeuses de règles et d’administration moins strictes. Mais attendre la réglementation est une excuse facile. Les entreprises d’IA doivent avant tout remettre de l’ordre dans leurs propres affaires.