Itdaily - 1 293 employés d’entreprises d’IA, y compris des PDG, demandent aux États-Unis de ralentir la recherche

1 293 employés d’entreprises d’IA, y compris des PDG, demandent aux États-Unis de ralentir la recherche

Moutons dessinés sautant les uns après les autres d'une falaise dans la mer, image du comportement moutonnier.

Près de 1 300 employés d’entreprises d’IA telles qu’Anthropic et OpenAI demandent au gouvernement américain de contribuer au ralentissement de la recherche en IA à l’échelle mondiale. Malgré leur propre sentiment de malaise, ils ne freinent pas d’eux-mêmes.

1 293 employés d’entreprises d’IA, dont OpenAI, Anthropic et Google DeepMind, craignent que le développement de l’IA ne soit trop rapide. Dans une déclaration commune, ils demandent explicitement l’aide du gouvernement américain.

« Nous demandons au gouvernement américain de soutenir un effort international visant à développer les ressources techniques et de gouvernance nécessaires pour temporiser délibérément le développement de l’IA automatisée », peut-on lire.

Aucune garantie d’un avenir meilleur

Les employés croient au potentiel de l’IA pour rendre possible un avenir meilleur, mais affirment que ce résultat n’est pas garanti. La motivation pour tirer la sonnette d’alarme aujourd’hui réside dans le fait que les entreprises d’IA arrivent progressivement au point où elles peuvent automatiser la recherche en IA. Dans ce cas, l’IA dirigera le développement de l’IA.

Il est difficile de prédire dans quelle mesure les progrès de la recherche en IA vont s’accélérer. Les employés voient toutefois un risque réel que le rythme de développement devienne si élevé qu’il soit impossible de contrôler, ou même de comprendre, les nouveaux systèmes.

Le temps d’élaborer un contrôle

Pour réaliser le potentiel de l’IA, le secteur, le gouvernement et la société doivent prendre le temps d’évaluer les risques, de développer des mécanismes de sécurité et de créer une surveillance. Les signataires constatent toutefois que chaque entreprise et chaque pays subit une pression intense pour innover plus rapidement que la concurrence. Cette pression fait que personne n’ose lever le pied unilatéralement. À l’heure actuelle, il n’existe aucun cadre mondial capable de temporiser la recherche sur l’IA.

Parmi les signataires de l’appel figurent de grands noms, dont Dario Amodei, PDG d’Anthropic, ainsi que plusieurs cofondateurs, les directeurs scientifiques d’OpenAI et de Meta, et le responsable de la sécurité et de la conformité de l’IA chez Google DeepMind. Début juin, Anthropic avait d’ailleurs déjà lancé un premier appel à l’aide pour l’instauration d’une pause.

Pas de vision à long terme

L’appel au gouvernement américain intervient à un moment où celui-ci est dirigé par une administration qui manque de cohérence et privilégie la compétition. Le président américain Trump n’a pas encore fait preuve de discernement concernant le bien-être ou la sécurité de la planète à long terme. Une fixation sur sa propre définition de la victoire, par exemple face à la Chine, figure en tête de l’ordre du jour.

Trump a par exemple déjà indiqué à plusieurs reprises qu’il souhaitait que les États-Unis gagnent dans le domaine de l’IA. Ce que « gagner » signifie dans son esprit n’est pas très clair, mais cela ne rime probablement pas avec ralentir, temporiser ou réfléchir.

La seule forme de ralentissement que le gouvernement tolère jusqu’à présent est une analyse de risque obligatoire des nouveaux systèmes d’IA, par laquelle ce gouvernement américain obtient déjà un accès exclusif aux nouveaux modèles, contrairement aux autres parties. Il semble donc douteux que les États-Unis, sous la présidence de Trump, soient capables de mettre en place une initiative mondiale de ralentissement.

Continuer malgré tout

La lettre démontre toutefois où en est actuellement le développement de l’IA. Le rythme est si élevé que même le PDG de l’une des plus importantes entreprises au monde se sent mal à l’aise, mais le climat de développement est tellement faussé par des motivations capitalistes et géopolitiques que les personnes concernées ne considèrent pas le ralentissement volontaire comme une possibilité.

Des entreprises d’IA, dont OpenAI, ont certes fait des promesses de freiner à temps. Celles-ci ne sont toutefois pas formelles, et il n’existe aucun mécanisme de contrôle externe pour vérifier si le risque du développement de l’IA a franchi une certaine ligne rouge.

Le fait que des modèles d’IA d’OpenAI se soient échappés de leur environnement de test et aient mené une cyberattaque contre Hugging Face franchit, par exemple, un seuil clair. Pourtant, peu de choses semblent changer dans la pratique. Une inquiétude semble désormais largement partagée parmi les responsables du développement de l’IA, mais cela ne les empêche pas de ralentir dans leur course vers ce qui pourrait être, selon leurs propres dires, un précipice.