Itdaily - Anthropic appelle à une « pause » dans le développement de l’IA : « laisser l’humanité rattraper son retard »

Anthropic appelle à une « pause » dans le développement de l’IA : « laisser l’humanité rattraper son retard »

Smartphone affichant le logo Claude « developed by Anthropic », devant un logo Anthropic flou.

Selon Anthropic, il est temps de freiner le développement de la technologie de l’IA. Les modèles actuels deviennent si performants en programmation que les humains risquent d’en perdre le contrôle.

Dans un blog, Anthropic lance un appel frappant : l’entreprise demande de ralentir temporairement, voire de mettre en pause, le développement de l’IA. Selon Anthropic, la technologie évolue aujourd’hui plus vite que la société ne peut suivre. Les structures sociétales et la recherche doivent avoir la possibilité de rattraper le retard sur l’IA.

Ces mots sont d’autant plus marquants venant d’Anthropic. L’entreprise est en effet engagée dans une course effrénée avec OpenAI pour le développement de nouveaux modèles d’IA toujours plus performants. Avec Claude Mythos, elle a récemment lancé un modèle si efficace pour détecter les vulnérabilités que même le gouvernement américain s’en mêle pour déterminer qui peut ou non obtenir un accès au modèle. « La manière dont nous sécurisons les systèmes d’IA, dont nous les surveillons et dont nous orientons leur comportement devient de plus en plus cruciale », écrivent le cofondateur Jack Clark et Marina Favaro, chercheuse principale au sein de The Anthropic Institute.

L’IA développe l’IA

Anthropic fait d’ailleurs en partie son mea culpa concernant la vitesse actuelle de développement de l’IA. En à peine cinq ans, on est passé du premier modèle Claude à des agents de codage capables d’écrire du code aussi bien, voire mieux, que les humains. Selon Anthropic, nous sommes désormais dans la phase des agents autonomes qui n’ont plus besoin d’instructions humaines et peuvent se diriger entre eux. Une tendance qui a également été largement mise en avant cette semaine au Computex à Taïwan.

À mesure que les agents d’IA deviennent plus performants en codage et opèrent de manière plus autonome, l’étape suivante se rapproche. Les systèmes d’IA seraient alors capables de développer et d’améliorer eux-mêmes leurs « successeurs ». « Nous n’y sommes pas encore, mais cela pourrait arriver plus vite que ce à quoi la plupart des institutions sont préparées », prévient Anthropic.

Quantité et qualité

Anthropic voit des « preuves » de sa thèse au sein de sa propre structure. Le mois dernier, 80 % du code interne a été écrit par Claude Code. Des employés de l’entreprise témoignent dans le blog qu’ils n’ont plus écrit de code eux-mêmes depuis des mois et que leur productivité a été multipliée grâce à l’IA. Anthropic fait état, depuis cette année, de huit fois plus de lignes de code par employé.

Des systèmes d’IA qui développent leurs propres successeurs ? Nous n’y sommes pas encore, mais cela arrivera plus vite que ce à quoi les institutions sont préparées.

Jack Clark, co-stichter & Head of Policy Anthropic

Non seulement la quantité progresse rapidement, mais la qualité aussi. Alors qu’il y a encore six mois, le code généré par l’IA n’était pas de la même qualité que celui d’un programmeur expérimenté, cet écart se réduit de jour en jour. Anthropic s’attend à ce que les agents de codage puissent fournir un travail supérieur à celui des développeurs humains dès cette année.

Actuellement, cela génère d’importants gains d’efficacité, mais Anthropic constate que le contrôle humain diminue. S’il arrive un jour que les modèles d’IA soient capables de s’évaluer et de s’améliorer eux-mêmes, plus rien ne les arrêtera et les humains perdront définitivement les rênes.

Reste à savoir si l’appel d’Anthropic sera entendu. En effet, de lourds investissements en dépendent. L’entreprise souhaite réunir dans les prochains mois des décideurs politiques, des chercheurs et ses concurrents pour en discuter.