Le PDG de Meta partage dans un très long billet de blog ce à quoi devrait ressembler l’avenir du développement de l’IA. Il s’avère que ce qui est bon pour l’humanité coïncide par hasard avec les ambitions de l’entreprise. Pourtant, à y regarder de plus près, la plupart de ses affirmations sont un peu plus nuancées.
Mark Zuckerberg partage dans un interminable billet de blog, aux allures de manifeste, sa vision de l’avenir avec l’IA. Le texte contient des idées positives, notamment un large accès à l’IA, mais sert surtout à présenter l’agenda de sa propre entreprise comme un plan stratégique pour l’humanité tout entière.
Dissimulés dans le texte, nous trouvons huit points de l’ordre du jour de Meta, déguisés en projets pour l’humanité. Nous les passons en revue, tout en notant d’abord que l’existence même de ce manifeste témoigne d’une image de soi intéressante. Zuckerberg se voit comme le richissime PDG d’une entreprise déjà condamnée à plusieurs reprises pour des pratiques contraires à l’éthique, mais apparemment tout de même investi de la mission d’expliquer en détail le rôle que l’IA doit jouer pour l’ensemble de l’humanité.
Avant d’examiner plus en détail ce manifeste, il est important de noter que l’entreprise de Zuckerberg a entre-temps été condamnée aux États-Unis pour des choix de conception délibérément addictifs dans ses produits (et fait l’objet d’une enquête dans l’UE), qu’elle est liée (par Amnesty) à une explosion majeure de violence ethnique contre les Rohingyas au Myanmar et qu’elle est associée à de multiples violations de la vie privée.
Compte tenu de cette réalité, il n’est guère surprenant que le manifeste soit avant tout un plaidoyer pro domo. Examinons les principales affirmations.
1. Meta est vertueux, ses grands concurrents le sont moins
« Meta est l’entreprise qui se concentre principalement sur la création d’une superintelligence personnelle pour tous », affirme-t-il. « La plupart des autres laboratoires se concentrent sur le développement de l’IA pour les entreprises, les gouvernements ou d’autres institutions ; par conséquent, si ces laboratoires prennent l’avantage, l’équilibre des pouvoirs basculera en faveur des grandes institutions au détriment des individus. »
Zuckerberg décrit dans son texte comment Meta est en fait le seul acteur qui veut construire une IA pour les gens ordinaires. Les autres entreprises, de facto Anthropic et OpenAI, seraient des institutions fermées et représenteraient un risque pour l’équilibre entre l’homme et l’IA à l’avenir.
Zuckerberg dépeint ainsi Meta comme le grand acteur qui défend le citoyen ordinaire, par opposition aux autres parties. Cette affirmation n’a toutefois aucun fondement. D’autres laboratoires d’IA, dont OpenAI et Anthropic, proposent des versions gratuites de leurs solutions, avec de moins en moins de restrictions. Meta intègre son IA dans ses propres produits, tels que WhatsApp et Facebook.
2. Le retard équivaut au risque
« Toute politique retardant la sortie de modèles américains, ne serait-ce que d’un mois, pourrait ajouter un risque significatif au leadership américain alors que les modèles étrangers progressent à toute allure. »
Le manifeste affirme qu’il n’existe guère de risque plus grand que le ralentissement de la recherche sur l’IA. Cela n’augmenterait pas la sécurité, mais la diminuerait au contraire. La raison : si les concepteurs de modèles américains, dont Meta, sont freinés, des concurrents malveillants d’autres pays prendront le relais.
Ici, Zuckerberg présente le retard comme un risque inacceptable. Toute discussion sur une réglementation ralentissant le processus s’en trouve ainsi sapée. Cela va pourtant à l’encontre d’un appel lancé par près de 1 300 chercheurs en IA, y compris chez Meta, qui supplient presque le gouvernement américain de prendre l’initiative de mesures de ralentissement. Ils estiment qu’une telle démarche est précisément essentielle au nom de la sécurité.
3. L’entraînement de l’IA doit être ouvert
« Certains ont tenté de présenter la distillation comme nuisible, mais je pense qu’il est important de protéger le principe selon lequel on peut apprendre de tout ce que l’on peut observer. »
Le PDG plaide ici pour une ouverture poussée de l’entraînement. La distillation de modèles est une technique par laquelle un modèle d’IA puissant (fermé) est utilisé pour entraîner de nouveaux modèles d’IA plus petits et spécialisés. Ces modèles plus petits sont alors souvent plus efficaces dans leur tâche que le grand modèle « enseignant ».
La distillation est une priorité, car des entreprises chinoises sont accusées d’utiliser la technique sans autorisation pour créer leurs propres LLM. Pour ce faire, elles utiliseraient secrètement des modèles fermés d’Anthropic et d’OpenAI. Autoriser la distillation porterait un coup à la rentabilité potentielle des LLM fermés de ces concurrents de Meta.
En outre, cela représenterait une étape juridique majeure vers une ouverture générale en matière d’entraînement de l’IA. Meta, comme d’autres développeurs d’IA, est sous le feu des critiques pour l’utilisation de données protégées par le droit d’auteur. Une plus grande tolérance autour de l’entraînement profite ainsi à Meta, mais certainement pas aux détenteurs de droits d’auteur.
4. Les centres de données sont positifs et font l’objet d’une résistance injustifiée
« Nous aidons à maintenir les prix de l’électricité bas en construisant notre propre infrastructure de production d’énergie partout où nous investissons. Cela garantit non seulement que nous ne consommons pas d’énergie qui aurait pu aller aux communautés locales, mais dans certains cas, nous réinjectons même un surplus d’énergie bon marché dans les communautés. »
« Nos centres de données sont également conçus pour figurer parmi les plus économes en eau au monde. Nous nous sommes engagés à être positifs en eau, ce qui signifie que d’ici 2030, nous restaurerons plus d’eau que nous n’en utilisons dans les bassins versants où nous opérons. »
« Pourtant, un inconvénient significatif des États-Unis par rapport à des pays comme la Chine est qu’il est plus difficile d’y construire des infrastructures. »
Zuckerberg dépeint ici les centres de données comme une histoire positive pour l’environnement, sans inconvénients. La résistance aux centres de données ne proviendrait alors que d’une incompréhension. Les projets futurs concernant l’utilisation de l’eau et la production d’énergie doivent renforcer cette image, même si elle ne correspond pas à la réalité d’aujourd’hui.
Le manifeste renvoie également ici au deuxième point concernant le retard. Trop peu de centres de données et trop de règles entourant leur construction pourraient donner une longueur d’avance au grand ennemi chinois. Dans la vision de Zuckerberg, il n’y a aucune raison d’être réticent à accorder des permis de construire pour les centres de données de Meta.
5. Le gouvernement peut surveiller (mais pas après coup)
« Je suggère également que les laboratoires d’IA de pointe partagent des points de contrôle d’entraînement intermédiaires des nouveaux modèles pour utilisation et évaluation par le gouvernement, au lieu d’attendre que l’entraînement soit terminé. »
Une fois de plus, Zuckerberg utilise l’argument du risque de retard, réfuté par des centaines d’experts, pour rationaliser ses propres projets. Ce qui ressemble à un plan pour permettre le contrôle est en réalité une technique visant à éviter une vérification approfondie d’un nouveau LLM juste avant son lancement.
Le gouvernement peut alors surveiller pendant l’entraînement, au lieu d’effectuer une évaluation a posteriori. Meta peut ainsi continuer à lancer des LLM à son propre rythme. Il n’y a pas de problème avec le contrôle intermédiaire, si ce n’est que le patron de Meta le propose ici comme une alternative à une surveillance approfondie après coup, ou du moins comme un système devant accélérer l’approbation après l’entraînement.
6. Le plus grand croque-mitaine de la vie privée au monde devient protecteur
« Il disposera d’options de confidentialité et de sécurité solides… comparables au fonctionnement du chiffrement sur WhatsApp. »
« Nous construirons un mode entièrement privé dans lequel même Meta ne pourra pas voir vos informations ni y accéder. »
Ce sont de grands mots de la part d’un homme qui affirmait déjà il y a dix ans que la vie privée n’était plus la norme. Les opinions peuvent évoluer, mais il y a peu de raisons de croire que ce phénomène a changé la vision de Zuckerberg. Meta continue en effet de protester vivement contre chaque règle de confidentialité imposée par l’UE.
Le lien avec la sécurité de WhatsApp montre en soi que les projets de chiffrement existent, mais il est important de noter que WhatsApp utilise la technologie de chiffrement de Signal. Celle-ci était déjà présente dans l’application lorsque Meta l’a rachetée. Ce n’est pas comme si l’entreprise était un champion du chiffrement de bout en bout.
Plus loin dans le manifeste, il devient clair à quel point Zuckerberg veut rester à l’écart des véritables barricades de la vie privée :
« En même temps, nous devons également nous assurer que le gouvernement a accès aux outils et aux ressources dont il a besoin pour faire respecter nos lois et protéger notre sécurité. »
Sachant qu’il s’agit là du gouvernement américain, que Zuckerberg ne veut préventivement pas froisser, il est clair que les affirmations concernant la vie privée ne sont là que pour susciter de la bienveillance.
7. Un nouveau modèle de surveillance comme exemple
« Je ne pense pas qu’il soit dans mon intérêt, celui de Meta ou celui du monde que moi ou quelqu’un d’autre soit le seul décideur sur la manière dont la superintelligence est déployée. C’est pourquoi Meta met en œuvre une structure de gouvernance qui donne à notre conseil d’administration indépendant le pouvoir d’approuver les critères de sécurité pour la sortie des modèles et d’évaluer si chaque sortie de modèle répond à ces critères. Bien que Meta soit une entreprise contrôlée par son fondateur, les PDG de tous les laboratoires de pointe disposent actuellement de pouvoirs étendus sur les sorties de modèles, nous encourageons donc les autres à mettre en œuvre des structures similaires à celle-ci. »
La structure de surveillance de Meta est un coup d’épée dans l’eau. Il n’y a aucune garantie d’une réelle indépendance du conseil, et ses membres ne représentent certainement pas la population ou l’humanité pour laquelle Meta prétend construire l’IA. De plus, Zuckerberg reste aux commandes.
En appelant les autres laboratoires d’IA à mettre également en œuvre un tel système, Zuckerberg semble à nouveau profiler Meta comme un champion de la bonne gouvernance. Parallèlement, il propose une autorégulation (limitée) comme mécanisme de surveillance adéquat. Historiquement, rien ne permet de penser que l’autorégulation au sein d’une société cotée en bourse, engagée dans une course qu’elle a elle-même déclarée, offrira une surveillance suffisante.
8. L’IA peut s’améliorer elle-même, et de préférence le plus vite possible
« Meta, d’autres laboratoires de pointe et les clouds… doivent construire ensemble une quantité de calcul suffisamment importante pour que nous puissions en allouer assez à l’auto-amélioration récursive afin de rester compétitifs. »
« Laisser un système d’IA ou n’importe qui d’autre diriger ses propres objectifs n’est pas en soi intrinsèquement nuisible, même si ses objectifs ne sont pas totalement alignés avec ceux de beaucoup de gens, tant que nous maintenons un équilibre des pouvoirs qui donne l’avantage aux humains. »
Dans son manifeste, Zuckerberg écrit que l’IA qui s’améliore elle-même ne constitue pas vraiment un problème inhérent. Cela va également à l’encontre des craintes de plus de mille experts en IA.
Il pense que tout ira bien et est apparemment prêt à y engager le bien-être total de l’humanité, tant que plusieurs entreprises s’occupent simultanément d’IA s’auto-améliorant. Selon lui, Meta et d’autres entreprises (américaines) doivent alors avoir accès à une puissance de calcul suffisante pour que leur IA s’auto-améliorant ne soit pas dépassée par celle de quelqu’un d’autre (la Chine).
De cette manière, Zuckerberg avance un argument supplémentaire pour justifier le développement massif du calcul.
Un plaidoyer dangereux
Tout au long du texte, de nombreuses réflexions sont présentées comme des faits, même si elles contredisent ce que pensent de nombreux experts. De plus, Zuckerberg s’attribue le rôle de prédire les défis et les opportunités de l’IA pour l’humanité tout entière. À aucun moment, il n’est réellement question d’une autre région que les États-Unis. En outre, aucun point ou argument ne démontre que Meta ne fait pas du bon travail. Au contraire : en lisant le texte, on croirait presque que Meta est le seul capable de sauver le monde.