Le développement durable ne joue pas un rôle majeur parmi les entreprises qui mettent en œuvre l’IA. Une petite minorité d’entre elles sont conscientes de l’impact environnemental de leur utilisation de l’IA, même s’il est beaucoup plus important que pour les solutions technologiques traditionnelles. Lors de la sélection des solutions, l’impact joue à peine un rôle.
Seulement 12 % des entreprises mesurent activement l’impact environnemental de leur utilisation de l’IA générative. C’est ce qui ressort d’une enquête menée par Capgemini auprès de 2 000 cadres de grandes entreprises dont le chiffre d’affaires est supérieur à un milliard de dollars en Amérique du Nord, en Europe et en Asie. Cependant, 80 % des organisations ont augmenté leurs investissements dans l’IA générative au cours de l’année écoulée.
Impact majeur
L’IA générative a un impact important sur l’environnement. On estime que la formation du GPT-4 a consommé entre 51 772 MWh et 62 319 MWh, soit l’équivalent de la consommation annuelle d’énergie de 5 000 ménages américains. L’inférence n’est guère meilleure, compte tenu de sa grande échelle. En 2022 déjà, 60 % de la consommation d’énergie de Google liée à l’apprentissage automatique était consacrée à l’inférence. L’Agence internationale de l’énergie a précédemment calculé qu’une requête à ChatGPT consomme environ 2,9 Wh d’électricité : dix fois plus qu’une recherche sur Google.
L’impact se fait sentir. 42 % des entreprises interrogées revoient leurs objectifs en matière de climat, stimulées par l’importance croissante de l’IA générative. Seulement 31 % des organisations prennent des mesures pour réduire efficacement l’impact de l’IA générative.
Transparence et augmentation
Le premier défi à relever est celui de la transparence. 74 % des organisations pointent du doigt les grandes entreprises technologiques telles que Microsoft et Google pour leur manque de transparence sur l’empreinte carbone de leurs modèles d’IA. 64 % d’entre elles ont elles-mêmes du mal à mesurer l’impact lié aux applications.
Selon le rapport, la part de l’IA générative dans les émissions totales des entreprises passera de 2,6 % à 4,8 % au cours des deux prochaines années. Ce pourcentage est basé sur les chiffres des quelques entreprises qui mesurent effectivement l’impact suffisamment pour faire une estimation.
Pas de priorité
À peine 20 % indiquent que la durabilité est aujourd’hui un critère de choix d’un fournisseur ou d’un modèle d’IA générative. En d’autres termes, l’impact d’une solution d’IA générative ne joue pas un rôle important dans le choix d’une solution. 57 % confirment que le coût et la qualité sont prioritaires, et que l’empreinte environnementale d’un modèle n’est qu’une considération mineure.
Le rapport montre que les grandes entreprises du monde entier voient le potentiel de l’IA générative et sont pour la plupart terrifiées à l’idée de ne pas innover assez vite. Les promesses concernant la durabilité et les compromis environnementaux sont reléguées au second plan lorsque des gains d’efficacité sont en jeu.
Solutions
Cependant, il existe aujourd’hui des moyens d’innover durablement grâce à l’IA générative. Le rapport de Capgemini met en évidence certaines possibilités. Celles-ci montrent que la durabilité peut faire partie du processus de prise de décision pour la quasi-totalité de la mise en œuvre de l’IA, depuis le choix des modèles et des partenaires jusqu’à l’infrastructure.
Par exemple, Capgemini préconise l’utilisation de modèles d’IA plus petits (SLM) au lieu de LLM à grande échelle pour réduire la consommation d’énergie. Les SLM spécialisés ne devraient pas être inférieurs aux LLM lorsqu’ils sont déployés correctement.
Il existe en outre diverses techniques d’optimisation telles que l’élagage, la quantification et la distillation des connaissances, qui permettent de réduire la consommation d’énergie sans perte de performance. En outre, il est judicieux d’optimiser les messages-guides autant que possible.
Pour les solutions basées sur l’informatique en nuage, les organisations peuvent examiner où les partenaires obtiennent leur énergie et sur quels modèles de matériel ils fonctionnent. Plus les puces sont récentes, moins elles consomment d’énergie. Capgemini souligne les avantages des puces Blackwell de Nvidia, bien qu’elles illustrent immédiatement la complexité du problème. Blackwell est 25 fois plus efficace que ses prédécesseurs, mais les puces contiennent des bogues et la production de masse a commencé, mais n’a pas démarré.
Lettre morte
Quoi qu’il en soit, la mise en œuvre durable de l’IA générative reste lettre morte lorsque les grandes organisations ne donnent pas la priorité à l’impact. Le rapport montre ainsi que les entreprises oublient rapidement leurs ambitions environnementales lorsqu’elles sont tentées par l’innovation. Le fait que si peu de grandes entreprises mesurent leur impact et que la durabilité n’entre pas en ligne de compte dans la sélection des solutions d’IA générative en dit long à cet égard.