L’IA générative est-elle mauvaise pour l’environnement ?Un informaticien explique l'empreinte carbone de ChatGPT et de ses cousins

L'IA générative est la nouvelle technologie en vogue derrière les chatbots et les générateurs d'images.Mais à quelle température fait-il la planète ?

En tant que Chercheur en IA, je m'inquiète souvent des coûts énergétiques liés à la construction de modèles d'intelligence artificielle.Plus l’IA est puissante, plus elle consomme d’énergie.Que signifie l’émergence de modèles d’IA générative de plus en plus puissants pour l’empreinte carbone future de la société ?

« Génératif » fait référence à la capacité d'un algorithme d'IA à produire des données complexes.L'alternative est Une IA « discriminante », qui choisit entre un nombre fixe d'options et ne produit qu'un seul numéro.Un exemple de résultat discriminant est le choix d’approuver ou non une demande de prêt.

L'IA générative peut créer des résultats beaucoup plus complexes, comme une phrase, un paragraphe, une image ou même une courte vidéo.Il est utilisé depuis longtemps dans des applications telles que les haut-parleurs intelligents pour générer des réponses audio, ou en saisie semi-automatique pour suggérer une requête de recherche.Cependant, ce n'est que récemment qu'il a acquis la capacité de générer un langage humain et des photos réalistes.

Utiliser plus d’énergie que jamais

Le coût énergétique exact d’un seul modèle d’IA est difficile à estimer et inclut l’énergie utilisée pour fabriquer l’équipement informatique, créer le modèle et utiliser le modèle en production.En 2019, des chercheurs ont découvert que la création d'un modèle d'IA génératif appelé BERT avec 110 millions de paramètres consommé l'énergie d'un vol transcontinental aller-retour pour une personne.Le nombre de paramètres fait référence à la taille du modèle, les modèles plus grands étant généralement plus performants.Les chercheurs ont estimé que la création du GPT-3, beaucoup plus grand, doté de 175 milliards de paramètres, consommé 1 287 mégawattheures d'électricité et généré 552 tonnes d'équivalent dioxyde de carbone, l'équivalent de 123 véhicules de tourisme à essence conduits pendant un an.Et c’est juste pour préparer le lancement du modèle, avant que les consommateurs ne commencent à l’utiliser.

La taille n’est pas le seul indicateur des émissions de carbone.Le libre accès Modèle FLEURI, développé par le Projet BigScience en France, est de taille similaire à GPT-3 mais a une empreinte carbone bien moindre, consommant 433 MWh d'électricité pour générer 30 tonnes d'équivalent CO2.Une étude de Google a révélé que, pour une taille égale, l'utilisation d'une architecture de modèle et d'un processeur plus efficaces et d'un centre de données plus écologique peut réduire l'empreinte carbone. de 100 à 1 000 fois.

Les modèles plus grands consomment plus d’énergie lors de leur déploiement.Il existe peu de données sur l'empreinte carbone d'une seule requête d'IA générative, mais certains chiffres du secteur l'estiment à quatre à cinq fois plus élevé que celui d’une requête sur un moteur de recherche.À mesure que les chatbots et les générateurs d'images deviennent plus populaires, et que Google et Microsoft intégrer des modèles de langage d'IA dans leurs moteurs de recherche, le nombre de requêtes qu’ils reçoivent chaque jour pourrait croître de façon exponentielle.

Bots IA pour la recherche

Il y a quelques années, peu de personnes en dehors des laboratoires de recherche utilisaient des modèles comme BERT ou GPT.Cela a changé en novembre.30 2022, lorsque OpenAI a publié ChatGPT.Selon les dernières données disponibles, ChatGPT comptait plus de 1,5 milliard de visites en mars 2023.Microsoft a intégré ChatGPT dans son moteur de recherche, Bing, et l'a rendu accessible à tous le 4 mai 2023.Si les chatbots deviennent aussi populaires que les moteurs de recherche, les coûts énergétiques liés au déploiement des IA pourraient s’additionner.Mais les assistants IA ont bien d’autres utilisations que la simple recherche, comme la rédaction de documents, la résolution de problèmes mathématiques et la création de campagnes marketing.

Un autre problème est que les modèles d’IA doivent être continuellement mis à jour.Par exemple, ChatGPT n’a été formé que sur des données allant jusqu’en 2021, il ne sait donc rien de ce qui s’est passé depuis lors.L'empreinte carbone de la création de ChatGPT n'est pas une information publique, mais elle est probablement beaucoup plus élevée que celle de GPT-3.S’il fallait le recréer régulièrement pour mettre à jour ses connaissances, les coûts énergétiques augmenteraient encore davantage.

L’un des avantages est que demander à un chatbot peut être un moyen plus direct d’obtenir des informations que d’utiliser un moteur de recherche.Au lieu d’obtenir une page pleine de liens, vous obtenez une réponse directe comme vous le feriez de la part d’un humain, en supposant que les problèmes d’exactitude soient atténués.Accéder plus rapidement à l’information pourrait potentiellement compenser l’augmentation de la consommation d’énergie par rapport à un moteur de recherche.

Voies à suivre

L’avenir est difficile à prédire, mais les grands modèles d’IA générative sont là pour rester, et les gens se tourneront probablement de plus en plus vers eux pour obtenir des informations.Par exemple, si un élève a besoin d’aide pour résoudre un problème de mathématiques maintenant, il demande à un tuteur ou à un ami, ou consulte un manuel.À l’avenir, ils feront probablement appel à un chatbot.Il en va de même pour d’autres connaissances spécialisées telles que les conseils juridiques ou l’expertise médicale.

Même si un seul grand modèle d’IA ne va pas détruire l’environnement, si un millier d’entreprises développent des robots IA légèrement différents à des fins différentes, chacun étant utilisé par des millions de clients, la consommation d’énergie pourrait devenir un problème.Des recherches supplémentaires sont nécessaires pour rendre l’IA générative plus efficace.La bonne nouvelle est que l’IA peut fonctionner avec des énergies renouvelables.En amenant le calcul là où l'énergie verte est la plus abondante, ou en programmant le calcul à des moments de la journée où l'énergie renouvelable est plus disponible, les émissions peuvent être réduites. réduit d'un facteur de 30 à 40, par rapport à l’utilisation d’un réseau dominé par les combustibles fossiles.

Enfin, la pression sociétale peut être utile pour encourager les entreprises et les laboratoires de recherche à publier l’empreinte carbone de leurs modèles d’IA, comme certains le font déjà.À l’avenir, les consommateurs pourraient peut-être même utiliser ces informations pour choisir un chatbot « plus vert ».