Entraînement d'un modèle
Ce qu'a coûté l'entraînement des modèles dont l'éditeur ou des chercheurs ont publié le bilan, un modèle par ligne.
- Référence sélectionnée : GPT-3, 2020, source Patterson et al.
- Les lignes décrivent des entraînements de modèles différents, pas l'évolution annuelle d'un même modèle.
- Hors périmètre : les essais qui précèdent l'entraînement final et l'usage du modèle, sauf mention sur la ligne.
Origine de la valeur
OpenAI, Anthropic et Google ne publient rien pour GPT-4, Claude ou Gemini ; les chiffres de GPT-3 et de GPT-4 sont des estimations de chercheurs.
Caractéristiques
| Unité | 1 entraînement : GPT-3, 2020 |
|---|---|
| Lieu | sans objet : un total publié ne dépend pas du lieu des serveurs |
| Compté | l'électricité de l'entraînement final, et la fabrication du matériel quand la ligne le dit |
| Non compté | les essais qui précèdent l'entraînement final et l'usage du modèle, sauf mention sur la ligne |
| Statut | publié, 1 relevé de même périmètre, 2 autres valeurs publiées |
Toutes les caractéristiques identifiant, version, règle de la valeur, sources, licence
| Identifiant | IA-0104, projetcelsius.com/ia/base/IA-0104/ |
|---|---|
| Version | 0.3 du 2 novembre 2026 |
| Catégorie | Infrastructure, publié tel quel |
| Modèle | GPT-3, 2020 (552 tCO2e), Llama 3.1, trois tailles, 2024 (11,4 ktCO2e), Mistral Large 2, entraînement et 18 mois d'usage (20,4 ktCO2e), GPT-4, 2023, estimation de chercheurs, fabrication comprise (15 ktCO2e), BLOOM, 2022, entraîné en France, fabrication comprise (50,5 tCO2e), Llama 4 Scout et Maverick, 2025 (2 ktCO2e), Gemma 2 de Google, trois tailles, 2024 (1,25 ktCO2e), La famille OLMo, entraînements finaux, 2025 (312 tCO2e) |
| Choix de la valeur retenue | valeur reprise telle quelle de sa source, sans calcul |
| Sources | Patterson et al., 2021 |
| Licence | CC BY 4.0 |
Variantes
Sources du calcul
1 publication, pour cette entrée et celles qui servent à la calculer, avec les paramètres choisis.
Énergie et facteurs
Les références des valeurs retenues et des entrées qui servent à ce calcul.
Patterson et al. · avril 2021
Carbon Emissions and Large Neural Network Training ↗ (nouvel onglet)
Entraînement d'un modèle
Rôle et limites : Patterson et al.
Ce que couvre la publication. électricité et carbone de l'entraînement
Ce qu'elle ne couvre pas. fabrication
Lecture de la base. Estimation extérieure
Référence de la variante « GPT-3, 2020 »
Périmètre du chiffre repris. GPT-3, 2020, électricité moyenne des États-Unis ; 552 tCO2e
Limite. Une estimation extérieure, OpenAI n'a rien publié
Conventions de méthode
Avec leurs alternatives
| La règle | un total publié est repris tel quel, avec son année et son périmètre ; il n'est pas converti avec un facteur moyen et ne s'additionne pas aux calculs de la base |
|---|---|
| Calculer un cas sans entrée | La formule, les valeurs par défaut et un exemple pas à pas |
Valeurs publiées
11 chiffres pour la même grandeur, chacun dans son périmètre.
Électricité
1,29 GWh retenu, entre 433 MWh et 32,8 GWh pour les valeurs publiées de même périmètre
| Source | Date | Électricité | Ce que mesure le chiffre | Périmètre | Statut |
|---|---|---|---|---|---|
| Entraînement d'un modèleretenue par la base, v0.3 | 2026 | 1,29 GWh | la valeur retenue par la base | même périmètre | publié |
| Morand, Névéol et Ligozat ↗The Environmental Impacts of Language Model Training Keep Rising | oct. 2025 | 32,8 GWh | GPT-4, 57 millions d'heures de cartes A100, centre de données compris (PUE de 1,2) · Une estimation de chercheurs : OpenAI n'a rien publié | même périmètre | estimé |
| Luccioni, Viguier et Ligozat ↗Estimating the Carbon Footprint of BLOOM, a 176B Parameter Language Model | nov. 2022 | 433 MWh | BLOOM, 176 milliards de paramètres, entraîné sur le supercalculateur Jean Zay, en France · Un modèle ouvert ; le même tableau donne 324 MWh pour OPT et 1 066 MWh pour Gopher | même périmètre | mesuré |
| Patterson et al. ↗Carbon Emissions and Large Neural Network Training | 2021 | 1,29 GWh | GPT-3, 2020, électricité moyenne des États-Unis ; 552 tCO2e · Une estimation extérieure, OpenAI n'a rien publié | même périmètre | estimé |
CO2e
| Source | Date | CO2e | Ce que mesure le chiffre | Périmètre | Statut |
|---|---|---|---|---|---|
| Allen Institute for AI, Morrison et al. ↗Holistically Evaluating the Environmental Impact of Creating Language Models | mars 2025 | 312 tCO2e | Famille OLMo, de 20 millions à 13 milliards de paramètres, entraînements finaux · Les essais de développement ajoutent 159 tCO2e, et la fabrication des cartes 22 tCO2e | même périmètre | mesuré |
| Google, équipe Gemma ↗Gemma 2: Improving Open Language Models at a Practical Size | 2024 | 1,25 ktCO2e | Gemma 2, trois tailles (2, 9 et 27 milliards de paramètres), préentraînement sur les puces de Google, surcoût du centre de données compris · Sans dire si l'électricité est comptée selon le réseau ou selon les contrats | même périmètre | publié |
| Meta ↗Fiche du modèle Llama 4 | 2025 | 2 ktCO2e | Llama 4 Scout et Maverick, 7,38 millions d'heures de cartes H100, électricité du réseau local · Zéro selon les contrats d'électricité de Meta ; « tons » sans précision dans la fiche | même périmètre | publié |
| Meta ↗Fiche du modèle Llama 3.1 | 2024 | 11,4 ktCO2e | Llama 3.1, trois tailles, 39,3 millions d'heures de carte graphique, base de localisation · Publié par Meta, électricité non publiée | même périmètre | publié |
| Luccioni, Viguier et Ligozat ↗Estimating the Carbon Footprint of BLOOM, a 176B Parameter Language Model | nov. 2022 | 50,5 tCO2e | BLOOM, électricité française (57 gCO2e/kWh), fabrication du matériel (11,2 t) et consommation au repos (14,6 t) comprises · 24,7 tCO2e pour l'électricité du calcul seule | autre périmètre | estimé |
| Morand, Névéol et Ligozat ↗The Environmental Impacts of Language Model Training Keep Rising | oct. 2025 | 15 ktCO2e | GPT-4, électricité moyenne des États-Unis : 10 200 t pour l'usage des serveurs, 2 000 t pour l'infrastructure, 3 300 t pour la fabrication · Fabrication du matériel comprise | autre périmètre | estimé |
| Mistral AI, ACV de Large 2 ↗Our contribution to a global environmental standard for AI | juil. 2025 | 20,4 ktCO2e | Entraînement et 18 mois d'usage, cycle de vie · Autre périmètre : l'usage et la fabrication sont compris | autre périmètre | estimé |
Voir les 7 relevés
Eau
Publiée par ses sources, pas encore retenue par la base : voir la convention sur l'eau dans Méthode et conventions.
| Source | Date | Eau | Ce que mesure le chiffre | Périmètre | Statut |
|---|---|---|---|---|---|
| Mistral AI, ACV de Large 2 ↗Our contribution to a global environmental standard for AI | juil. 2025 | 281 Mm³ | Mistral Large 2, entraînement et 18 mois d'usage, analyse de cycle de vie : eau consommée, fabrication des serveurs comprise · Autre périmètre : l'étude ne sépare pas l'entraînement de l'usage | autre périmètre | estimé |
Les chiffres publiés ne comptent pas tous le même périmètre ; celui de chaque chiffre est écrit à côté de lui. Pourquoi les estimations divergent-elles ?
Utilisations dans le hub
Graphiques, chiffres, analyses et articles qui citent cette entrée
- GraphiqueEntraîner un modèle : 4 bilans publiés →
- GraphiqueAnalyse du cycle de vie de Mistral Large 2 →
- Article du blogComment et pourquoi l'IA pollue-t-elle ? ↗
Historique
Entrée en version 0.3 du 2 novembre 2026, dans la base en version 0.3
- 2 novembre 2026Désignation : L'entraînement d'un modèle devient Entraînement d'un modèle.Désignation plus précise : l'objet d'abord, la précision après la virgule, la quantité ou la période à la fin ; l'ancien titre reste cherchable.
- 1er novembre 2026Lignes : 3 modèles devient 8 modèles.Cinq bilans d'entraînement publiés ajoutés, un par ligne : GPT-4, BLOOM, Llama 4, Gemma 2 et OLMo.
- 31 octobre 2026Création de la base, dans sa première version (0.1).