{
  "id": "IA-0104",
  "version": "0.3",
  "date": "2026-11-02",
  "moteur": "0.3.1",
  "designation": "Entraînement d'un modèle",
  "titre_court": "Entraînement d'un modèle",
  "description": "Ce qu'a coûté l'entraînement des modèles dont l'éditeur ou des chercheurs ont publié le bilan, un modèle par ligne. OpenAI, Anthropic et Google ne publient rien pour GPT-4, Claude ou Gemini ; les chiffres de GPT-3 et de GPT-4 sont des estimations de chercheurs.",
  "categorie": {
    "code": "infrastructure",
    "nom": "Infrastructure"
  },
  "etage": {
    "code": "infrastructure",
    "numero": "en face",
    "nom": "Infrastructure"
  },
  "famille": {
    "code": "entrainement",
    "nom": "Entraînement des modèles"
  },
  "unite": "1 entraînement",
  "grandeur": "electricite",
  "type": "releve",
  "statut": "publié",
  "repose_sur": {
    "releves": 1,
    "conventions": 0,
    "hypotheses": 0
  },
  "valeur": {
    "electricite": {
      "valeur": 1287000000,
      "basse": null,
      "haute": null,
      "unite": "Wh",
      "fourchette": "aucune",
      "publie": true
    },
    "co2e": {
      "valeur": 552000000,
      "basse": null,
      "haute": null,
      "unite": "gCO2e",
      "publie": true,
      "lieu": null,
      "gCO2e_par_kWh": null
    },
    "facteur": null,
    "recomposition_Wh": null
  },
  "lieux": null,
  "parametres": [
    {
      "dimension": "modele",
      "lignes": [
        {
          "cle": "gpt3",
          "libelle": "GPT-3, 2020",
          "parametres": {
            "modele": "gpt3"
          },
          "defaut": true,
          "electricite_Wh": 1287000000,
          "co2e_gCO2e": 552000000,
          "adresse": "https://projetcelsius.com/ia/base/infrastructure/entrainement-d-un-modele/"
        },
        {
          "cle": "llama31",
          "libelle": "Llama 3.1, trois tailles, 2024",
          "parametres": {
            "modele": "llama31"
          },
          "defaut": false,
          "electricite_Wh": null,
          "co2e_gCO2e": 11390000000,
          "adresse": "https://projetcelsius.com/ia/base/infrastructure/entrainement-d-un-modele/?modele=llama31"
        },
        {
          "cle": "mistral-large-2",
          "libelle": "Mistral Large 2, entraînement et 18 mois d'usage",
          "parametres": {
            "modele": "mistral-large-2"
          },
          "defaut": false,
          "electricite_Wh": null,
          "co2e_gCO2e": 20400000000,
          "adresse": "https://projetcelsius.com/ia/base/infrastructure/entrainement-d-un-modele/?modele=mistral-large-2"
        },
        {
          "cle": "gpt4",
          "libelle": "GPT-4, 2023, estimation de chercheurs, fabrication comprise",
          "parametres": {
            "modele": "gpt4"
          },
          "defaut": false,
          "electricite_Wh": 32800000000,
          "co2e_gCO2e": 15000000000,
          "adresse": "https://projetcelsius.com/ia/base/infrastructure/entrainement-d-un-modele/?modele=gpt4"
        },
        {
          "cle": "bloom",
          "libelle": "BLOOM, 2022, entraîné en France, fabrication comprise",
          "parametres": {
            "modele": "bloom"
          },
          "defaut": false,
          "electricite_Wh": 433000000,
          "co2e_gCO2e": 50500000,
          "adresse": "https://projetcelsius.com/ia/base/infrastructure/entrainement-d-un-modele/?modele=bloom"
        },
        {
          "cle": "llama4",
          "libelle": "Llama 4 Scout et Maverick, 2025",
          "parametres": {
            "modele": "llama4"
          },
          "defaut": false,
          "electricite_Wh": null,
          "co2e_gCO2e": 1999000000,
          "adresse": "https://projetcelsius.com/ia/base/infrastructure/entrainement-d-un-modele/?modele=llama4"
        },
        {
          "cle": "gemma2",
          "libelle": "Gemma 2 de Google, trois tailles, 2024",
          "parametres": {
            "modele": "gemma2"
          },
          "defaut": false,
          "electricite_Wh": null,
          "co2e_gCO2e": 1247610000,
          "adresse": "https://projetcelsius.com/ia/base/infrastructure/entrainement-d-un-modele/?modele=gemma2"
        },
        {
          "cle": "olmo",
          "libelle": "La famille OLMo, entraînements finaux, 2025",
          "parametres": {
            "modele": "olmo"
          },
          "defaut": false,
          "electricite_Wh": null,
          "co2e_gCO2e": 312000000,
          "adresse": "https://projetcelsius.com/ia/base/infrastructure/entrainement-d-un-modele/?modele=olmo"
        }
      ]
    }
  ],
  "reglages": [],
  "curseurs": [],
  "params": {
    "lieu": "monde",
    "adoption": "courant",
    "calage": "mesures",
    "classe": "moyen",
    "outillage": "assistant",
    "raisonnement": "sans",
    "secteur": "services",
    "taille": "standard",
    "t_mot": 1.6,
    "t_consigne": 40,
    "t_question": 100,
    "t_reponse": 400,
    "t_email": 240,
    "t_page": 640,
    "t_article": 1600,
    "t_document": 19200,
    "t_roman": 128000,
    "t_tolkien": 768000,
    "t_minute_parole": 240,
    "t_reunion": 17600,
    "t_page_web": 1600,
    "t_extrait": 320,
    "t_image_lue": 1100,
    "t_minute_audio_lue": 600,
    "t_minute_audio_ecrite": 1200,
    "t_ligne_code": 12,
    "t_fonction": 480,
    "t_fichier_code": 3600,
    "t_tableur": 9300,
    "t_consigne_systeme": 500,
    "modele": "gpt3",
    "part_utilisateurs": 0.25,
    "k_calage": 0.6556
  },
  "perimetre": {
    "court": "entraînement final ; fabrication quand la ligne le dit",
    "compte": "l'électricité de l'entraînement final, et la fabrication du matériel quand la ligne le dit",
    "non_compte": "les essais qui précèdent l'entraînement final et l'usage du modèle, sauf mention sur la ligne"
  },
  "recette": [],
  "lignage": [],
  "entre_dans": [],
  "conventions": [],
  "releves": [
    {
      "id": "R-0104",
      "qui": "Patterson et al.",
      "date": "2021",
      "grandeur": "electricite",
      "valeur": 1287000000,
      "basse": null,
      "haute": null,
      "unite": "Wh",
      "statut": "estimé",
      "perimetre_rel": "même périmètre",
      "perimetre": "GPT-3, 2020, électricité moyenne des États-Unis ; 552 tCO2e",
      "ecart": "Une estimation extérieure, OpenAI n'a rien publié",
      "source": {
        "cle": "patterson-2021",
        "nom": "Patterson et al.",
        "titre": "Carbon Emissions and Large Neural Network Training",
        "auteur": "Patterson et al.",
        "date": "2021-04",
        "url": "https://arxiv.org/abs/2104.10350"
      }
    },
    {
      "id": "R-0105",
      "qui": "Meta",
      "date": "2024",
      "grandeur": "carbone",
      "valeur": 11390000000,
      "basse": null,
      "haute": null,
      "unite": "gCO2e",
      "statut": "publié",
      "perimetre_rel": "même périmètre",
      "perimetre": "Llama 3.1, trois tailles, 39,3 millions d'heures de carte graphique, base de localisation",
      "ecart": "Publié par Meta, électricité non publiée",
      "source": {
        "cle": "meta-llama31",
        "nom": "Meta",
        "titre": "Fiche du modèle Llama 3.1",
        "auteur": "Meta",
        "date": "2024-07",
        "url": "https://raw.githubusercontent.com/meta-llama/llama-models/main/models/llama3_1/MODEL_CARD.md"
      }
    },
    {
      "id": "R-0106",
      "qui": "Mistral AI, ACV de Large 2",
      "date": "2025-07",
      "grandeur": "carbone",
      "valeur": 20400000000,
      "basse": null,
      "haute": null,
      "unite": "gCO2e",
      "statut": "estimé",
      "perimetre_rel": "autre périmètre",
      "perimetre": "Entraînement et 18 mois d'usage, cycle de vie",
      "ecart": "Autre périmètre : l'usage et la fabrication sont compris",
      "source": {
        "cle": "mistral-2025",
        "nom": "Mistral AI",
        "titre": "Our contribution to a global environmental standard for AI",
        "auteur": "Mistral AI",
        "date": "2025-07",
        "url": "https://mistral.ai/news/our-contribution-to-a-global-environmental-standard-for-ai"
      }
    },
    {
      "id": "R-0206",
      "qui": "Mistral AI, ACV de Large 2",
      "date": "2025-07",
      "grandeur": "eau",
      "valeur": 281000000000,
      "basse": null,
      "haute": null,
      "unite": "mL",
      "statut": "estimé",
      "perimetre_rel": "autre périmètre",
      "perimetre": "Mistral Large 2, entraînement et 18 mois d'usage, analyse de cycle de vie : eau consommée, fabrication des serveurs comprise",
      "ecart": "Autre périmètre : l'étude ne sépare pas l'entraînement de l'usage",
      "source": {
        "cle": "mistral-2025",
        "nom": "Mistral AI",
        "titre": "Our contribution to a global environmental standard for AI",
        "auteur": "Mistral AI",
        "date": "2025-07",
        "url": "https://mistral.ai/news/our-contribution-to-a-global-environmental-standard-for-ai"
      }
    },
    {
      "id": "R-0360",
      "qui": "Morand, Névéol et Ligozat",
      "date": "2025-10",
      "grandeur": "electricite",
      "valeur": 32800000000,
      "basse": null,
      "haute": null,
      "unite": "Wh",
      "statut": "estimé",
      "perimetre_rel": "même périmètre",
      "perimetre": "GPT-4, 57 millions d'heures de cartes A100, centre de données compris (PUE de 1,2)",
      "ecart": "Une estimation de chercheurs : OpenAI n'a rien publié",
      "source": {
        "cle": "morand-2025",
        "nom": "Morand et al.",
        "titre": "The Environmental Impacts of Language Model Training Keep Rising",
        "auteur": "Morand, Névéol et Ligozat",
        "date": "2025-10",
        "url": "https://arxiv.org/abs/2510.09022"
      }
    },
    {
      "id": "R-0361",
      "qui": "Morand, Névéol et Ligozat",
      "date": "2025-10",
      "grandeur": "carbone",
      "valeur": 15000000000,
      "basse": null,
      "haute": null,
      "unite": "gCO2e",
      "statut": "estimé",
      "perimetre_rel": "autre périmètre",
      "perimetre": "GPT-4, électricité moyenne des États-Unis : 10 200 t pour l'usage des serveurs, 2 000 t pour l'infrastructure, 3 300 t pour la fabrication",
      "ecart": "Fabrication du matériel comprise",
      "source": {
        "cle": "morand-2025",
        "nom": "Morand et al.",
        "titre": "The Environmental Impacts of Language Model Training Keep Rising",
        "auteur": "Morand, Névéol et Ligozat",
        "date": "2025-10",
        "url": "https://arxiv.org/abs/2510.09022"
      }
    },
    {
      "id": "R-0362",
      "qui": "Luccioni, Viguier et Ligozat",
      "date": "2022-11",
      "grandeur": "electricite",
      "valeur": 433000000,
      "basse": null,
      "haute": null,
      "unite": "Wh",
      "statut": "mesuré",
      "perimetre_rel": "même périmètre",
      "perimetre": "BLOOM, 176 milliards de paramètres, entraîné sur le supercalculateur Jean Zay, en France",
      "ecart": "Un modèle ouvert ; le même tableau donne 324 MWh pour OPT et 1 066 MWh pour Gopher",
      "source": {
        "cle": "bloom-2022",
        "nom": "Luccioni et al.",
        "titre": "Estimating the Carbon Footprint of BLOOM, a 176B Parameter Language Model",
        "auteur": "Luccioni, Viguier et Ligozat",
        "date": "2022-11",
        "url": "https://arxiv.org/abs/2211.02001"
      }
    },
    {
      "id": "R-0363",
      "qui": "Luccioni, Viguier et Ligozat",
      "date": "2022-11",
      "grandeur": "carbone",
      "valeur": 50500000,
      "basse": null,
      "haute": null,
      "unite": "gCO2e",
      "statut": "estimé",
      "perimetre_rel": "autre périmètre",
      "perimetre": "BLOOM, électricité française (57 gCO2e/kWh), fabrication du matériel (11,2 t) et consommation au repos (14,6 t) comprises",
      "ecart": "24,7 tCO2e pour l'électricité du calcul seule",
      "source": {
        "cle": "bloom-2022",
        "nom": "Luccioni et al.",
        "titre": "Estimating the Carbon Footprint of BLOOM, a 176B Parameter Language Model",
        "auteur": "Luccioni, Viguier et Ligozat",
        "date": "2022-11",
        "url": "https://arxiv.org/abs/2211.02001"
      }
    },
    {
      "id": "R-0364",
      "qui": "Meta",
      "date": "2025",
      "grandeur": "carbone",
      "valeur": 1999000000,
      "basse": null,
      "haute": null,
      "unite": "gCO2e",
      "statut": "publié",
      "perimetre_rel": "même périmètre",
      "perimetre": "Llama 4 Scout et Maverick, 7,38 millions d'heures de cartes H100, électricité du réseau local",
      "ecart": "Zéro selon les contrats d'électricité de Meta ; « tons » sans précision dans la fiche",
      "source": {
        "cle": "meta-llama4",
        "nom": "Meta",
        "titre": "Fiche du modèle Llama 4",
        "auteur": "Meta",
        "date": "2025",
        "url": "https://raw.githubusercontent.com/meta-llama/llama-models/main/models/llama4/MODEL_CARD.md"
      }
    },
    {
      "id": "R-0365",
      "qui": "Google, équipe Gemma",
      "date": "2024",
      "grandeur": "carbone",
      "valeur": 1247610000,
      "basse": null,
      "haute": null,
      "unite": "gCO2e",
      "statut": "publié",
      "perimetre_rel": "même périmètre",
      "perimetre": "Gemma 2, trois tailles (2, 9 et 27 milliards de paramètres), préentraînement sur les puces de Google, surcoût du centre de données compris",
      "ecart": "Sans dire si l'électricité est comptée selon le réseau ou selon les contrats",
      "source": {
        "cle": "gemma2-2024",
        "nom": "Google",
        "titre": "Gemma 2: Improving Open Language Models at a Practical Size",
        "auteur": "Équipe Gemma, Google",
        "date": "2024",
        "url": "https://arxiv.org/abs/2408.00118"
      }
    },
    {
      "id": "R-0366",
      "qui": "Allen Institute for AI, Morrison et al.",
      "date": "2025-03",
      "grandeur": "carbone",
      "valeur": 312000000,
      "basse": null,
      "haute": null,
      "unite": "gCO2e",
      "statut": "mesuré",
      "perimetre_rel": "même périmètre",
      "perimetre": "Famille OLMo, de 20 millions à 13 milliards de paramètres, entraînements finaux",
      "ecart": "Les essais de développement ajoutent 159 tCO2e, et la fabrication des cartes 22 tCO2e",
      "source": {
        "cle": "olmo-2025",
        "nom": "Allen Institute",
        "titre": "Holistically Evaluating the Environmental Impact of Creating Language Models",
        "auteur": "Morrison et al., Allen Institute for AI",
        "date": "2025-03",
        "url": "https://arxiv.org/abs/2503.05804"
      }
    }
  ],
  "adresses": {
    "page": "https://projetcelsius.com/ia/base/infrastructure/entrainement-d-un-modele/",
    "lien_court": "https://projetcelsius.com/ia/base/IA-0104/",
    "json": "https://projetcelsius.com/ia/base/infrastructure/entrainement-d-un-modele.json",
    "markdown": "https://projetcelsius.com/ia/base/infrastructure/entrainement-d-un-modele.md"
  },
  "licence": "CC BY 4.0",
  "citation": "Projet Celsius, Base Impact de l'IA, « Entraînement d'un modèle », IA-0104, version 0.3, 2 novembre 2026, projetcelsius.com/ia/base/IA-0104/ · CC BY 4.0."
}
