Token (Token (unité de traitement IA))

Qu'est-ce que Token (unité de traitement IA) (Token) ?

Avant de répondre, un modèle de langage découpe le texte en tokens, des morceaux de mots d'environ 4 caractères (à peu près 0,75 mot). « chat » fait un token, « anticonstitutionnellement » en fait plusieurs. C'est l'unité native des API : la facturation et la mesure d'énergie se font par millions de tokens. L'énergie d'une requête suit le nombre de tokens traités, surtout en sortie : un prompt long ou une réponse longue consomment davantage. Ordre de grandeur : environ 3x10⁻⁴ Wh par token sur un modèle optimisé.

Questions fréquentes sur Token

Qu'est-ce que Token (unité de traitement IA) (Token) ?

Unité de base que traite une IA : un fragment de mot (environ 0,75 mot). L'énergie et le coût d'une requête se comptent en tokens.

Pourquoi Token compte pour le bilan carbone ?

Avant de répondre, un modèle de langage découpe le texte en tokens, des morceaux de mots d'environ 4 caractères (à peu près 0,75 mot). « chat » fait un token, « anticonstitutionnellement » en fait plusieurs. C'est l'unité native des API : la facturation et la mesure d'énergie se font par millions de tokens. L'énergie d'une requête suit le nombre de tokens traités, surtout en sortie : un prompt long ou une réponse longue consomment davantage. Ordre de grandeur : environ…

Articles Celsius en lien

• Quelle IA consomme le moins d'énergie ?

Sources officielles

• OpenAI - What are tokens

Celsius applique ces méthodes sur le terrain : 80+ missions de comptabilité carbone et d'ACV depuis 2019. Échanger 15 minutes avec un consultant senior · Outils gratuits