S3 1 Tio
S3 1 Tio
Connexion Premium
Droit Économie Flock Hardware IA Internet Logiciel Sciences Sécurité Société
Déontologie Règles de modération Mentions légales et contact
Qui sommes nous ? Contact rédaction Contact site Forum
Flux RSS GitHub Discord

IA générative : pour réduire vos coûts et votre empreinte, parlez anglais

Le français, cette langue de luxe

IA générative : pour réduire vos coûts et votre empreinte, parlez anglais

Illustration : Flock

Changer de langue permet de consommer moins de tokens, c’est un fait et nous l’avons mesuré aussi bien chez Anthropic, OpenAI et Google. Moins de tokens, c’est un coût de revient plus faible et moins de calcul, donc une empreinte écologique plus faible.

Les IA génératives ne travaillent pas sur des mots, mais sur des tokens (ou jetons). C’est une manière de découper des phrases, propre à chaque famille de modèle. C’est le rôle du tokenizeur : vous saisissez votre prompt, il le transforme en tokens qui sont envoyés au modèle.

Il fait des centaines de milliards d’opérations sur chaque token et renvoie le résultat, de nouveau en tokens. Opération inverse du tokeniseur et voilà la réponse affichée.

Tous les tokens ne se valent pas !

Les grands modèles de langage ne parlent qu’en tokens, c’est l’unité de base pour les calculs et la facturation. Plus il y a de tokens en entrée et en sortie, plus vous payez cher (ou plus cela entame votre forfait). Il y a aussi plus de calculs, dont une empreinte environnementale plus importante.

Quel rapport avec le titre de notre actualité et donc avec les langues ? La création de tokens (ou jetons) n’est pas universelle : elle dépend de chaque famille de modèle, mais également de la langue. Pour mettre en lumière cette différence, nous avons pris comme référence le règlement général sur la protection des données (RGPD) de la Commission européenne, un long texte traduit dans les 24 langues de l’Union.

Une précision importante : le gain dont nous parlons ici reste anecdotique par rapport à un usage responsable : ne demandez pas à ChatGPT de faire de la reconnaissance de caractère basique sur une image ou de traduire un texte, des IA spécialisées le feront bien mieux et pour moins cher (en argent et en consommation). Vous pouvez aussi demander aux modèles d’être moins bavards, d’aller à l’essentiel. Les économies seront bien plus importantes.

Les tokens dans 24 langues et près de 10 millions de caractères

Chaque texte ne fait pas la même longueur : entre 320 000 et 415 000 caractères, avec 371 000 de moyenne environ. Mais ce règlement est assez long pour en tirer une métrique intéressante : le nombre de caractères moyens par token et par langue.

Il reste 69% de l'article à découvrir.

Cadenas en colère - Contenu premium

Soutenez un journalisme indépendant,
libre de ton, sans pub et sans reproche.

Accédez en illimité aux articles

Profitez d'un média expert et unique

Intégrez la communauté et prenez part aux débats

Partagez des articles premium à vos contacts

Commentaires (20)

votre avatar
En parallèle, ce serait intéressant de savoir si les IA chinoises consomment moins de token si on leur parle en chinois qu'un une autre langue
votre avatar
c’est a tester, Mistra aussi pourrait etre intéressant à voir (faut que je regarde comment récupérer des tokens). Pour le moment je suis resté sur les modèles payants grand public :)
votre avatar
Intéressant, mais il me semble avoir lu qu'il y a plus d'auto-censure aussi dans le cas de l'usage du chinois contrairement aux autres langues.

Édit, un lien parmi tant d'autres (mais informations fiable 😁 ) : next.ink Next
votre avatar
ça a été une grande question à mes débuts de poncage des grille-pains ... mais le gain de lui parler en anglais est vite perdu par l'imprécision de ma fluency relative 🥲
votre avatar
Vous pouvez aussi demander aux modèles d’être moins bavards, d’aller à l’essentiel. Les économies seront bien plus importantes.
Il me semble que ce n'était généralement pas une bonne idée et qu'il faut les laisser raisonner
votre avatar
Comme toujours, ça dépend des usages. Le raisonnement n'empêche pas de faire des réponses courtes, et vice-versa. Une IA moins volubile sera plus économe pour un raisonnement identique.
votre avatar
Compliqué de comparer l'usage avec des langues n'utilisant pas un alphabet latin je prends en exemple 屋内禁煙 - Interdiction de fumer à l'intérieur.
votre avatar
On passe de 70 000 Tokens avec GPT-6 pour le RGPD au complet en anglais, à 92 000 tokens pour le français.
Ce qui n'a rien de surprenant comme l'indique après le nombre de signes espaces comprises dans les deux textes. Non seulement il y a la différence entre le français qui est une langue de noms tandis que l'anglais est porté sur le verbe, mais aussi la longueur des mots varie.

Cependant, il y a aussi un petit biais d'analyse vis à vis de la différence entre les textes : ils ne sont pas rédigés d'une façon strictement identique.

Exemple avec le 1er considérant :
La protection des personnes physiques à l'égard du traitement des données à caractère personnel est un droit fondamental. L'article 8, paragraphe 1, de la Charte des droits fondamentaux de l'Union européenne (ci-après dénommée «Charte») et l'article 16, paragraphe 1, du traité sur le fonctionnement de l'Union européenne disposent que toute personne a droit à la protection des données à caractère personnel la concernant.
The protection of natural persons in relation to the processing of personal data is a fundamental right. Article 8(1) of the Charter of Fundamental Rights of the European Union (the ‘Charter’) and Article 16(1) of the Treaty on the Functioning of the European Union (TFEU) provide that everyone has the right to the protection of personal data concerning him or her.
Rien que de visu, on constate que le paragraphe anglais est plus court. Pourtant, ils ont presque le même nombre de mots : 63 en français, 61 en anglais selon LO Writer. En s.e.c. l'écart est plus élevé : 423 versus 366.

Sauf que quand on lit bien, on constate des différences de style d'écriture qui influencent aussi cette perception, notamment en raison de conventions typographiques différentes. Exemples :

  • L'article 8, paragraphe 1 est désigné Article 8(1) en anglais (même chose pour le 16-1) ; le français a une convention plus longue que l'anglais

  • Le français n'abrège pas le traité sur le fonctionnement de l'Union européenne en TFEU comme l'anglais dont l'acronyme est réutilisé 14 fois dans le texte anglais ; notre langue est moins friande des sygles



Donc non seulement la langue elle-même varie, mais ses conventions typographiques sont aussi des facteurs pouvant influencer les résultats :)
votre avatar
Oui, mais c’est pour ça que je parle le plus souvent en caractères par token, qu’en token pure
votre avatar
Pour avoir fait quelques tests viteuf sur un tokenizer en ligne avec des textes littéraires du domaine public (en l'occurrence des premiers paragraphes de L'ïle mystérieuse dans sa version originale et traduite en anglais dispo chez Project Gutenberg), on constate aussi l'écart sur deux textes rédigés de la même façon.

Ce qui confirme dans tous les cas que la différence entre les langues qui ont des mots plus ou moins longs influence forcément le tokenizer. Par contre la façon dont les mots étaient découpées était intéressante : souvent similaire.

Par contre, l'élément que je ne suis pas sûr d'avoir saisi dans ton texte : tu estimes uniquement combien de tokens le modèle va prendre en entrée, mais ici tu n'a pas en sortie basée sur une analyse du texte ?
L'étude serait un peu plus complexe, mais via les API à température et paramètres identique (peut être en baissant la température pour rendre le LLM plus déterministe). As-tu prévu d'évaluer la verbosité sortante par langue des modèles ? (ou alors j'ai loupé le détail, dans ce cas je retourne dormir)
votre avatar
Je n’ai demandé à l’API qu’un calcul de tokens, l’IA n’a rien traité et je n’ai pas de retour au prompt. Ce n’était pas le but. Pour la verbosité des IA, j’ai fait trois papiers sur le vrai prix de Claude, ChatGPT et Gemini, avec le nombre de tokens de sortie/réflexion à chaque fois. Là tu as tout ce qu’il te faut.

Même avec une température à 0 ca reste des modèles statistiques, on ne peut pas le rendre 100 % déterministe, mais ce n’est pas trop le sujet : la conversion en tokens est déterministe : une même phrase donnera toujours les mêmes tokens.

Donc le nombre de token ne dépend que du modèle, mais un modele avec un tokeniseur qui propose plus de caractères par tokens donnera plus de caractères en sortie, pour un même nombre de token (donc l’impression d’une réponse plus longue, je sais pas si c’est clair ou si moi aussi je retourne dormir :D)
votre avatar
for sure ;)
votre avatar
L’écart entre Anthropic et ses concurrents me laisse sans token !
votre avatar
J'ai fait des tests en IA pour traiter des documents en français (pas pour faire des résumés, pour extraire des données précises). J'ai tenté les consignes en anglais pour voir si le résultat était meilleure mais non, donc les consignes dans la même langue que les textes ça donne un meilleur résultat dans mon cas.
votre avatar
pour réduire l'utilisation de token en sortie:
caveman
votre avatar
IA générative : pour réduire vos coûts et votre empreinte, parlez anglaisen SMS.

Sino pas carac accent ou spec change nbr token?
Ainsi il n'y a plus d'hallucination, juste des mots qu'on ne connaissait pas :roule:
votre avatar
IA générative : pour réduire vos coûts et votre empreinte, parlez anglais en SMS ne l'utilisez pas :rhooo:.
votre avatar
faut laisser les llm traduire c 'est leur spécialité. un meilleur prompt qui limite le cadre est plus rentable. sinon un model local qwen leger fait tres bien aussi office de traducteur ou d'amélioration de prompt comme qwen 3.5 spécialement entrainé pour améliorer les prompts pour qwen image 2.1 mais meme la , j utilise le français et l'amélioration est en français. bon. au final, tout en local quand on peut et on se fait plus chier à compter les tokens. n'oubliez pas les middlewares comme rtk qui fait economisez sur les token et qui marchent tres bien
votre avatar
C'est marrant que la plupart des gros éditeurs aient décidé de changer de tokenizer sans trop communiquer dessus. Concrètement, ça change quoi pour le LLM ?
J'imagine que ce n'est pas pareil pour lui de recevoir "je s" et "uis." que "je sui" et "s."?
votre avatar
Il me semble que c'est arbitraire, pour le coup. Le but est juste d'assigner un identifiant à un élément de découpage pendant l'entraînement pour ensuite l'utiliser lors de l'inférence. C'est donc lié au LLM à proprement parler.