Combien d'énergie consomme une recommandation de film par IA ?

La thèse : l'intelligence a sa place dans les données, pas dans chaque requête

Les grands modèles de langage répondent à chaque question en activant toute leur connaissance du monde au moment de l'exécution. C'est impressionnant, mais c'est du gaspillage dès que la même tâche se répète des milliers de fois. Une recommandation de film n'a pas besoin de la connaissance du monde à chaque appel. Elle a besoin d'une compréhension précise et réutilisable des films et de tes goûts.

MovieMind place cette compréhension dans le pipeline de données. Chaque film est encodé une seule fois sous forme de vecteur, avec sa description, ses genres, son réalisateur et ses mots-clés, et cette connaissance est partagée entre tous les utilisateurs. Tes goûts s'y ajoutent sous forme de structure construite à partir de tes propres notes. Une prédiction devient alors une recherche de voisinage dans cet espace, et une recherche en langage naturel devient une petite étape linguistique sur des candidats préfiltrés. La structure des données remplace la puissance de calcul. C'est exactement de là que viennent les facteurs mesurés dans cet article.

L'utilisateur type

Alex a noté 120 films et utilise MovieMind pendant un mois typique : 20 recherches Vibe en langage naturel, 1 résumé de profil et 250 prédictions de notes. Les prédictions ne sont pas un détail : chaque recherche Vibe affiche une prédiction personnelle pour chacun de ses 6 résultats, soit 120 par mois rien qu'avec les recherches, plus un bon 4 par jour en parcourant les listes et les fiches détaillées. Tous les chiffres MovieMind de cet article ont été mesurés le 2026-07-28 avec de vraies requêtes API (modèle : gemini-3.1-flash-lite (thinking: low)), pas estimés.

Les mesures

Consommation de tokens de requêtes réelles, identiques à la production :

Recherche Vibe (MovieMind)

1042 en entrée + 725 en sortie + 128 de raisonnement = 1895 tokens

Résumé de profil (MovieMind)

509 tokens

Prédiction de note (MovieMind)

0 token LLM, une requête de base de données pgvector, moins de 0.001 Wh

Équivalent chatbot d'une prédiction (titres + notes uniquement)

2667 tokens en entrée pour la liste de notes collée (vérifié via countTokens), environ 3300 tokens au total

Équivalent chatbot à information égale

11 425 tokens en entrée pour 120 titres avec, pour chacun, description, genres, réalisateur et accroche (mesuré via countTokens, environ 95 tokens par titre), environ 12 100 tokens au total

Mesure 1 : la recherche en langage naturel, 2 à 10 fois plus sobre

Là où il faut comprendre le langage, MovieMind utilise bien un modèle de langage, mais le plus petit modèle capable, avec un raisonnement bridé : 1895 tokens mesurés par recherche Vibe, dont seulement 128 tokens de raisonnement. La véritable intelligence de recommandation ne se trouve pas dans le modèle, mais dans la recherche vectorielle en amont, qui réduit des milliers de titres à 18 candidats avant même que le modèle ne tourne. Un grand chatbot aurait besoin de ton historique dans son contexte pour la même tâche, soit environ 3 900 tokens ou à peu près 1,3 Wh. Selon l'hypothèse de modèle, on obtient un facteur 2 (prudent : notre petit modèle compté comme un grand) à 10 (réaliste).

L'avantage n'est pas figé : il grandit avec chaque film que tu notes. Imagine que tu tiennes tes notes dans un tableur et que tu les colles dans ChatGPT à chaque recherche. Cette liste s'allonge à chaque soirée film. Le coût de recherche de MovieMind reste stable à 1895 tokens, car l'intelligence de recommandation réside dans des embeddings précalculés et dans la recherche pgvector, pas dans le prompt du LLM. Le LLM se contente de choisir parmi 18 candidats préfiltrés et de rédiger la justification.

La formule est transparente : contexte du chatbot = 1 260 tokens de base (prompt système, requête, sortie, raisonnement) + 22 tokens par titre noté. MovieMind reste à 1895 tokens, quelle que soit la taille de la collection. La borne basse prudente compte Flash-Lite au même taux d'énergie qu'un grand modèle de chatbot ; la borne haute réaliste le compte à un cinquième.

Mesure 2 : la prédiction de note, plus de 1 000 fois plus sobre

MovieMind détermine à quel point un film te plairait sans aucun modèle de langage : par une moyenne pondérée par la similarité des titres les plus proches que tu as déjà notés. C'est une requête de base de données avec une borne supérieure de 0.001 Wh. Un chatbot n'a aucune mémoire de ton historique de films : il doit le recevoir dans le prompt à chaque requête. Le plancher est une simple liste de titres et de notes : 2667 tokens mesurés pour 120 titres, environ 3300 tokens au total, à peu près 1,1 Wh, soit un facteur supérieur à 1 000. Ce plancher est volontairement favorable au chatbot, car il suppose que le modèle connaît chaque titre de façon fiable grâce à son entraînement. C'est vrai pour les blockbusters, mais pas fiable pour les titres de niche, les sorties postérieures à la date limite d'entraînement ou les titres ambigus. Pour la même base d'information que celle utilisée par MovieMind (description, genres, réalisateur et accroche pour chaque titre noté), nous avons reconstruit le prompt à partir de 120 vrais titres et l'avons mesuré : 11 425 tokens en entrée, environ 12 100 tokens au total, à peu près 4,1 Wh, soit un facteur d'environ 4 000. L'écart grandit avec la bibliothèque : à 500 titres notés, on atteint environ 48 200 tokens, à peu près 16 Wh, soit un facteur d'environ 16 000. La requête MovieMind reste constante, quelle que soit la taille de la collection.

Mesure 3 : un mois complet, au moins 20 fois, et en réalité jusqu'à 350 fois plus sobre

Le mois MovieMind d'Alex : 20 recherches Vibe et 1 résumé représentent environ 38 000 tokens LLM, plus 250 prédictions sous forme de requêtes de base de données qui, ensemble, coûtent moins de 0,3 Wh. Total : environ 3 à 13 Wh. Le même service via un chatbot coûte déjà environ 900 000 tokens, soit à peu près 300 Wh, dans la variante favorable au chatbot avec une simple liste de titres. À information égale, c'est-à-dire avec les descriptions dans chaque requête, on atteint environ 3,3 millions de tokens, soit à peu près 1 100 Wh, un facteur de 80 à 350. La raison structurelle reste la même : MovieMind calcule l'embedding d'un film une seule fois et le partage entre tous les utilisateurs, alors qu'un chatbot reconstruit la compréhension des goûts à chaque session.

Pourquoi la qualité augmente au lieu de baisser

L'efficacité ressemble à un compromis. Ici, c'est l'inverse. Un chatbot ne connaît tes goûts que si tu lui fournis ta liste complète de notes à chaque question, et même dans ce cas, il doit les reconstruire à partir d'une liste de texte. MovieMind calcule en permanence avec tout ton historique de notes, dans le même espace vectoriel que celui où vivent les films. Chaque nouvelle note affine l'image sans qu'il faille réexpliquer quoi que ce soit. Une recommandation n'est donc pas l'opinion d'un modèle, mais une déduction traçable à partir de tes propres jugements.

Hypothèses et conversion

• Conversion : 0,34 Wh par requête moyenne de chatbot (OpenAI) pour environ 1 000 tokens traités supposés, énergie proportionnelle au nombre de tokens.
• Variante prudente : nos requêtes Flash-Lite sont comptées au même taux d'énergie qu'un grand modèle de chatbot. Variante réaliste : un cinquième de ce taux, car les modèles de classe Lite sont bien plus petits.
• La prédiction kNN est indiquée comme une borne supérieure (quelques millisecondes de temps de base de données sur une infrastructure partagée).
• Exclus des deux côtés : l'entraînement des modèles de base, le réseau et les appareils des utilisateurs. La comparaison porte sur l'inférence par requête.
• La mémoire des chatbots ne change pas le calcul : les notes enregistrées sont injectées comme tokens de contexte à chaque requête et ne contiennent jamais une liste de notes complète et structurée. La mise en cache des prompts ne réduit le coût que tant que le cache est actif (généralement quelques minutes), et jamais à zéro.
• La mesure à information égale est elle-même prudente : les 15 mots-clés maximum par titre qui alimentent le vrai texte d'embedding de MovieMind sont absents du prompt reconstruit. Une vraie parité serait encore plus élevée.
• Tous les facteurs sont volontairement arrondis en faveur du chatbot.

Sources

• OpenAI (Juni 2025): ~0.34 Wh per average ChatGPT query
• Google (August 2025): ~0.24 Wh per median Gemini text prompt