Quanta energia consuma un consiglio di film fatto dall’IA?

La tesi: l’intelligenza sta nei dati, non in ogni richiesta

I grandi modelli linguistici rispondono a ogni domanda attivando tutta la loro conoscenza del mondo in tempo reale. È impressionante, ma diventa uno spreco quando lo stesso compito si ripete migliaia di volte. Un consiglio di film non ha bisogno della conoscenza del mondo a ogni chiamata. Ha bisogno di una comprensione precisa e riutilizzabile dei film e dei tuoi gusti.

MovieMind mette questa comprensione nella pipeline dei dati. Ogni film viene trasformato in un vettore una sola volta, con descrizione, generi, regista e parole chiave, e questa conoscenza è condivisa tra tutti gli utenti. I tuoi gusti stanno accanto, come struttura costruita sulle tue valutazioni. Una previsione diventa così una ricerca dei vicini in quello spazio, e una ricerca in linguaggio naturale diventa un piccolo passaggio linguistico su candidati già filtrati. La struttura dei dati sostituisce il calcolo. È esattamente da qui che vengono i fattori misurati in questo articolo.

L’utente di esempio

Alex ha valutato 120 film e usa MovieMind per un mese tipico: 20 ricerche Vibe in linguaggio naturale, 1 riepilogo del profilo e 250 previsioni di voto. Le previsioni non sono un dettaglio: ogni ricerca Vibe mostra una previsione personale per ciascuno dei suoi 6 risultati, cioè 120 al mese solo dalle ricerche, più un buon 4 al giorno sfogliando liste e schede di dettaglio. Tutti i dati di MovieMind in questo articolo sono stati misurati il 2026-07-28 con richieste API reali (modello: gemini-3.1-flash-lite (thinking: low)), non stimati.

Le misurazioni

Consumo di token di richieste reali, identiche a quelle in produzione:

Ricerca Vibe (MovieMind)

1042 input + 725 output + 128 ragionamento = 1895 token

Riepilogo del profilo (MovieMind)

509 token

Previsione di voto (MovieMind)

0 token LLM, una query al database pgvector, meno di 0.001 Wh

Equivalente chatbot di una previsione (solo titoli + voti)

2667 token di input per la lista di voti incollata (verificati con countTokens), circa 3300 token in totale

Equivalente chatbot a parità di informazioni

11.425 token di input per 120 titoli, ciascuno con descrizione, generi, regista e tagline (misurati con countTokens, circa 95 token per titolo), circa 12.100 token in totale

Misurazione 1: la ricerca in linguaggio naturale, da 2 a 10 volte più leggera

Dove bisogna capire il linguaggio, MovieMind usa sì un modello linguistico, ma il più piccolo in grado di farlo, con il ragionamento limitato: 1895 token misurati per ricerca Vibe, di cui solo 128 di ragionamento. La vera intelligenza dei consigli non sta nel modello, ma nella ricerca vettoriale che lo precede, che riduce migliaia di titoli a 18 candidati prima ancora che il modello entri in gioco. Per lo stesso compito un grande chatbot avrebbe bisogno della tua cronologia nel contesto, circa 3.900 token o circa 1,3 Wh. A seconda dell’ipotesi sul modello, si ottiene un fattore 2 (prudente: il nostro modello piccolo conteggiato come uno grande) fino a 10 (realistico).

Il vantaggio non è statico: cresce con ogni film che valuti. Immagina di tenere i tuoi voti in un foglio di calcolo e incollarli in ChatGPT a ogni ricerca. Quella lista si allunga a ogni serata film. Il costo di ricerca di MovieMind resta fermo a 1895 token, perché l’intelligenza dei consigli vive negli embedding precalcolati e nella ricerca pgvector, non nel prompt dell’LLM. L’LLM sceglie solo tra 18 candidati già filtrati e scrive la motivazione.

La formula è trasparente: contesto del chatbot = 1260 token di overhead (prompt di sistema, richiesta, output, ragionamento) + 22 token per titolo valutato. MovieMind resta a 1895 token, qualunque sia la dimensione della collezione. L’estremo inferiore prudente conteggia Flash-Lite con lo stesso consumo energetico di un grande modello da chatbot; l’estremo superiore realistico con un quinto.

Misurazione 2: la previsione di voto, più di 1000 volte più leggera

MovieMind calcola quanto ti piacerebbe un film senza alcun modello linguistico: come media ponderata per somiglianza dei titoli più simili che hai già valutato. È una query al database con un limite superiore di 0.001 Wh. Un chatbot non conserva la tua cronologia di film, quindi deve finire nel prompt a ogni singola richiesta. Il minimo è una semplice lista di titoli e voti: 2667 token misurati per 120 titoli, circa 3300 token in totale, circa 1,1 Wh, un fattore superiore a 1000. Questo minimo è volutamente favorevole al chatbot, perché presuppone che il modello conosca con certezza ogni titolo dall’addestramento. Vero per i blockbuster, non affidabile per titoli di nicchia, uscite successive al limite di addestramento o titoli ambigui. Per la stessa base di informazioni con cui lavora MovieMind (descrizione, generi, regista e tagline per ogni titolo valutato), abbiamo ricostruito il prompt da 120 titoli reali e l’abbiamo misurato: 11.425 token di input, circa 12.100 token in totale, circa 4,1 Wh, un fattore di circa 4000. Il divario cresce con la libreria: con 500 titoli valutati si arriva a circa 48.200 token, circa 16 Wh, un fattore di circa 16.000. La query di MovieMind resta costante, qualunque sia la dimensione della collezione.

Misurazione 3: un mese intero, almeno 20 volte, realisticamente fino a 350 volte più leggero

Il mese di Alex su MovieMind: 20 ricerche Vibe e 1 riepilogo fanno circa 38.000 token LLM, più 250 previsioni come query al database che insieme costano meno di 0,3 Wh. Totale: circa da 3 a 13 Wh. La stessa utilità tramite chatbot costa già circa 900.000 token, ovvero circa 300 Wh, nella variante con la lista di titoli favorevole al chatbot. A parità di informazioni, cioè con le descrizioni in ogni richiesta, si arriva a circa 3,3 milioni di token, ovvero circa 1100 Wh, un fattore da 80 a 350. Il motivo strutturale resta lo stesso: MovieMind calcola l’embedding di un film una sola volta e lo condivide tra tutti gli utenti, un chatbot ricava da capo la comprensione dei gusti in ogni sessione.

Perché la qualità sale invece di scendere

L’efficienza sembra un compromesso. Qui è l’opposto. Un chatbot conosce i tuoi gusti solo se gli passi la tua lista completa di voti a ogni domanda, e anche allora deve ricavarli da una lista di testo. MovieMind lavora in modo permanente con tutta la tua cronologia di voti, nello stesso spazio vettoriale in cui vivono i film. Ogni nuovo voto rende il quadro più nitido, senza dover spiegare nulla di nuovo. Un consiglio non è quindi l’opinione di un modello, ma una deduzione tracciabile dai tuoi stessi giudizi.

Ipotesi e conversione

• Conversione: 0,34 Wh per richiesta media a un chatbot (OpenAI), con circa 1.000 token elaborati ipotizzati; energia scalata in proporzione al numero di token.
• Variante prudente: le nostre richieste Flash-Lite sono conteggiate con lo stesso consumo energetico di un grande modello da chatbot. Variante realistica: un quinto, dato che i modelli di classe Lite sono molto più piccoli.
• La previsione kNN è indicata come limite superiore (pochi millisecondi di tempo del database su infrastruttura condivisa).
• Esclusi da entrambe le parti: addestramento del modello di base, rete e dispositivi degli utenti. Il confronto riguarda l’inferenza per richiesta.
• La memoria del chatbot non cambia i conti: le note salvate vengono inserite come token di contesto a ogni richiesta e non contengono mai una lista di voti completa e strutturata. Il prompt caching riduce i costi solo finché la cache è attiva (in genere pochi minuti), e mai a zero.
• La misurazione a parità di informazioni è a sua volta prudente: nel prompt ricostruito mancano le fino a 15 parole chiave per titolo che alimentano il vero testo di embedding di MovieMind. La vera parità sarebbe ancora più alta.
• Tutti i fattori sono volutamente arrotondati a favore del chatbot.

Fonti

• OpenAI (Juni 2025): ~0.34 Wh per average ChatGPT query
• Google (August 2025): ~0.24 Wh per median Gemini text prompt