Quanta energia gasta uma recomendação de filme feita por IA?

A tese: a inteligência pertence aos dados, não a cada requisição

Grandes modelos de linguagem respondem a cada pergunta ativando todo o seu conhecimento de mundo em tempo de execução. Isso impressiona, mas é um desperdício quando a mesma tarefa se repete milhares de vezes. Uma recomendação de filme não precisa de conhecimento de mundo a cada chamada. Ela precisa de uma compreensão precisa e reutilizável dos filmes e do seu gosto.

O MovieMind coloca essa compreensão no pipeline de dados. Cada filme vira um vetor uma única vez, com sinopse, gêneros, direção e palavras-chave, e esse conhecimento é compartilhado entre todos os usuários. Seu gosto fica ao lado, como uma estrutura sobre as suas próprias avaliações. Uma previsão passa a ser uma busca de vizinhança nesse espaço, e uma busca em linguagem natural vira um pequeno passo de linguagem sobre candidatos já pré-filtrados. A estrutura de dados substitui o processamento. É exatamente daí que vêm os fatores medidos neste artigo.

O usuário de exemplo

Alex avaliou 120 filmes e usa o MovieMind durante um mês típico: 20 buscas Vibe em linguagem natural, 1 resumo de perfil e 250 previsões de nota. As previsões não são um detalhe: cada busca Vibe mostra uma previsão pessoal para cada um dos seus 6 resultados, o que dá 120 por mês só com as buscas, mais umas 4 por dia navegando por listas e páginas de detalhes. Todos os números do MovieMind neste artigo foram medidos em 2026-07-28 com requisições reais à API (modelo: gemini-3.1-flash-lite (thinking: low)), não estimados.

As medições

Consumo de tokens de requisições reais, idênticas às de produção:

Busca Vibe (MovieMind)

1042 de entrada + 725 de saída + 128 de raciocínio = 1895 tokens

Resumo de perfil (MovieMind)

509 tokens

Previsão de nota (MovieMind)

0 tokens de LLM, uma consulta pgvector ao banco de dados, menos de 0.001 Wh

Equivalente em chatbot de uma previsão (só títulos + notas)

2667 tokens de entrada para a lista de avaliações colada (verificado via countTokens), cerca de 3300 tokens no total

Equivalente em chatbot com a mesma informação

11.425 tokens de entrada para 120 títulos, cada um com sinopse, gêneros, direção e tagline (medido via countTokens, cerca de 95 tokens por título), cerca de 12.100 tokens no total

Medição 1: a busca em linguagem natural, de 2 a 10 vezes mais enxuta

Onde é preciso entender linguagem, o MovieMind usa sim um modelo de linguagem, mas o menor modelo capaz, com raciocínio limitado: 1895 tokens medidos por busca Vibe, dos quais só 128 são de raciocínio. A verdadeira inteligência da recomendação não está no modelo, e sim na busca vetorial que vem antes dele, que reduz milhares de títulos a 18 candidatos antes mesmo de o modelo rodar. Um grande chatbot precisaria do seu histórico no contexto para a mesma tarefa, cerca de 3.900 tokens ou aproximadamente 1,3 Wh. Dependendo da premissa sobre o modelo, isso resulta num fator de 2 (conservador: nosso modelo pequeno contado como um grande) a 10 (realista).

A vantagem não é estática: ela cresce a cada filme que você avalia. Imagine guardar suas avaliações numa planilha e colá-las no ChatGPT a cada busca. Essa lista cresce a cada sessão de cinema. O custo de busca do MovieMind se mantém em 1895 tokens, porque a inteligência da recomendação vive em embeddings pré-calculados e na busca pgvector, não no prompt do LLM. O LLM só escolhe entre 18 candidatos pré-filtrados e escreve a justificativa.

A fórmula é transparente: contexto do chatbot = 1.260 tokens de overhead (prompt de sistema, consulta, saída, raciocínio) + 22 tokens por título avaliado. O MovieMind fica em 1895 tokens, seja qual for o tamanho da coleção. O limite inferior conservador conta o Flash-Lite com a mesma taxa de energia de um grande modelo de chatbot; o limite superior realista conta com um quinto dela.

Medição 2: a previsão de nota, mais de 1.000 vezes mais enxuta

O MovieMind responde o quanto você gostaria de um filme sem nenhum modelo de linguagem: como uma média ponderada por similaridade dos títulos mais parecidos que você já avaliou. Isso é uma consulta ao banco de dados com limite superior de 0.001 Wh. Um chatbot não guarda o seu histórico de filmes, então ele precisa ir para o prompt a cada requisição. O piso é uma simples lista de títulos e notas: 2667 tokens medidos para 120 títulos, cerca de 3300 tokens no total, aproximadamente 1,1 Wh, um fator acima de 1.000. Esse piso é propositalmente favorável ao chatbot, porque parte do princípio de que o modelo conhece com segurança cada título pelo treinamento. Vale para blockbusters, mas não é confiável para títulos de nicho, lançamentos posteriores ao fim do treinamento ou nomes ambíguos. Para a mesma base de informação com que o MovieMind calcula (sinopse, gêneros, direção e tagline de cada título avaliado), recriamos o prompt a partir de 120 títulos reais e o medimos: 11.425 tokens de entrada, cerca de 12.100 tokens no total, aproximadamente 4,1 Wh, um fator de cerca de 4.000. A diferença cresce com a coleção: com 500 títulos avaliados são cerca de 48.200 tokens, aproximadamente 16 Wh, um fator de cerca de 16.000. A consulta do MovieMind continua constante, seja qual for o tamanho da coleção.

Medição 3: um mês inteiro, pelo menos 20 vezes e, de forma realista, até 350 vezes mais enxuto

O mês de Alex no MovieMind: 20 buscas Vibe e 1 resumo somam cerca de 38.000 tokens de LLM, mais 250 previsões como consultas ao banco de dados que, juntas, custam menos de 0,3 Wh. Total: cerca de 3 a 13 Wh. A mesma utilidade via chatbot já custa cerca de 900.000 tokens ou aproximadamente 300 Wh na variante de lista de títulos, favorável ao chatbot. Com a mesma informação, ou seja, com sinopses em cada requisição, são cerca de 3,3 milhões de tokens ou aproximadamente 1.100 Wh, um fator de 80 a 350. O motivo estrutural continua o mesmo: o MovieMind calcula o embedding de um filme uma única vez e o compartilha entre todos os usuários, enquanto um chatbot deduz de novo a compreensão do seu gosto a cada sessão.

Por que a qualidade sobe em vez de cair

Eficiência parece sinônimo de concessão. Aqui é o contrário. Um chatbot só conhece o seu gosto se você entregar a ele sua lista completa de avaliações a cada pergunta, e mesmo assim ele precisa deduzi-lo de novo a partir de uma lista de texto. O MovieMind calcula o tempo todo com o seu histórico completo de avaliações, no mesmo espaço vetorial em que vivem os filmes. Cada nova avaliação deixa a imagem mais nítida, sem que nada precise ser explicado de novo. Por isso, uma recomendação não é a opinião de um modelo, e sim uma dedução rastreável a partir dos seus próprios julgamentos.

Premissas e conversão

• Conversão: 0,34 Wh por consulta média a um chatbot (OpenAI), assumindo cerca de 1.000 tokens processados, com a energia escalada proporcionalmente ao número de tokens.
• Variante conservadora: nossas requisições ao Flash-Lite são contadas com a mesma taxa de energia de um grande modelo de chatbot. Variante realista: um quinto disso, já que modelos da classe Lite são bem menores.
• A previsão kNN é indicada como limite superior (alguns milissegundos de tempo de banco de dados em infraestrutura compartilhada).
• Excluídos dos dois lados: treinamento do modelo base, rede e dispositivos dos usuários. A comparação abrange a inferência por requisição.
• A memória do chatbot não muda a conta: notas salvas são injetadas como tokens de contexto a cada requisição e nunca contêm uma lista de avaliações completa e estruturada. O cache de prompt só reduz o custo enquanto o cache está ativo (normalmente minutos), e nunca a zero.
• A própria medição com a mesma informação é conservadora: as até 15 palavras-chave por título que alimentam o texto real dos embeddings do MovieMind não estão no prompt recriado. A paridade de verdade ficaria ainda mais alta.
• Todos os fatores foram arredondados propositalmente a favor do chatbot.

Fontes

• OpenAI (Juni 2025): ~0.34 Wh per average ChatGPT query
• Google (August 2025): ~0.24 Wh per median Gemini text prompt