Cuando empecé a construir /tools/pdf-chat, el discurso de venta se escribía solo: Gemini 2.5 Flash tiene una ventana de contexto de un millón de tokens. Puedes cargar un PDF de 1.500 páginas y chatear sobre todo él en una sola instrucción. Sin fragmentación, sin RAG, sin canalización de embeddings, sin errores de recuperación. Magia.
La magia, cuando haces los cálculos, resulta algo cara.
Este artículo es una mirada entre bastidores a lo que realmente cuesta ejecutar un contexto de un millón de tokens, cómo eso moldeó los precios de GeminiOmni, y cuándo el RAG tradicional fragmentado sigue siendo la respuesta correcta. Si estás construyendo algo que maneje documentos largos, esta es la compensación que necesitas internalizar antes de comprometerte con una estructura de niveles.
La cifra principal
Gemini 2.5 Flash, actualmente el modelo de 1M de contexto más barato del mercado, tiene un precio de $0.30 por millón de tokens de entrada y $2.50 por millón de tokens de salida. Es el precio publicado más bajo para un contexto de 1M que conozco, y sigue siendo 8 veces más barato que Gemini 2.5 Pro con el mismo tamaño de contexto.
Un millón de tokens son muchos tokens. Específicamente:
- Un millón de tokens ≈ 750.000 palabras en inglés ≈ 1.500 páginas de prosa ≈ 3.000 páginas densas de artículos académicos
- Para un PDF escaneado típico (donde el modelo tiene que aplicar OCR a las imágenes), espera más bien 800–1.000 páginas por millón de tokens porque las imágenes consumen parte del presupuesto de tokens
Ahora, la multiplicación que nadie quiere hacer en público:
- Enviar un PDF de 200 páginas (~130k tokens) una vez cuesta $0.039. Eso son unos cuatro centavos. Barato.
- Enviar un PDF de 1.500 páginas (~980k tokens) una vez cuesta $0.294. Treinta centavos.
- Hacer diez preguntas de seguimiento, donde cada una reenvía el PDF completo para contexto, cuesta $2.94 para el documento de 1.500 páginas. Tres dólares.
Ese último número es el que rompió mi modelo de precios.
Por qué las preguntas de seguimiento reenvían el PDF completo
Esta es la parte que nadie menciona en los artículos entusiastas sobre el contexto de 1M. La ventana de contexto de Gemini es por llamada, no por sesión. No hay un estado persistente del lado del servidor que mantenga tu documento para el siguiente mensaje.
Cuando haces la segunda pregunta en una sesión de chat, el cliente tiene que enviar el PDF completo de nuevo, más la nueva pregunta, más la respuesta anterior del modelo (para que tenga continuidad). Cada turno cuesta aproximadamente lo mismo que el primero. No hay descuento por caché.
Google ha lanzado una función de "caché de contexto" que ayuda aquí — puedes almacenar en caché una entrada larga hasta por una hora y pagar una tarifa más baja por llamada al reutilizarla — pero el caché tampoco es gratuito. El costo de almacenamiento del caché ronda $1 por millón de tokens por hora para Flash. Para un documento de 1.500 páginas, eso son unos $1/hora solo para mantenerlo caliente.
De esto se derivan tres escenarios del mundo real:
- Preguntas únicas sobre un documento nuevo. $0.04–$0.30 por pregunta. Realmente barato. Vale la pena.
- Sesión de chat de diez preguntas sobre un documento nuevo, sin caché. $0.40–$3.00. Aceptable para una función de pago, brutal para una gratuita.
- Inmersión profunda de una hora con 30+ preguntas sobre un documento de 1.500 páginas. Con caché habilitado: ~$1 para mantenerlo caliente + $0.05/turno = aproximadamente $2.50 en total. Sin caché: $9. El caché importa una vez que superas un umbral de duración de sesión.
Cuándo el RAG fragmentado es realmente más barato
Esta es la parte herética: para algunas cargas de trabajo, el viejo pipeline de fragmentar + incrustar + recuperar sigue siendo más barato que el contexto de 1M, por mucho.
Específicamente, si tienes un corpus de documentos estable (no una subida nueva cada vez) y muchos usuarios haciendo muchas preguntas, RAG gana:
- Incrustar el corpus: Gemini Embedding 2 a $0.20/1M tokens — incrustar un documento de 1.500 páginas una vez por $0.20, almacenar los vectores para siempre.
- Por pregunta: recuperar los 5 fragmentos principales (~5k tokens), enviarlos a Gemini 2.5 Flash. Costo por pregunta: aproximadamente $0.0015. Eso es una décima de centavo.
- Frente a contexto de 1M: $0.30 por pregunta si reenvías todo el documento.
Para un bot de atención al cliente sobre una base de conocimiento fija, RAG es 200 veces más barato. Para un asistente de investigación leyendo un artículo nuevo que el usuario acaba de subir, la sobrecarga de embeddings de RAG no se amortiza y gana el contexto de 1M.
La regla de decisión:
| Carga de trabajo | Usar |
|---|---|
| El usuario sube un documento único, hace 1–10 preguntas | Contexto de 1M (sin configuración de embeddings, el modelo maneja toda la recuperación) |
| Base de conocimiento estática, muchos usuarios, muchas preguntas | RAG (amortizar el costo de embeddings entre todas las consultas) |
| El usuario sube múltiples documentos y quiere razonamiento entre documentos | Contexto de 1M (la recuperación de RAG pierde referencias entre documentos) |
| Revisión de cumplimiento/legal sobre un documento denso único | Contexto de 1M (RAG puede perder cláusulas críticas a través de los límites de los fragmentos) |
El chat PDF de GeminiOmni está firmemente en el carril de "subida única, 1–10 preguntas" — por eso usamos contexto de 1M incondicionalmente.
Cómo esto moldeó el nivel de precios
Una vez que internalicé el costo por página, la estructura de niveles para la herramienta PDF surgió casi mecánicamente:
Nivel gratuito: menos de 200 páginas, preguntas ilimitadas. Un PDF de 200 páginas cuesta ~$0.04 por pregunta. Incluso un usuario gratuito intensivo que haga 100 preguntas al mes me cuesta $4. Eso es un costo de adquisición sostenible — puedo respaldarlo con la tasa de conversión de gratuito a Pro.
Nivel Pro: $9/mes, longitud de documento ilimitada, preguntas ilimitadas. Caso ancla: un usuario sube tres documentos de 1.500 páginas al mes, hace 30 preguntas en cada uno = 90 preguntas × ~$0.30 = $27. Eso invertiría la economía unitaria. Dos cosas lo salvan:
- La mayoría de los usuarios Pro no llegan al límite. El usuario intensivo del percentil 90 me cuesta alrededor de $4/mes. La media está más cerca de $0.80.
- El caché de contexto reduce el costo por pregunta en sesiones largas aproximadamente 4 veces.
Estoy de acuerdo con tener un margen ajustado en los usuarios Pro más intensivos porque son los que más hablan de lo bien que funciona el producto y convierten a compañeros. Intentar extraer el máximo margen del 10% superior arruinaría el producto para ellos.
Nivel Equipo: $79/mes por 3 asientos con acceso a API. Aquí es donde vive el margen real. Los equipos pagan 4 veces más que un usuario Pro por el mismo perfil de uso, porque pagan por colaboración, acceso a API y SLA — no por inferencia bruta. Me siento cómodo con esto porque refleja cómo funcionan Notion, Linear y todos los demás SaaS de nivel de equipo.
Qué haría diferente si construyera hoy
Algunas opiniones que me atrevería a poner en la página solo después de dos meses de hacer cálculos:
Mostrar el costo por pregunta al usuario. Cuando un usuario sube un documento de 1.500 páginas, la interfaz debería decir "cada pregunta sobre este documento cuesta aproximadamente 1 crédito". Ocultar el costo a los usuarios crea riesgo moral — hacen 50 preguntas cuando 5 bastarían, y yo absorbo el margen. Los precios transparentes autorregulan esto.
Activar el caché por defecto en documentos de más de 500 páginas. La reducción de costo de 4 veces en sesiones largas es lo suficientemente grande como para que "activar caché" no deba ser una opción para usuarios avanzados. Debería ser el comportamiento predeterminado, con un "desactivar caché por privacidad" para los pocos usuarios a los que les importe.
No prometer "ilimitado" en nada. Cometí el error de escribir "chat PDF páginas ilimitadas" en el plan Pro. Eso ahora es texto comprometedor, y tengo que hacer que la economía unitaria funcione incluso para el usuario más intensivo. En el futuro habría escrito "hasta 5.000 páginas por documento, límite de uso justo en volumen mensual". Lección aprendida para el próximo producto.
Lee a continuación
- Chatea con cualquier PDF — contexto de 1M de tokens
- Por qué Veo 3.1 Fast supera a Sora para trabajos de vídeo independientes
- Precios de GeminiOmni — cómo elegí los niveles
— Lena
