Als ich begann, /tools/pdf-chat zu entwickeln, schrieb sich das Produktversprechen von selbst: Gemini 2.5 Flash besitzt ein Kontextfenster von einer Million Token. Du kannst ein 1.500-seitiges PDF hineinwerfen und mit dem gesamten Dokument in einem einzigen Prompt chatten. Kein Chunking, kein RAG, keine Embedding-Pipeline, keine Retrieval-Fehler. Magie.
Magie ist – wenn man nachrechnet – recht teuer.
Dieser Beitrag gewährt einen Blick hinter die Kulissen: Was ein Kontext von einer Million Token tatsächlich kostet, wie das die Preisgestaltung von GeminiOmni beeinflusst hat und wann das klassische, gechunkte RAG immer noch die richtige Antwort ist. Wenn du etwas baust, das mit langen Dokumenten arbeitet, ist dies der Trade-off, den du verinnerlichen musst, bevor du dich auf eine Tarifstruktur festlegst.
Die entscheidende Zahl
Gemini 2.5 Flash, derzeit das günstigste Mainstream-Modell mit 1M Kontext, kostet $0,30 pro Million Input-Token und $2,50 pro Million Output-Token. Das ist die niedrigste mir bekannte Preisgestaltung für 1M Kontext, und sie ist immer noch 8× günstiger als Gemini 2.5 Pro bei gleicher Kontextgröße.
Eine Million Token ist eine Menge Token. Konkret:
- Eine Million Token ≈ 750.000 englische Wörter ≈ 1.500 Prosaseiten ≈ 3.000 dichte akademische Seiten
- Bei einem typischen gescannten PDF (wo das Modell Bilder per OCR verarbeiten muss) sind es eher 800–1.000 Seiten pro Million Token, da die Bilder selbst Token verbrauchen.
Nun die Multiplikation, die niemand öffentlich machen möchte:
- Ein 200-seitiges PDF (≈130k Token) einmal senden, kostet $0,039. Das sind etwa vier Cent. Günstig.
- Ein 1.500-seitiges PDF (≈980k Token) einmal senden, kostet $0,294. Dreißig Cent.
- Zehn Folgefragen stellen, wobei jede das gesamte PDF erneut für den Kontext sendet, kostet $2,94 für das 1.500-seitige Dokument. Drei Dollar.
Diese letzte Zahl hat mein Preismodell zerstört.
Warum Folgefragen das gesamte PDF erneut senden
Dies ist der Teil, den niemand in den euphorischen Blogbeiträgen über 1M Kontext erwähnt. Der Kontext von Gemini gilt pro Aufruf, nicht pro Sitzung. Es gibt keinen persistenten serverseitigen Zustand, der dein Dokument für die nächste Nachricht bereithält.
Wenn du die zweite Frage in einer Chat-Sitzung stellst, muss der Client das gesamte PDF erneut senden, plus die neue Frage, plus die vorherige Antwort des Modells (damit der Zusammenhang gewahrt bleibt). Jeder Durchgang kostet in etwa so viel wie der erste. Es gibt keinen Rabatt durch Caching.
Google hat eine Funktion namens „Kontextcaching“ eingeführt, die hier hilft – du kannst eine lange Eingabe für bis zu einer Stunde zwischenspeichern und zahlst einen niedrigeren Satz pro Aufruf für die Wiederverwendung –, aber der Cache selbst ist auch nicht kostenlos. Die Speicherkosten für den Cache liegen bei etwa $1 pro Million Token pro Stunde für Flash. Bei einem 1.500-seitigen Dokument sind das etwa $1 pro Stunde, nur um es warm zu halten.
Daraus ergeben sich drei reale Szenarien:
- Einzelfragen zu einem neuen Dokument. $0,04–$0,30 pro Frage. Wirklich günstig. Es lohnt sich.
- Chat-Sitzung mit zehn Fragen zu einem neuen Dokument, ohne Caching. $0,40–$3,00. Für eine kostenpflichtige Funktion akzeptabel, für eine kostenlose brutal.
- Ein einstündiger Deep Dive mit 30+ Fragen zu einem 1.500-seitigen Dokument. Mit Caching: ~$1 fürs Warmhalten + $0,05 pro Durchgang = insgesamt etwa $2,50. Ohne Caching: $9. Das Caching wird wichtig, sobald eine Sitzung eine bestimmte Länge überschreitet.
Wann gechunktes RAG tatsächlich günstiger ist
Dies ist der ketzerische Teil: Für manche Arbeitslasten ist die altmodische Pipeline aus Chunk, Embed und Retrieve immer noch deutlich günstiger als 1M Kontext.
Konkret: Wenn du ein stabiles Dokumentenkorpus hast (keinen neuen Upload jedes Mal) und viele Nutzer viele Fragen stellen, gewinnt RAG:
- Das Korpus embedden: Gemini Embedding 2 für $0,20/1M Token – ein 1.500-seitiges Dokument einmal für $0,20 embedden, die Vektoren für immer speichern.
- Pro Frage: die Top 5 Chunks abrufen (~5k Token), an Gemini 2.5 Flash senden. Kosten pro Frage: etwa $0,0015. Das ist ein Zehntelcent.
- Verglichen mit 1M Kontext: $0,30 pro Frage, wenn das gesamte Dokument erneut gesendet wird.
Für einen Kundensupport-Bot auf einer festen Wissensbasis ist RAG 200× günstiger. Für einen Recherche-Assistenten, der ein neues Papier liest, das der Nutzer gerade hochgeladen hat, amortisieren sich die Embedding-Kosten bei RAG nicht, und 1M Kontext gewinnt.
Die Entscheidungsregel:
| Arbeitslast | Verwendung |
|---|---|
| Nutzer lädt ein einmaliges Dokument hoch, stellt 1–10 Fragen | 1M Kontext (kein Embedding-Setup, das gesamte Retrieval wird vom Modell übernommen) |
| Statische Wissensbasis, viele Nutzer, viele Fragen | RAG (Embedding-Kosten auf alle Abfragen verteilen) |
| Nutzer lädt mehrere Dokumente hoch und möchte dokumentübergreifende Schlussfolgerungen | 1M Kontext (RAG-Retrieval verpasst dokumentübergreifende Verweise) |
| Compliance / rechtliche Prüfung eines einzelnen dichten Dokuments | 1M Kontext (RAG kann kritische Klauseln durch Chunk-Grenzen übersehen) |
Der PDF-Chat von GeminiOmni liegt klar im Bereich „einmaliger Upload, 1–10 Fragen“ – deshalb verwenden wir hier bedingungslos 1M Kontext.
Wie dies die Preisstufen geprägt hat
Nachdem ich die Kosten pro Seite verinnerlicht hatte, ergab sich die Tarifstruktur für das PDF-Tool fast von selbst:
Kostenloser Tarif: unter 200 Seiten, unbegrenzte Fragen. Ein 200-seitiges PDF kostet ~$0,04 pro Frage. Selbst ein intensiver Nutzer, der 100 Fragen pro Monat stellt, kostet mich $4. Das sind nachhaltige Akquisitionskosten – ich kann sie gegen die Konversionsrate von kostenlos zu Pro gegenrechnen.
Pro-Tarif: 9 $/Monat, unbegrenzte Dokumentenlänge, unbegrenzte Fragen. Annahme: Ein Nutzer lädt drei 1.500-seitige Dokumente pro Monat hoch und stellt 30 Fragen zu jedem = 90 Fragen × ~$0,30 = $27. Das würde die Einheitsökonomie umkehren. Zwei Dinge retten die Situation:
- Die meisten Pro-Nutzer gehen nicht an die Grenzen. Der intensivste Nutzer im 90. Perzentil kostet mich etwa $4/Monat. Der Durchschnitt liegt eher bei $0,80.
- Das Kontextcaching reduziert die Kosten pro Frage bei langen Sitzungen um etwa das Vierfache.
Ich bin damit einverstanden, bei den intensivsten Pro-Nutzern nur eine dünne Marge zu erzielen, weil sie die lautesten Fürsprecher für die Qualität des Produkts sind und Teamkollegen überzeugen. Zu versuchen, die maximale Marge aus den oberen 10 % herauszuholen, würde bedeuten, das Produkt für sie zu ruinieren.
Team-Tarif: 79 $/Monat für 3 Plätze mit API-Zugang. Hier liegt die eigentliche Marge. Teams zahlen das Vierfache eines Pro-Nutzers für das gleiche Nutzungsprofil, weil sie für Zusammenarbeit, API-Zugang und SLA zahlen – nicht für reine Inferenz. Ich bin damit zufrieden, weil es dem entspricht, wie Notion, Linear und jedes andere Team-Tarif-SaaS funktioniert.
Was ich anders machen würde, wenn ich heute entwickeln würde
Ein paar Meinungen, die ich erst nach zwei Monaten mit den Zahlen zu formulieren wage:
Die Kosten pro Frage dem Nutzer anzeigen. Wenn ein Nutzer ein 1.500-seitiges Dokument hochlädt, sollte die UI sagen: „Jede Frage zu diesem Dokument kostet etwa 1 Credit.“ Die Kosten vor den Nutzern zu verheimlichen, führt zu moralischem Risiko – sie stellen 50 Fragen, wo 5 ausreichen, und ich trage die Marge. Transparente Preisgestaltung reguliert dies selbst.
Standardmäßig Caching für Dokumente über 500 Seiten aktivieren. Die vierfache Kostenreduzierung bei längeren Sitzungen ist groß genug, dass „Caching aktivieren“ kein Power-User-Schalter sein sollte. Es sollte das Standardverhalten sein, mit einer Option „Cache für Datenschutz deaktivieren“ für die wenigen Nutzer, die dies wünschen.
Nichts „Unbegrenztes“ versprechen. Ich habe den Fehler gemacht, „PDF-Chat mit unbegrenzten Seiten“ im Pro-Plan zu schreiben. Das ist jetzt ein tragender Text, und ich muss die Einheitsökonomie selbst für den intensivsten Nutzer zum Laufen bringen. Mein zukünftiges Ich hätte „bis zu 5.000 Seiten pro Dokument, Fair-Use-Limit für das monatliche Volumen“ geschrieben. Lektion für das nächste Produkt notiert.
Weiterlesen
- Chatte mit jedem PDF – 1M Token Kontext
- Warum Veo 3.1 Fast Sora für unabhängige Videoproduktion schlägt
- GeminiOmni Preisgestaltung – wie ich die Stufen ausgewählt habe
— Lena
