Eigener KI-Router: 81 % API-Kosten gespart

01. November 2026

KI · Selbstbau · echte Zahlen
Ein Chat für alle KI-Modelle, 81 % günstiger

Claude, GPT, GLM und ein lokales Modell in einer Oberfläche. Für jede Frage wählt der beckbit AI Router das günstigste Modell, das die Aufgabe sicher kann, und nutzt Prompt-Caching. So sieht das in echten Zahlen aus.

−81 %
echte Nutzung 08.–10.10.2026 gegenüber Opus 5.5 ohne Cache
11,78 $
bezahlt statt 61,83 $
65 + 1.500
Sprachmodelle plus Bild-, Video-, Audio- und 3D-Modelle von fal.ai
0 €
für Smalltalk und Kurzfragen, lokal mit Gemma

Seit 2023 beschäftige ich mich mit KI, anfangs mit ChatGPT und viel Herumprobieren. Richtig ernst wurde es erst mit Claude und Claude Code. Irgendwann hatte ich mehrere Modelle, aber auch mehrere Apps, Chats und Rechnungen. Also habe ich einen eigenen Chat gebaut, der Claude, GPT, GLM und Gemma vereint und für jede Frage das passende Modell wählt. Wie das funktioniert, was es spart und was dabei schiefging, zeige ich dir hier mit echten Zahlen.

Meine Sicht

Warum ich das gemacht habe

Aus Spielerei wurde der Wunsch nach einem einzigen Werkzeug.

Am Anfang habe ich KI eher nebenbei genutzt, zum Beispiel um Kinderzeichnungen in Szenen umzubauen und daraus kleine Videos zu machen. Das hat Spaß gemacht, aber ich fand es unterfordernd. Mit Claude und Claude Code habe ich dann richtig angefangen, viel damit zu machen. Später kamen GLM und fal.ai dazu, und ich habe gemerkt, wie viele Modelle es gibt und wie umständlich es ist, sie in getrennten Apps zu nutzen.

Dann kam Gemma als lokales Modell dazu. Meine Idee: Das lokale Modell übernimmt, was es kann, und gibt schwierige Teile an ein Cloud-Modell ab. Für mich ist das ein Weg, Kosten zu sparen, weil günstigere Modelle vieles ähnlich gut können, auch wenn sie bei manchem schwächer sind.

Mein Gedanke
Ich wollte nicht drei oder vier Abos, sondern ein Tool, in dem lokale und Cloud-Modelle zusammenarbeiten.
Die Ausgangslage

Vier Anbieter, vier Apps, vier Rechnungen

Jedes Modell hatte seine eigene App, eigene Chats, ein eigenes Gedächtnis und eigene Kosten.

Mein erster Versuch mit einem eigenen Chat-Tool war „gevibecodet“: Ein kleines lokales Modell sollte nach dem Plan der großen Modelle die Arbeit ausführen, um Tokens zu sparen. Das hat die Qualität spürbar gedrückt.

Also habe ich mit Claude Code neu gebaut. Das Ziel: so gut wie Claude Desktop, aber mit allen Modellen in einer Oberfläche. Die Antwort kommt immer direkt vom gewählten Modell, mit dessen Denken, Websuche und Werkzeugen. Gespart wird an anderer Stelle.

Anthropic
Claude
Haiku 4.5, Sonnet 5.5 und Opus 5.5 für Routine, Programmierung und schwieriges Nachdenken.
OpenAI
GPT
Als zweiter großer Anbieter, unter anderem als Ersatz bei leerem Guthaben.
z.ai
GLM
Weitere Modelle als Alternative im selben Chat.
Lokal
Gemma 4 12B
Läuft über Ollama auf dem Mac, belegt 7,6 GB der 24 GB Arbeitsspeicher und kostet nichts.
Auto-Routing

Das günstigste Modell, das es sicher kann

Bei jeder Frage schätzt ein kleines lokales Modell kostenlos die Schwierigkeit. Danach antwortet die passende Stufe.

  1. 01Lokal · Gemma 4Smalltalk und Kurzfragen, direkt auf dem eigenen Rechner. 0 €.
  2. 02Schnell · Haiku 4.5Routine wie Zusammenfassungen. 1 $ / 5 $ pro 1 Mio. Tokens (Ein-/Ausgabe).
  3. 03Standard · Sonnet 5.5Programmierung und Analysen. 2 $ / 10 $ pro 1 Mio. Tokens.
  4. 04Maximum · Opus 5.5Nur das schwierigste Nachdenken. 4 $ / 20 $ pro 1 Mio. Tokens.
30 %Lokal
20 %Haiku
40 %Sonnet
10 %Opus
Quelle: Modellannahme Auto-Modus (Dokumentation)
14 %Haiku
57 %Sonnet
29 %Opus
Quelle: Kostenanteile im Monatsszenario
Wohin das Geld fließt
30 % der Anfragen kosten nichts. Opus beantwortet nur 10 % der Anfragen, verursacht aber 29 % der Kosten, genau dort, wo seine Qualität gebraucht wird.
Prompt-Caching

Bekannter Verlauf kostet nur noch 10 %

Die App hält den Anfang jeder Anfrage stabil, damit die Anbieter ihn zwischenspeichern. Je länger ein Chat, desto größer der Effekt.

−45 %
Chat mit 8 Nachrichten: 0,324 $ → 0,177 $
−80 %
20 Fragen zu einem 50-seitigen PDF: 3,59 $ → 0,72 $
−86 %
120 Nachrichten mit Sonnet: 13,85 $ → 1,97 $ mit Verdichtung
Gemessene Anfrage (03.10.2026) ohne Cache mit Cache Ersparnis
Opus 5.5 · Folgefrage im Chat 0,0572 $ 0,0110 $ −81 %
Sonnet 5.5 · Python-Funktion mit Tests 0,0292 $ 0,0146 $ −50 %
Sonnet 5.5 · Bugfix im Arbeitsordner 0,0555 $ 0,0283 $ −49 %
Haiku 4.5 · PDF zusammenfassen 0,0082 $ 0,0101 $ +23 %
Echte Token-Abrechnungen der Anbieter-APIs aus Testläufen am 03.10.2026.
Ehrlich gerechnet
Die erste Nachricht eines Chats wird durch das Schreiben des Caches teurer, im Test bei Haiku um 23 %. Der Vorteil entsteht ab der zweiten Nachricht. Sehr lange Chats fasst das lokale Modell ab ca. 80.000 Tokens kostenlos zusammen.
Modellrechnung

Was ein Monat mit 500 Anfragen kostet

Gleiche 500 Anfragen, Gespräche à 8 Runden, Listenpreise Oktober 2026.

Nicht enthalten sind Thinking-Tokens, Websuche (ca. 1 Cent pro Suche), Bildgenerierung und Strom für das lokale Modell. Alle Szenarien sind Modellrechnungen zur Orientierung. Die tatsächlichen Kosten zeigt der AI Router pro Antwort und pro Chat an.

Claude Pro + ChatGPT Plus (Abos)40 $
Alles mit Opus 5.5, ohne Cache20,25 $
Opus 5.5 mit Cache (−45 %)11,08 $
Sonnet 5.5 mit Cache (−73 %)5,54 $
beckbit AI Router Auto (−81 %)3,88 $
Quelle: modellrechnung-monat.csv
Abo oder Pay-per-use?
Zwei Abos kosten 40 $ im Monat, egal wie viel man nutzt. Mit dem AI Router im Auto-Modus liegt die Gewinnschwelle im Modell bei rund 5.200 Anfragen pro Monat. Erst darüber wären die Abos günstiger.
Echte Nutzung · 08.–10.10.2026

Die Rechnung aus dem Alltag

Drei Tage normale Nutzung, 44 Antworten mit hinterlegtem Preis.

Anbieter Antworten Kosten
Anthropic (Claude) 3 11,72 $
OpenAI (GPT) 21 0,06 $
Lokal (Gemma 4 12B) 21 0,00 $
z.ai (GLM) 33 ohne hinterlegten Preis
antworten-nach-anbieter.csv. Eine GPT-Antwort hatte ebenfalls keinen hinterlegten Preis.
Gleiche Antworten mit Opus 5.5 ohne Cache61,83 $
Gleiche Antworten mit Opus 5.5 mit Cache24,95 $
Tatsächlich bezahlt (beckbit AI Router)11,78 $
Quelle: tatsaechliche-kosten.csv
Einschränkung
34 Antworten von Modellen ohne hinterlegten Preis sind nicht eingerechnet, überwiegend GLM. Die echte Ersparnis kann deshalb etwas niedriger liegen, und drei Tage sind keine belastbare Aussage über einen ganzen Monat.
Funktionen

Alles, was man von Claude Desktop kennt, für alle Modelle

Auto
Modellwahl & Auto
Alle Modelle live von den Anbietern, mit Fähigkeiten und Preis. „Auto“ wählt die Stufe pro Anfrage.
Denken
Sichtbares Denken
Regler für den Denkaufwand, der Gedankengang wird live angezeigt.
Artifacts
Live-Vorschau
Web-Apps, React-Komponenten, Diagramme und Dokumente rechts neben dem Chat, mit Versionen und Download.
Recherche
Websuche mit Quellen
Bei Claude und GPT die eingebaute Suche des Anbieters, sonst eine eigene. Quellen als Links.
Dateien
Dateien & Arbeitsordner
Anhänge, Dateierstellung als PDF, DOCX und XLSX und Bearbeitung von Projektordnern mit Diff.
Projekte
Projekte & Gedächtnis
Eigene Anweisungen und Wissensdokumente pro Projekt, persönliches Gedächtnis für alle Chats.
Medien-Studio & Sprecher-Assistent

Vom Skript zur fertigen Sprachspur

Das Medien-Studio lädt den kompletten Katalog von fal.ai: rund 1.500 Modelle in 27 Kategorien, von Bild und Video über Sprache und Musik bis 3D.

20,1 s
Ziel 20 s: Podcast-Intro mit vier Abschnitten
< 1 Cent
Kosten mit Eleven v4 Turbo
  1. 01Skript lesenTXT, Word oder PDF laden: Abschnitte mit Timecodes, Pausen, Ton, Zieldauer und Aussprache-Hinweise werden erkannt.
  2. 02Aussprache-Regeln„beckbit“ wird zu „Beck-Bit“, „Zigbee“ zu „Sig-Bie“. Jede Regel lässt sich einzeln abschalten.
  3. 03Zeitgenau vertonenJeder Abschnitt landet auf seinem Timecode. Zu lange Stellen werden um höchstens 15 % gestrafft, ohne Überlappung.
  4. 04Untertitel & BerichtZur Sprachspur gibt es eine SRT-Datei und einen Bericht je Abschnitt.
Lernkurve

Was schiefging und was ich eingebaut habe

Eine einzige Antwort zu einer größeren Programmieraufgabe kostete 11,28 $.

Claude hatte zusätzlich Anthropics Code-Sandbox und baute alles doppelt: 39 der 77 Aufrufe liefen in der Sandbox, 31 Mal wurden Dateien komplett neu geschrieben. Und Auto hatte Opus statt Sonnet gewählt.

Auch Gemma machte Probleme: Lange Antworten wurden abgeschnitten, weil das Kontextfenster fest auf 32.000 Tokens stand. Jetzt wächst es bei Bedarf bis 64.000 Tokens, lokale Antworten kamen im Test nach 13–20 Sekunden.

11,28 $
eine Antwort mit Opus 5.5
27,5 min
Dauer
77
Werkzeugaufrufe
8,4 Mio.
Tokens aus dem Cache gelesen
Werkstatt-Test: Rabattfunktion nur mit Gemma Dauer Ergebnis
ohne maschinelle Prüfung 2 min Syntaxfehler, Gemma meldete trotzdem „geprüft“
mit Syntaxprüfung 2 min Syntax ok, aber Feld brutto gelöscht
mit Syntax- und Verlustprüfung 2 min korrekt: 100 € netto → 90 € netto / 107,10 € brutto
werkstatt-testlaeufe.csv
✓Keine Code-Sandbox mehr, wenn ein Arbeitsordner aktiv ist
✓Dateien gezielt ändern statt komplett neu schreiben
✓Programmierung über Sonnet statt Opus
✓Kostenbremse und Monatsbudget je Anbieter
✓Maschinelle Syntax- und Verlustprüfung für kleine Modelle
Quelle: Gegenmaßnahmen seit dem Kostenfall
Lektion
Kleine Modelle nie über die eigene Arbeit urteilen lassen. Feste Prüfungen ohne KI sind zuverlässiger als das „geprüft“ des Modells.
Datenschutz & Kontrolle

Lokal betrieben, bewusst freigegeben

Daten
Daten bleiben lokal
Chats, Projekte, Uploads und Einstellungen liegen in einer SQLite-Datenbank auf dem eigenen Rechner. Kein Cloud-Account.
Schlüssel
Schlüssel bleiben lokal
Zugangsschlüssel stehen nur in der lokalen Konfiguration und werden nie an den Browser zurückgegeben.
Freigabe
Freigabe vor Aktionen
Dateien schreiben, Bilder erzeugen und andere kostenpflichtige Aktionen laufen erst nach Bestätigung im Chat.
Lokal
Lokale Option
Vertrauliches kann gezielt mit dem lokalen Modell bearbeitet werden. Dann verlässt kein Text den Rechner.
Ordner
Arbeitsordner begrenzt
Zugriff nur innerhalb des gewählten Ordners, Pfade außerhalb werden abgewiesen.
Netz
Nur lokale Aufrufe
Der Server lauscht nur auf dem eigenen Rechner und weist Anfragen fremder Webseiten ab.
Zum Nachmachen

Meine Tipps, wenn du so etwas baust

  1. 01Richtig sparenNicht ein kleines Modell die Arbeit eines großen nachmachen lassen, sondern das passende Modell wählen und Prompt-Caching nutzen.
  2. 02Prompt-Anfang stabil haltenKein Datum mit Uhrzeit, keine wechselnde Reihenfolge, sonst greift der Cache nicht.
  3. 03Agenten bremsenJeder Werkzeugschritt schickt den ganzen Verlauf erneut. Kostenbremse und Budget gehören dazu.
  4. 04Preise hinterlegenFür jeden Anbieter, sonst lässt sich die Ersparnis nicht vollständig rechnen.
Das Wichtigste in Kürze
  • Das passende Modell pro Frage und Prompt-Caching sparen Geld, nicht ein kleines Modell, das ein großes nachahmt.
  • Echte Nutzung 08.–10.10.2026: 11,78 $ bezahlt statt 61,83 $ mit Opus 5.5 ohne Cache.
  • Im Modell kosten 500 Anfragen im Monat 3,88 $ statt 20,25 $; Abos lohnen sich erst ab rund 5.200 Anfragen.
  • Agenten-Aufgaben brauchen eine Kostenbremse: Eine Antwort kostete 11,28 $.
  • Kleine Modelle maschinell prüfen statt ihrem eigenen Urteil zu vertrauen.

Fazit

Mehrere KI-Modelle in einem eigenen Chat sparen echtes Geld, wenn jede Frage zum passenden Modell geht und der Cache genutzt wird. Meine echten Zahlen stammen aus drei Tagen und lassen GLM-Kosten aus, sind also eine Momentaufnahme. Ohne Kostenbremse kann eine einzige Programmieraufgabe teurer werden als ein Abo. Meine Einschätzung: Für mich liegt der Reiz darin, Modelle zusammenarbeiten zu lassen, statt nur eines zu nutzen. Ob die Zusammenarbeit von lokalem und Cloud-Modell im Alltag so gut klappt, wie ich es mir erhofft habe, ist für mich noch nicht abschließend beantwortet. Hast du Fragen oder Interesse an so einem Setup? Schreib mir.

🤖 KI-Hinweis: Mit Unterstützung von KI erstellt und redaktionell geprüft. Grafiken und Diagramme wurden per Code erstellt.

Christian Beck

Saaletal · Haus, Hof, Smart Home & KI

Technik-Nerd rund um die Uhr. Ich automatisiere mein Zuhause, teste KI-Tools und fotografiere, was das Objektiv hergibt. Alles auf beckbit.de.

Weiterlesen

Weitere Artikel

Notiz 13.11. 10:15

Wäre es nicht cool, wenn man direkt von unterwegs aus vom Smartphone aus Beiträge auf der

WordPress Cookie Plugin von Real Cookie Banner