Claude, GPT, GLM und ein lokales Modell in einer Oberfläche. Für jede Frage wählt der beckbit AI Router das günstigste Modell, das die Aufgabe sicher kann, und nutzt Prompt-Caching. So sieht das in echten Zahlen aus.
Seit 2023 beschäftige ich mich mit KI, anfangs mit ChatGPT und viel Herumprobieren. Richtig ernst wurde es erst mit Claude und Claude Code. Irgendwann hatte ich mehrere Modelle, aber auch mehrere Apps, Chats und Rechnungen. Also habe ich einen eigenen Chat gebaut, der Claude, GPT, GLM und Gemma vereint und für jede Frage das passende Modell wählt. Wie das funktioniert, was es spart und was dabei schiefging, zeige ich dir hier mit echten Zahlen.
Warum ich das gemacht habe
Aus Spielerei wurde der Wunsch nach einem einzigen Werkzeug.
Am Anfang habe ich KI eher nebenbei genutzt, zum Beispiel um Kinderzeichnungen in Szenen umzubauen und daraus kleine Videos zu machen. Das hat Spaß gemacht, aber ich fand es unterfordernd. Mit Claude und Claude Code habe ich dann richtig angefangen, viel damit zu machen. Später kamen GLM und fal.ai dazu, und ich habe gemerkt, wie viele Modelle es gibt und wie umständlich es ist, sie in getrennten Apps zu nutzen.
Dann kam Gemma als lokales Modell dazu. Meine Idee: Das lokale Modell übernimmt, was es kann, und gibt schwierige Teile an ein Cloud-Modell ab. Für mich ist das ein Weg, Kosten zu sparen, weil günstigere Modelle vieles ähnlich gut können, auch wenn sie bei manchem schwächer sind.
Vier Anbieter, vier Apps, vier Rechnungen
Jedes Modell hatte seine eigene App, eigene Chats, ein eigenes Gedächtnis und eigene Kosten.
Mein erster Versuch mit einem eigenen Chat-Tool war „gevibecodet“: Ein kleines lokales Modell sollte nach dem Plan der großen Modelle die Arbeit ausführen, um Tokens zu sparen. Das hat die Qualität spürbar gedrückt.
Also habe ich mit Claude Code neu gebaut. Das Ziel: so gut wie Claude Desktop, aber mit allen Modellen in einer Oberfläche. Die Antwort kommt immer direkt vom gewählten Modell, mit dessen Denken, Websuche und Werkzeugen. Gespart wird an anderer Stelle.
Das günstigste Modell, das es sicher kann
Bei jeder Frage schätzt ein kleines lokales Modell kostenlos die Schwierigkeit. Danach antwortet die passende Stufe.
- 01Lokal · Gemma 4Smalltalk und Kurzfragen, direkt auf dem eigenen Rechner. 0 €.
- 02Schnell · Haiku 4.5Routine wie Zusammenfassungen. 1 $ / 5 $ pro 1 Mio. Tokens (Ein-/Ausgabe).
- 03Standard · Sonnet 5.5Programmierung und Analysen. 2 $ / 10 $ pro 1 Mio. Tokens.
- 04Maximum · Opus 5.5Nur das schwierigste Nachdenken. 4 $ / 20 $ pro 1 Mio. Tokens.
Bekannter Verlauf kostet nur noch 10 %
Die App hält den Anfang jeder Anfrage stabil, damit die Anbieter ihn zwischenspeichern. Je länger ein Chat, desto größer der Effekt.
| Gemessene Anfrage (03.10.2026) | ohne Cache | mit Cache | Ersparnis |
|---|---|---|---|
| Opus 5.5 · Folgefrage im Chat | 0,0572 $ | 0,0110 $ | −81 % |
| Sonnet 5.5 · Python-Funktion mit Tests | 0,0292 $ | 0,0146 $ | −50 % |
| Sonnet 5.5 · Bugfix im Arbeitsordner | 0,0555 $ | 0,0283 $ | −49 % |
| Haiku 4.5 · PDF zusammenfassen | 0,0082 $ | 0,0101 $ | +23 % |
Was ein Monat mit 500 Anfragen kostet
Gleiche 500 Anfragen, Gespräche à 8 Runden, Listenpreise Oktober 2026.
Nicht enthalten sind Thinking-Tokens, Websuche (ca. 1 Cent pro Suche), Bildgenerierung und Strom für das lokale Modell. Alle Szenarien sind Modellrechnungen zur Orientierung. Die tatsächlichen Kosten zeigt der AI Router pro Antwort und pro Chat an.
Die Rechnung aus dem Alltag
Drei Tage normale Nutzung, 44 Antworten mit hinterlegtem Preis.
| Anbieter | Antworten | Kosten |
|---|---|---|
| Anthropic (Claude) | 3 | 11,72 $ |
| OpenAI (GPT) | 21 | 0,06 $ |
| Lokal (Gemma 4 12B) | 21 | 0,00 $ |
| z.ai (GLM) | 33 | ohne hinterlegten Preis |
Alles, was man von Claude Desktop kennt, für alle Modelle
Vom Skript zur fertigen Sprachspur
Das Medien-Studio lädt den kompletten Katalog von fal.ai: rund 1.500 Modelle in 27 Kategorien, von Bild und Video über Sprache und Musik bis 3D.
- 01Skript lesenTXT, Word oder PDF laden: Abschnitte mit Timecodes, Pausen, Ton, Zieldauer und Aussprache-Hinweise werden erkannt.
- 02Aussprache-Regeln„beckbit“ wird zu „Beck-Bit“, „Zigbee“ zu „Sig-Bie“. Jede Regel lässt sich einzeln abschalten.
- 03Zeitgenau vertonenJeder Abschnitt landet auf seinem Timecode. Zu lange Stellen werden um höchstens 15 % gestrafft, ohne Überlappung.
- 04Untertitel & BerichtZur Sprachspur gibt es eine SRT-Datei und einen Bericht je Abschnitt.
Was schiefging und was ich eingebaut habe
Eine einzige Antwort zu einer größeren Programmieraufgabe kostete 11,28 $.
Claude hatte zusätzlich Anthropics Code-Sandbox und baute alles doppelt: 39 der 77 Aufrufe liefen in der Sandbox, 31 Mal wurden Dateien komplett neu geschrieben. Und Auto hatte Opus statt Sonnet gewählt.
Auch Gemma machte Probleme: Lange Antworten wurden abgeschnitten, weil das Kontextfenster fest auf 32.000 Tokens stand. Jetzt wächst es bei Bedarf bis 64.000 Tokens, lokale Antworten kamen im Test nach 13–20 Sekunden.
| Werkstatt-Test: Rabattfunktion nur mit Gemma | Dauer | Ergebnis |
|---|---|---|
| ohne maschinelle Prüfung | 2 min | Syntaxfehler, Gemma meldete trotzdem „geprüft“ |
| mit Syntaxprüfung | 2 min | Syntax ok, aber Feld brutto gelöscht |
| mit Syntax- und Verlustprüfung | 2 min | korrekt: 100 € netto → 90 € netto / 107,10 € brutto |
Lokal betrieben, bewusst freigegeben
Meine Tipps, wenn du so etwas baust
- 01Richtig sparenNicht ein kleines Modell die Arbeit eines großen nachmachen lassen, sondern das passende Modell wählen und Prompt-Caching nutzen.
- 02Prompt-Anfang stabil haltenKein Datum mit Uhrzeit, keine wechselnde Reihenfolge, sonst greift der Cache nicht.
- 03Agenten bremsenJeder Werkzeugschritt schickt den ganzen Verlauf erneut. Kostenbremse und Budget gehören dazu.
- 04Preise hinterlegenFür jeden Anbieter, sonst lässt sich die Ersparnis nicht vollständig rechnen.
- Das passende Modell pro Frage und Prompt-Caching sparen Geld, nicht ein kleines Modell, das ein großes nachahmt.
- Echte Nutzung 08.–10.10.2026: 11,78 $ bezahlt statt 61,83 $ mit Opus 5.5 ohne Cache.
- Im Modell kosten 500 Anfragen im Monat 3,88 $ statt 20,25 $; Abos lohnen sich erst ab rund 5.200 Anfragen.
- Agenten-Aufgaben brauchen eine Kostenbremse: Eine Antwort kostete 11,28 $.
- Kleine Modelle maschinell prüfen statt ihrem eigenen Urteil zu vertrauen.
Fazit
Mehrere KI-Modelle in einem eigenen Chat sparen echtes Geld, wenn jede Frage zum passenden Modell geht und der Cache genutzt wird. Meine echten Zahlen stammen aus drei Tagen und lassen GLM-Kosten aus, sind also eine Momentaufnahme. Ohne Kostenbremse kann eine einzige Programmieraufgabe teurer werden als ein Abo. Meine Einschätzung: Für mich liegt der Reiz darin, Modelle zusammenarbeiten zu lassen, statt nur eines zu nutzen. Ob die Zusammenarbeit von lokalem und Cloud-Modell im Alltag so gut klappt, wie ich es mir erhofft habe, ist für mich noch nicht abschließend beantwortet. Hast du Fragen oder Interesse an so einem Setup? Schreib mir.
🤖 KI-Hinweis: Mit Unterstützung von KI erstellt und redaktionell geprüft. Grafiken und Diagramme wurden per Code erstellt.

