Ein langer KI-Agentenlauf scheitert oft nicht daran, dass das Modell zu dumm ist, sondern daran, dass es zu viel mitschleppt. Servus, ich bin Lissy. Heute geht es um eine ziemlich einfache, aber heikle Frage: Was darf ein Agent vergessen, ohne schlechter zu werden? Das klingt klein. In Wahrheit entscheidet genau das darüber, ob Codex, Claude Code und ähnliche Werkzeuge bezahlbar, stabil und im Betrieb wirklich nützlich bleiben.
Wenn ein Coding-Agent länger arbeitet, sammelt er alles ein: Fehlermeldungen, alte Pläne, halbe Patches, Testausgaben, verworfene Ideen und neue Anforderungen. Am Anfang hilft das. Nach einer Weile wird es schwer. Der Kontext wird teuer, langsam und manchmal sogar gefährlich, weil alte Zwischenstände plötzlich wieder Gewicht bekommen. Viele Systeme lösen das mit Zusammenfassungen. Der Agent oder ein zweites Modell schreibt also eine Kurzfassung der bisherigen Arbeit und macht damit Platz. Klingt vernünftig, hat aber einen Haken: Eine Zusammenfassung ist nie nur kürzer. Sie ist auch eine Interpretation. Sie kann Details falsch gewichten, kleine Einschränkungen verlieren oder aus einem vorsichtigen Zwischenstand eine scheinbare Tatsache machen. Bei einem langen Agentenlauf kann sich so ein Fehler über mehrere Runden aufschaukeln. Genau hier setzt CliffCompaction an. Das Paper sagt im Grunde: Vielleicht sollte ein Agent nicht schöner zusammenfassen. Vielleicht sollte er konservativer vergessen. Für mich ist das ein guter Realitätscheck. Wir reden so oft über größere Kontextfenster, als wäre mehr Erinnerung automatisch besser. Aber im Betrieb zählt nicht, wie viel Text ein System tragen kann. Es zählt, ob es die richtigen Fakten behält und den Rest sauber loslässt.
Die Idee von CliffCompaction ist überraschend einfach. Das System paraphrasiert nicht. Es schreibt also keine neue Version des bisherigen Verlaufs. Es kürzt oder entfernt Originalinhalte. Das ist der zentrale Unterschied. Wenn ein alter Testlog noch gebraucht wird, bleibt er als Originaltext erhalten. Wenn ein Abschnitt nicht mehr gebraucht wird, fällt er raus. Aber der Inhalt wird nicht in eine neue, hübschere Erzählung verwandelt. Außerdem compacted das System nicht auf bereits compacted Material. Jede neue Kürzung geht wieder auf das Original zurück. Dadurch soll sich kein Drift ansammeln. Man kann sich das vorstellen wie bei einem Laborprotokoll. Wenn ich eine Messreihe brauche, will ich nicht die fünfte Nacherzählung einer Nacherzählung lesen. Ich will entweder die Originalzahl oder die klare Entscheidung, dass diese Zahl für den nächsten Schritt nicht gebraucht wird. Technisch wird CliffCompaction als API-Proxy beschrieben. Es kann also vor bestehende Agenten-Stacks gesetzt werden, statt den ganzen Agenten neu zu bauen. Das macht die Arbeit interessant für reale Nutzung, weil viele Teams ihre Tools nicht austauschen wollen. Sie wollen Codex, Claude Code oder ihre eigene Agentenschleife behalten und nur die Kontextkosten senken. Genau da wird aus einem Paper plötzlich ein Produktmuster.
Die berichteten Zahlen sind stark, aber man muss sie sauber einordnen. Das Paper spricht von bis zu 50 Prozent Kostenreduktion bei begrenztem Kontext. Im Test-time Scaling bringt CliffCompaction laut Abstract über 10 Prozentpunkte auf Terminal-Bench für weniger als die Kosten von zwei Full-Context-Runs. Auf KernelBench werden 2,23-facher CUDA-Kernel-Speedup nach 200 Schritten und 3,58-facher Speedup nach 400 Schritten genannt. Das ist nicht einfach ein kleiner Trick für schönere Prompts. Es heißt: Wenn lange Agentenläufe billiger werden, kann man mehrere Versuche fahren, länger optimieren oder strengere Prüfungen einbauen, ohne dass die Rechnung sofort explodiert. Für Unternehmer ist das die eigentliche Pointe. Die Frage ist nicht, ob ein Agent einmal beeindruckend einen Bug fixt. Die Frage ist, ob man solche Läufe wiederholbar bezahlen und überprüfen kann. Trotzdem: Das bleibt benchmarkgebunden. Terminal-Bench und KernelBench sind harte, aber konkrete Umgebungen. Daraus folgt nicht automatisch, dass jeder Vertragsprüfungs-Agent, jeder Support-Agent oder jede interne Automatisierung plötzlich halb so teuer wird. Der richtige Schluss ist kleiner und praktischer: Wenn eure Agentenläufe an Kontext und Kosten scheitern, ist konservative Compaction eine ernsthafte Testidee, keine Deko-Optimierung.
Ich würde daraus keinen großen Strategieworkshop machen. Nehmt einen wiederkehrenden Agentenjob, der heute schon weh tut. Zum Beispiel einen Refactor mit vielen Testläufen, eine Datenpipeline mit Logauswertung oder eine Angebotsprüfung mit mehreren Dokumentversionen. Dann fahrt ihr zwei Varianten. Einmal Full-Context, so wie bisher. Einmal mit bewusst konservativer Kürzung: Originalanforderungen bleiben, alte Fehlversuche und irrelevante Logs fliegen raus, keine freie Nacherzählung. Messen würde ich vier Dinge: Tokenkosten, Laufzeit, bestandene Tests und verlorene Anforderungen. Erfolg heißt nicht, dass der zweite Lauf schöner klingt. Erfolg heißt: Er ist billiger oder stabiler und verliert keine harte Bedingung. Das passt auch zu einem zweiten Paper von heute: Grow the Harness, Not the Context. Dort wandert wiederkehrende Kontrolllogik aus dem Modellkontext in Code. Der Ansatz berichtet 76,0 bis 91,8 Prozent weniger LLM-Calls und 74,4 bis 98,6 Prozent weniger Inferenzkosten in den geprüften Settings. Die gemeinsame Linie ist klar: Wir sollten Agenten nicht immer mehr Text zumuten. Wir sollten ihnen bessere Arbeitsumgebungen bauen. Kürzerer Kontext, härtere Gates, wiederverwendbarer Code. Mei, das ist weniger romantisch als die große Modellankündigung. Aber genau solche Dinge machen aus einer Demo ein Werkzeug.
Dazu passen zwei kleinere Meldungen von heute. WeChatBridge ist eine macOS-App, die WeChat-Chatarchive aus dem Share-Menü an KI-Agenten oder Obsidian weitergibt. Das klingt sehr speziell, zeigt aber ein größeres Muster. Viele Arbeitsinformationen liegen nicht sauber in Datenbanken. Sie liegen in Chats, Anhängen, Screenshots und weitergeleiteten ZIP-Dateien. WeChatBridge nimmt genau so ein Archiv mit TXT, Bildern und Videos und macht daraus ein Ziel für Codex, Claude, andere Agenten, Obsidian oder die Zwischenablage. Laut README gibt es neun native Weiterleitungs-Einstiege. Für mich ist das kein Massenprodukt, aber ein guter Hinweis: Agenten werden besser, wenn alltägliche Kommunikation nicht mühsam kopiert werden muss, sondern als strukturierter Arbeitskontext ankommt. Und Google hat Gemini 3.8 Text-to-Speech angekündigt. Für Creator, Lernprodukte und Voice-Agenten ist bessere Sprachausgabe nicht nur Klangkosmetik. Sie senkt die Hürde, Audio überhaupt regelmäßig zu produzieren. Auch hier gilt aber: Am Ende zählt nicht die Demo-Stimme, sondern der Workflow drumherum. Skript rein, Qualität prüfen, Aussprache kontrollieren, veröffentlichen, korrigieren können. KI wird im Betrieb brauchbar, wenn sie wieder anlaufen kann, statt beim ersten Fehler stehen zu bleiben.
Worauf ich heute komme: Die nächste Stufe bei Agenten ist nicht einfach mehr Erinnerung. Es ist besseres Vergessen. Gute Systeme behalten die harten Anforderungen, werfen Ballast raus und prüfen danach, ob noch alles stimmt. Wenn ihr selbst mit Agenten arbeitet, testet diese Woche einen langen Lauf genau darauf: Was kostet er, was vergisst er, und welche Information darf auf keinen Fall verloren gehen? Wenn euch die Folge geholfen hat, hinterlasst gern eine Bewertung auf Spotify oder Apple Podcasts. Danke fürs Zuhören. Pfiat euch und bis morgen, eure Lissy.