Über KI-Agenten wird im Moment vor allem geredet. Wir bauen einen — offen, Session für Session, mit Kamera. Das Projekt heisst Whale, es ist unser eigener Agenten-Harness, und der Code liegt öffentlich. Dieser Text fasst zusammen, was in den letzten drei Sessions passiert ist und warum es für Organisationen interessant ist, die selbst gerade über Agenten nachdenken.
Ein Agent ohne Gedächtnis ist ein teurer Goldfisch
Nehmen wir einen Supportprozess. Eine Anfrage kommt herein, der Agent liest sie, sucht die passende Information zusammen, schlägt eine Antwort vor. Funktioniert. Beim nächsten Mal beginnt er wieder bei null — und macht denselben Umweg wie beim letzten Mal, in derselben Reihenfolge.
Das Naheliegende ist, einfach den Gesprächsverlauf mitzugeben. Das ist aber kein Gedächtnis, sondern ein Protokoll, das so lange wächst, bis es nicht mehr ins Modell passt und jede Anfrage teurer macht. Gedächtnis ist die umgekehrte Bewegung: entscheiden, was aufbewahrt wird, in welcher Form, damit es nach Relevanz wieder auffindbar ist statt nach Reihenfolge.
Wir haben dafür vier Kandidaten verglichen und am Ende etwas anderes gebaut, als wir zuerst wollten. Der Auslöser war eine Unterscheidung aus einem Paper von Google, der Georgia Tech und der Universität Peking (Procedural Graphs: Self-Evolving Execution Structures for LLM Agents, September 2026), die uns überzeugt hat: Die meisten Systeme speichern Fakten — was ist was. Interessanter ist für einen Agenten das andere Wissen: wie etwas abläuft, und vor allem, welcher Schritt erfahrungsgemäss schiefgeht. Genau das speichern wir jetzt. Nach jeder Sitzung vergleicht das System gescheiterte mit gelungenen Abläufen und schreibt sein eigenes Gedächtnis um. Verworfenes bleibt erhalten — damit es nicht ein zweites Mal probiert wird.
Wichtig war uns dabei eine Entscheidung, die technisch klingt und in Wahrheit eine Haltung ist: Wenn das Gedächtnis einmal nicht sauber ist, warnt das System und arbeitet weiter. Es bricht nicht ab. Ein Gedächtnis soll eine Verbesserung sein und keine zusätzliche Stelle, an der alles stehen bleibt.
Jeder Plan braucht einen Kritiker und eine menschliche Freigabe
Die zweite Hälfte ist uns die wichtigere. Eine einzelne falsche Aktion eines Agenten ist billig — man sieht den Fehler und korrigiert ihn. Teuer wird ein guter Plan, der in die falsche Richtung läuft: zwölf Schritte, jeder für sich plausibel, und nichts im System hat einen Grund anzuhalten. Je besser Agenten im Planen werden, desto mehr ist das das eigentliche Risiko.
Deshalb haben wir vor die Ausführung zwei Dinge gesetzt — das Muster stammt aus einem Paper von Block AI Research, den Leuten hinter dem Agenten Goose. Erstens einen Kritiker: ein zweiter Agent, der den Plan auseinandernimmt, bevor irgendetwas läuft. Er kappt Äste, verschiebt andere, einige bleiben stehen. Das macht den Plan nicht automatisch richtig — aber man sieht, was strittig war. Ein Plan, der eine Auseinandersetzung überstanden hat, ist etwas anderes als ein Plan, den niemand hinterfragt hat.
Zweitens eine menschliche Freigabe. Und zwar genau eine, an der richtigen Stelle. Die Versuchung ist gross, jeden Schritt bestätigen zu lassen — das ist der sicherste Weg zu einer Kontrolle, die niemand mehr ausübt. Nach dem fünfzehnten Dialogfenster klickt man auf Ja, ohne zu lesen, und dann hat man den Anschein von Aufsicht, was schlimmer ist als keine, weil man ihm vertraut. Bei uns wird der Plan als Ganzes zur Freigabe vorgelegt, einmal, solange die Entscheidung noch alles Weitere bestimmt.
Das ist keine theoretische Vorliebe. Wir arbeiten überall so: Agenten bereiten vor, Menschen schicken ab. Unsere eigenen Social-Media-Beiträge werden von Agenten entworfen und nie von einem Agenten veröffentlicht — der Klick gehört einem Menschen. Die Leitplanke in den Harness einzubauen, war weniger eine Designentscheidung als das Eingeständnis, dass wir es ohnehin schon so halten.
Was das für Ihre Organisation bedeutet
Die meisten Organisationen werden nie selbst einen Agenten-Harness bauen. Sie werden einen kaufen — eingebaut in ein CRM, ein Ticketsystem, eine Dokumentenablage. Die Frage, die dann zu stellen ist, ist dieselbe, mit der wir eine ganze Session verbracht haben: An welcher Stelle schaut ein Mensch darauf, was die Maschine vorhat?
Die brauchbare Antwort ist weder „alles kontrollieren“ noch „läuft schon“. Sie ist: eine Freigabe, dort, wo die Entscheidung noch günstig zu ändern ist und ein Mensch noch versteht, was er freigibt. Wenn ein Anbieter nicht zeigen kann, wo diese Stelle in seinem Produkt sitzt, dann gibt es sie nicht.
Und das ist der Grund, warum wir das öffentlich bauen: Die Entscheidungen sind der eigentliche Inhalt, nicht das fertige Ergebnis. Wer sie mitlesen kann — samt der Stellen, an denen wir falsch abgebogen sind —, kann dieselben Fragen an jedes Produkt stellen, das ihm als „agentische KI“ verkauft wird.
Mitlesen und mitschauen
Die Sessions laufen auf Englisch, die ausführlichen Beiträge dazu ebenfalls.
Die schriftlichen Fassungen:
- Picking a Memory Engine for an Agent Loop — vier Engines im Vergleich und die Kriterien, auf die es ankommt
- Procedural Graphs: Memory That Rewrites Itself — wie das Gedächtnis gebaut ist
- An Agent That Plans Needs an Adversary and a Human Gate — Kritiker und Freigabe
- Die ganze Serie auf YouTube · Code auf GitHub
Sie überlegen, wo Agenten in Ihren Abläufen Sinn ergeben — und wo die Leitplanken hingehören? Reden Sie mit uns.
Dieser Artikel wurde mit Unterstützung von KI-Werkzeugen verfasst und vor der Veröffentlichung von unserem Team geprüft (EU AI Act, Art. 50).
