KI-Assistenten-Schleifen eignen sich hervorragend für Demos. Als Produkte sind sie jedoch miserabel. Und wenn du nicht aufpasst, verursachen sie ein sehr teures Chaos.
Die viralen Videos sind überzeugend: autonome KI-Assistenten, die planen, handeln, sich selbst korrigieren und endlos in einer Schleife laufen, bis die Aufgabe erledigt ist. Kein Mensch ist beteiligt. Einfach auf «Start» drücken und zusehen, wie die Magie geschieht. Das Problem? Was du siehst, sind die 12 %, die funktioniert haben. Die anderen 88 % haben entweder Token bis zur Unkenntlichkeit verbraucht, sind auf eine Weise aus der Bahn geraten, die niemand bemerkt hat, oder haben stillschweigend etwas produziert, das fertig aussah – es aber nicht war.
Das ist kein Argument gegen KI. Es ist ein Argument dagegen, eine überzeugende Demo mit einer zuverlässigen Produktarchitektur zu verwechseln.
Was eine KI-Assistentenschleife eigentlich ist
Eine Assistentenschleife ist vom Konzept her einfach: Die KI führt eine Aktion aus, beobachtet das Ergebnis, entscheidet, was als Nächstes zu tun ist, und wiederholt dies, bis sie die Aufgabe als erledigt betrachtet. Kein Mensch lenkt jeden Schritt. Der Assistent ist der Treiber.
Das klingt beeindruckend – und für bestimmte Aufgaben ist es das auch wirklich. Doch hinter dem Hype verbergen sich zwei Probleme.
Das erste ist mathematischer Natur. Wenn jeder Schritt in einer mehrstufigen Schleife eine Erfolgsquote von 90 % hat, wird eine 20-stufige Schleife nur in etwa 12 % der Fälle erfolgreich abgeschlossen. Demos funktionieren, weil sie sorgfältig zusammengestellt sind: enger Umfang, saubere Eingaben, handverlesene Szenarien – und jemand hinter den Kulissen, der das Ganze vor der Aufnahme sechs Mal durchgespielt hat.
Das zweite Problem ist die Zieldefinition. Du denkst, dein Planungsdokument deckt alles ab. Das tut es aber nie. Sobald du einem autonomen KI-Assistenten ein vages Ziel gibst und ihm sagst, er solle loslegen, fängt er an, Annahmen zu treffen. Selbstbewusste Annahmen. Meistens falsche. Und da die Schleife autonom ist, summieren sich diese Annahmen, bevor es jemand bemerkt.
KI-Assistenten-Schleifen sehen im Pitch beeindruckend aus, weil du genau den einen Pfad siehst, der nicht in die Hose gegangen ist.
Zum Thema: Wie KI-Assistenten Datenflut in brauchbare Erkenntnisse verwandeln.
Warum Schleifen auseinanderfallen, sobald sie live gehen
Hier kommt echte Projekterfahrung ins Spiel – und die zeigt immer wieder dasselbe: Die Kluft zwischen einer Schleife, die in einer Demo beeindruckt hat, und einer, die den Kontakt mit echten Nutzern übersteht, ist riesig.
Das Kernproblem ist nicht, dass KI-Assistenten-Schleifen eine schlechte Technologie sind. Es liegt daran, dass sie strukturell nicht zu dem passen, was Produkte am meisten brauchen: einheitliches, vorhersehbares Verhalten. Schleifen sind von Natur aus nicht deterministisch. Gleiche Eingabe, jedes Mal eine andere Ausgabe.
Bei what. haben unsere Entwickler Loops in Entwicklungsabläufen eingesetzt – konkret in einem strukturierten «Implementieren → Überprüfen → Korrigieren»-Zyklus für Figma-to-Code-Aufgaben, mit 2–5 Iterationen und einer definierten Stoppbedingung. Die begrenzte Anzahl an Iterationsschritten dient als Sicherheit, die speziell darauf ausgelegt ist, zu verhindern, dass eine Schleife endlos läuft und unbegrenzt Tokens verbraucht. Das funktioniert, weil das Feedback automatisiert ist, der Umfang eng gefasst ist und ein Mensch den Plan genehmigt, bevor die Schleife startet. Das ist ein ganz anderer Ansatz als eine offene «Build my App»-Schleife.
Wenn Schleifen ein vages Ziel erhalten und angewiesen werden zu laufen, gehen voraussehbar mehrere Dinge schief:
- Schleichende Annahmen: Der Assistent füllt die Lücken, die du nicht angegeben hast – selbstbewusst und oft falsch. Du dachtest, dein Planungsdokument hätte alles abgedeckt. Das ist nie der Fall.
- Token-Verbrauch: Schleifen lesen den Kontext erneut, wiederholen fehlgeschlagene Schritte, gehen zurück und erkunden Alternativen. Ein häufig zitierter Fall aus der agentischen KI-Community betraf Token-Ausgaben von 1,3 Millionen Dollar in einem einzigen Monat. Das ist kein Tippfehler.
- Sich verstärkende Fehler: In einer Schleife mit Schreibzugriff auf reale Systeme ist ein falscher API-Aufruf nicht nur eine Fehlermeldung. Es ist eine Abbuchung, die durchgeführt wurde, eine Bestellung, die nicht erstellt wurde, ein Datensatz, der falsch aktualisiert wurde. Halluzinationen in einer Chat-Oberfläche sind nervig. Halluzinationen in einer Schleife mit Schreibzugriff sind katastrophal.
Viele «KI-Probleme», mit denen Kunden zu uns kommen, entpuppen sich als getarnte Integrationsprobleme. Eine Schleife, die abstürzt, weil zwei Systeme oder Tools nicht miteinander kommunizieren können, ist kein KI-Fehler – sondern ein Problem in der Infrastruktur. Wer das schon am ersten Tag weiss, spart sich wochenlangen vergeblichen Aufwand.
«Schleifen scheitern nicht mit grossem Getöse. Oft laufen sie zu Ende, produzieren etwas, das vollständig aussieht, und hinterlassen ein System in einem uneinheitlichen Zustand, den du erst entdeckst, wenn es darauf ankommt.»
Enrico Sottile, Technical Engineer bei what.
Die Architektur, die unter Realbedingungen standhält
Hier ist die ehrliche Sichtweise: Wenn du erst einmal Schutzmechanismen, menschliche Freigabestufen, Iterationsgrenzen, Überwachung und Rollback-Logik um einen rohen Assistenten-Loop herumgebaut hast, hast du damit bereits zugegeben, dass man der Schleife allein nicht trauen kann. Und das ist in Ordnung. Das ist die richtige Architektur.
Agentische Systeme unter Realbedingungen sehen nicht aus wie ein ausser Kontrolle geratener AutoGPT. Sie sehen aus wie verteilte Systeme mit Einschränkungen, Kontrollpunkten und Menschen, die die wichtigen Entscheidungen treffen.
Das praktische Muster, das funktioniert:
| Was der KI-Assistent übernimmt | Was der Mensch übernimmt |
|---|---|
| Suchen, vergleichen, zusammenfassen, Optionen generieren | Endgültige Entscheidungen vor irreversiblen Aktionen genehmigen |
| Inhalte entwerfen, Daten extrahieren, Anomalien kennzeichnen | Zahlungen, Datenschreibvorgänge und Kommunikation absegnen |
| Begrenzte Verifizierungsschleifen mit klaren Stoppbedingungen ausführen | Ergebnisse überprüfen, bevor sie an einen Ort gelangen, an dem sie nicht mehr rückgängig gemacht werden können |
Abgegrenzte Schleifen machen absolut Sinn. Es gibt ein gutes Beispiel aus einem YouTube-Podcast zum Thema Code-Review: Code auf GitHub hochladen, ein Review-Assistent bewertet ihn, Cursor liest die Bewertung und behebt Probleme – wiederholen, bis die Bewertung einen definierten Schwellenwert überschreitet oder fünf Iterationen vergangen sind. Das funktioniert, weil der Feedback-Mechanismus automatisiert ist, das Ziel binär ist (Bewertung über dem Schwellenwert oder nicht) und es einen fixen Stopp gibt. Das ist keine «unendliche Verbesserungsschleife» – es ist ein definierter Workflow mit einer klaren Ausstiegsbedingung.
Die konzeptionelle Umstellung in der Kommunikation mit den Beteiligten lautet: Weg von «Die KI-Schleife soll alles von Anfang bis Ende übernehmen» hin zu «LLMs übernehmen die sprachintensiven Teilaufgaben, deterministische Dienste übernehmen die kritischen Vorgänge und Menschen treffen die endgültige Entscheidung.»
Die Automatisierung eines fehlerhaften Prozesses hilft dir nur dabei, Fehler schneller zu machen. Das Gleiche gilt für das Endlosschleifen bei einem unzureichend definierten Prozess.
Verwandtes Thema: Erfahre, warum du KI überhaupt brauchst, um deine Prozesse zu automatisieren.
«Human-in-the-Loop» ist die beste Schleife
Der Begriff wird oft als Trostpreis verwendet – als ob das Hinzufügen eines menschlichen Kontrollpunkts bedeuten würde, dass deine KI-Architektur nicht ambitioniert genug ist. Das ist genau umgekehrt. Human-in-the-Loop-KI ist keine Einschränkung, sondern das entscheidende Merkmal.
In regulierten Umgebungen, in Branchen mit hohen Compliance-Anforderungen, in jedem Kontext, in dem jemand für die Ergebnisse verantwortlich ist, ist überwachte Automatisierung das Produkt. «Vollständig autonom» ist ein Risiko. «Gut gesteuerte Automatisierung» – das ist etwas, das du tatsächlich verkaufen, verteidigen und skalieren kannst.
Das Modell ist der Praktikant. Schnell, unermüdlich, oft überraschend gut. Aber der Praktikant sollte keine endgültigen Entscheidungen über Zahlungen, Kundenkommunikation oder irgendetwas Unumkehrbares treffen, ohne dass ein Vorgesetzter im Bilde ist.
Human-in-the-Loop ist die beste Schleife. Nicht, weil KI nicht fähig wäre, sondern weil Menschen die Randfälle erkennen, für die der Assistent keinen Kontext hat – und weil sie die Verantwortung für wichtige Entscheidungen übernehmen.
Die Unternehmen, die wir mit agentischer KI erfolgreich sehen, sind nicht diejenigen, die vollautonome Abläufe anstreben. Es sind diejenigen, die genau definiert haben, wo der Assistent einen Mehrwert schafft, die streng darauf achten, wo Menschen die Kontrolle behalten, und die ehrlich sind, was ein Loop tatsächlich braucht, bevor es sich lohnt, ihn zu betreiben.
Bereit, etwas aufzubauen, das über die Demo hinaus Bestand hat? Genau für diese Art von Gesprächen ist unser KI-Automatisierungsteam da. Wir helfen Unternehmen dabei, agentische Workflows mit den richtigen Einschränkungen, Kontrollpunkten und Steuerungsmechanismen zu gestalten – damit du Effizienz ohne Chaos erreichst.
Ebenfalls wichtig: Bevor du überhaupt über agentische Workflows nachdenkst, stell sicher, dass sich die zugrunde liegenden Prozesse überhaupt automatisieren lassen. Wir haben darüber geschrieben, warum es oft den höheren ROI bringt, deine Workflows zu optimieren, bevor du KI einsetzt.
