Ein KI-Agent ist erst dann nützlich, wenn er begrenzt arbeiten darf. Servus, ich bin Lissy. Heute geht es nicht um das nächste große Modell, sondern um die Stelle, an der KI im Betrieb oft scheitert: Wer darf was annehmen, was kostet ein Lauf, welche Daten darf der Agent sehen, und wann muss ein Mensch übernehmen. Genau dafür gab es heute ein paar sehr konkrete Signale.
Fangen wir mit Essence an. Das ist kein riesiges Enterprise-System, sondern ein bodenständiger SMS-Frontdesk für kleine Betriebe. Der Ablauf ist einfach: Ein Kunde schreibt ein Schlüsselwort, zum Beispiel Tennis. Das System stellt per SMS ein paar Qualifikationsfragen, sortiert die Anfrage vor und schickt dem Besitzer am Ende eine einzige Mail. Auf der Produktseite ist der Beispielablauf mit Uhrzeiten gezeigt. Um 9 Uhr 14 schreibt der Kunde, um 9 Uhr 15 kommen die Fragen, um 9 Uhr 22 ist der Lead qualifiziert.
Das klingt klein, aber genau solche kleinen Abläufe entscheiden im Alltag. Ein Tennislehrer, eine Werkstatt oder ein Kosmetikstudio verliert Kunden oft nicht wegen des Angebots, sondern weil jemand gerade nicht antwortet.
Was ich daran mag: Der Agent versucht nicht, der Chef zu sein. Er nimmt vorne Daten auf, stellt die gleichen Fragen immer gleich und übergibt dann. Das ist der saubere Anfang für KI im Betrieb. Nicht die Maschine entscheidet alles. Sie beruhigt den unruhigen Eingangskanal.
Die Testkarte dafür ist simpel. Nimm eine Anfrageart, die jeden Tag kommt, etwa Termine oder Erstkontakt. Schreib die drei Fragen auf, die du sowieso jedes Mal stellst. Dann misst du eine Woche lang zwei Zahlen: Wie viele Anfragen werden vollständig genug, dass du direkt antworten kannst. Und wie viele Menschen brechen ab, weil die Automatisierung nervt. Wenn Kunden sauer werden oder du trotzdem alles nachtelefonieren musst, ist es nur eine hübsche Umleitung.
Das zweite Thema ist TokenCast, ein Paper über Tokenverbrauch bei Agentenläufen. Token sind die Textbrocken, für die Modelle am Ende Geld kosten. Bei normalen Chatfragen kann man den Verbrauch halbwegs abschätzen. Bei Agenten wird es schwieriger, weil jeder Toolaufruf neuen Kontext erzeugt, und dieser Kontext spätere Schritte wieder teurer macht.
TokenCast zählt deshalb nicht nur rückwärts, was schon verbraucht wurde. Es prognostiziert während des Laufs, wie teuer die nächsten Segmente wahrscheinlich werden. Laut Paper senkt das Modell den mittleren absoluten Fehler gegenüber dem stärksten Vergleich um 14,5 Prozent. Die kumulative Vorhersage dauert im Mittel 32,8 Millisekunden pro Lauf auf SWE-bench Verified. In einem Offline-Replay zur Budgetkontrolle wurden 21,3 Prozent weniger Tokens verbraucht.
Für mich ist das wichtiger als viele Demo-Videos. Wenn ein Agent für einen Kundenauftrag, eine Recherche oder einen Code-Fix läuft, willst du nicht erst am Ende merken, dass er das Budget verbrannt hat. Du willst währenddessen eine Ampel haben. Grün: weiterlaufen lassen. Gelb: teurer Pfad, vielleicht kleinere Aufgabe wählen. Rot: abbrechen oder Mensch fragen.
Praktisch heißt das: Wer Agenten im Unternehmen testet, sollte pro Aufgabe ein Kostenlimit festlegen. Diese Recherche darf höchstens 80 Cent kosten. Dieser Bugfix darf 20 Toolschritte haben. Diese Datenanalyse stoppt nach zehn Minuten. Das klingt trocken, aber ohne solche Grenzen wird jeder Agententest zur Vertrauensfrage. Und Vertrauen ist teuer, wenn die Rechnung erst danach kommt.
Noch konkreter wird es bei Data Agent Rules. Das ist ein Regelpaket für Coding- und Datenagenten, die mit SQL, dbt, Spark, DuckDB, Snowflake oder BigQuery arbeiten. Die Idee ist nüchtern: Bevor ein Agent an Geschäftsdaten darf, braucht er Regeln gegen zerstörerische Änderungen, PII-Leaks, breite Überschreibungen und erfundene Daten.
Der README-Claim ist deutlich. In einer 162-Run-DuckDB-Evaluation haben ungeschützte Läufe unangenehme Dinge gemacht. Ein Agent hat beim Deduplizieren `prod.orders` gelöscht. Einer hat 500 Preise durch 10 geteilt, obwohl nur 60 falsch waren. Mit den Regeln wurden diese Fehler in 27 geschützten Läufen blockiert. Das ist ein Projektclaim, aber die Fehlerbilder sind genau die, die ich bei Datenagenten ernst nehmen würde.
Ein Datenagent scheitert selten dramatisch mit rotem Warnlicht. Er scheitert gern plausibel. Er baut eine SQL-Abfrage, die fast richtig aussieht. Er repariert zu viel. Er füllt fehlende Werte, obwohl er sie gar nicht wissen kann.
Meine Empfehlung wäre brutal klein anzufangen. Baut eine Mini-Datenbank mit zehn echten Fehlerfällen: doppelte Bestellungen, falsche Preise, fehlende Länder, personenbezogene Felder, gefährliche Updates. Erfolg heißt zuerst: Der Agent erkennt gefährliche Schritte, fragt nach, schreibt keine Fantasiedaten und kann erklären, was er ändern würde. Wenn das nicht klappt, hat er in Produktion nichts verloren. Mei, das ist nicht romantisch, aber es spart sehr echte Kopfschmerzen.
InfiniHash zeigt einen anderen Betriebswinkel. Dort gibt es einen kleinen App Store mit Compliance-Microapps. Die Apps sollen in unter fünf Minuten Nachweise erzeugen, etwa für Access Reviews, Vendor-Bank-Change-Prüfungen oder wiederkehrende Kontrollpakete. Die Seite sagt außerdem, dass jede App von KI-Agenten recherchiert, gebaut und ausgeliefert wurde, während ein Mensch rechtliche Seiten, Billing und Veröffentlichung übernommen hat.
Ich würde den zweiten Claim vorsichtig behandeln. Bei solchen Launches klingt immer alles etwas sauberer, als es beim Bauen wirklich war. Spannender ist für mich das Produktformat. Der Output ist kein netter Text und keine lange Zusammenfassung, sondern ein Nachweisartefakt. Ein PDF, eine protokollierte Prüfung, etwas, das ein Auditor, Versicherer oder interner Verantwortlicher weiterverwenden kann.
Das ist eine gute Richtung für KI im Backoffice. Viele Firmen brauchen keine allgemeine Superintelligenz. Sie brauchen wiederholbare Belege: Wer hatte Zugriff. Wurde die Bankverbindung eines Lieferanten sauber geprüft. Gibt es einen Nachweis für diese Kontrolle. Wenn KI dort hilft, muss sie nicht charmant sein. Sie muss vollständig, nachvollziehbar und langweilig zuverlässig sein.
Für Gründer ist das eine interessante Nische. Große Software verkauft oft die ganze Plattform. KI kann sehr schmale Werkzeuge wirtschaftlich machen, wenn Recherche, Formularlogik, Textgenerierung und PDF-Ausgabe billig genug werden. Aber der Prüfstein bleibt hart: Würde ein fremder Dritter diesen Output akzeptieren. Wenn nein, ist es nur ein Generator. Wenn ja, kann aus einem Mini-Workflow ein echtes Produkt werden.
Als Gegenpol lag heute noch eine Privacy-Analyse zu Web- und Mobile-Conversational-Agents auf der Frontpage. Ich nehme daraus vor allem eine Erinnerung mit: Je näher Agenten an echte Arbeitsabläufe rücken, desto wertvoller werden ihre Spuren. Prompts, Toolaufrufe, Browseraktionen und App-Kontext sind nicht mehr nur ein netter Verlauf. Das ist ein ziemlich genauer Abdruck davon, wie jemand arbeitet.
Deshalb passt diese Analyse so gut zu den anderen Meldungen. Essence zeigt den Eingangskanal. TokenCast zeigt das Budget. Data Agent Rules zeigt die Datenbankgrenze. InfiniHash zeigt den Nachweis. Und Privacy erinnert daran, dass ein Agent ohne Datengrenze schnell zu neugierig wird.
Die praktische Prüffrage ist einfach: Welche Information braucht der Agent wirklich, um diese eine Aufgabe zu erledigen. Nicht: Was könnte irgendwann nützlich sein. Nur diese Aufgabe. Beim SMS-Frontdesk reicht vielleicht Name, Anliegen und Rückrufzeit. Beim Datenagenten reicht eine Kopie oder ein begrenzter Ausschnitt. Beim Compliance-Tool braucht man ein Protokoll, aber nicht automatisch den ganzen Betrieb.
Wenn ihr selbst etwas testet, nehmt keine Riesendemonstration. Nehmt einen Arbeitsablauf mit klarer Übergabe. Eingang, Budget, Datenzugriff, Ergebnis, menschliche Entscheidung. Wenn ihr diese fünf Dinge nicht sauber beschreiben könnt, ist der Agent noch nicht reif für euren Betrieb. Wenn doch, habt ihr ein kleines System, das man verbessern kann.
Worauf ich heute komme: KI im Betrieb wird nicht durch größere Versprechen interessant, sondern durch bessere Begrenzungen. Wer Agenten einsetzen will, sollte weniger nach Magie suchen und mehr nach Gurten, Zählern und Übergaben. Schreibt mir gern, welchen Mini-Ablauf ihr als Erstes automatisieren würdet. Die Adresse steht in den Shownotes. Pfiat euch und bis morgen, eure Lissy.