Agent-UX: Vertrauen designen
Wie viel gibt man einem KI-Agenten — Approval-Queues, sichtbares Reasoning, Unterbrechungsbudget. Arbeitshypothesen und Beobachtungen zum Vertrauens-Design.
Diese Notiz wird noch geschrieben.
Problemstellung
Gib einem Agenten „kann alles”-Rechte, und Nutzer spüren Unsicherheit vor dem Komfort. Wie viel Autonomie schafft also tatsächlich Vertrauen? Arbeitshypothesen aus Beobachtungsdaten in drei Produkten im ersten Halbjahr 2026.
Beobachtung: das Approval-Budget
Nutzer tolerieren im Schnitt etwa 5 Bestätigungsdialoge pro Session. Ab dem sechsten spalten sie sich in zwei Lager:
- Alles genehmigen („ist mir egal”-Modus) — gefährlich
- Alles ablehnen („ich mach’s selbst”-Modus) — Churn
Die Anzahl der Rückfragen ist also eine Design-Ressource: verbraucht ist verbraucht.
Pattern: drei Stufen des Vertrauens
- Sichtbarkeit — was der Agent als Nächstes tut, ist immer gelistet (Queue)
- Reversibilität — jede Aktion hat ein „Undo”
- Stufenweise Delegation — Rechte wachsen nur durch angesammelte kleine Erfolge
Erhöht sichtbares Reasoning das Vertrauen?
Kontraintuitives Ergebnis: die Detailanzeige des Reasoning-Prozesses senkte das Vertrauen von Einsteigern. Zum Zustand „ich weiß nicht, was ich nicht weiß” kommt Rauschen dazu. Eine Zeile Zusammenfassung + eingeklappte Details ist derzeit optimal.
Nächstes Experiment
Wenn wir das Approval-Budget visualisieren („noch 2 Bestätigungen”), sinkt dann der Alles-genehmigen-Modus? In Planung.
Dies ist ein lebendes Dokument — ich aktualisiere es, sobald neue Beobachtungen anfallen.
