에이전트 UX: 신뢰 설계

문제 정의

에이전트에게 “뭐든 할 수 있는” 권한을 주면, 사용자는 편리함보다 불안을 먼저 느낀다. 그렇다면 어느 정도의 자율성이 신뢰를 만드는가. 2026년 상반기, 3개 프로덕트에서 관찰한 데이터로 작업 가설을 정리한다.

관찰: 승인 버짓

사용자가 한 세션에서 감내하는 ’확인 다이얼로그’는 평균 5회 전후. 6회째부터 사용자는 양극화된다:

• 전부 승인(“될 대로 되라” 모드) — 위험
• 전부 거부(“내가 직접 한다” 모드) — 이탈

즉, 확인 횟수는 설계 리소스이며, 다 쓰면 끝이다.

패턴: 신뢰의 3단계

1. 가시화 — 에이전트가 다음에 무엇을 할지 항상 목록으로 볼 수 있다(큐)
2. 가역화 — 모든 작업에 ’되돌리기’가 있다(undo)
3. 단계적 위임 — 작은 성공의 축적으로 비로소 권한이 넓어진다

추론 과정 표시는 신뢰를 높이는가

의외의 결과: 추론 프로세스의 상세 표시는 초보자의 신뢰를 낮췄다. “모르는 것을 모르는” 상태에 노이즈가 얹히기 때문. 요약 한 줄 + 상세는 접어두기, 이것이 현시점의 최적해다.

다음 실험

승인 버짓을 가시화하면(“확인 2회 남음”), 전부 승인 모드는 줄어들까. 기획 중.

이 문서는 살아있는 문서입니다 — 관찰이 쌓이는 대로 업데이트합니다.