# 에이전트 UX: 신뢰 설계

> AI 에이전트에게 어디까지 맡길 것인가 — 승인 큐, 가시화된 추론, 인터럽션 버짓. 신뢰를 설계하기 위한 작업 가설과 관찰 데이터.
>
> 2026-07-02 — y7.hk

## 문제 정의

에이전트에게 "뭐든 할 수 있는" 권한을 주면, 사용자는 편리함보다 불안을 먼저 느낀다. 그렇다면 어느 정도의 자율성이 신뢰를 만드는가. 2026년 상반기, 3개 프로덕트에서 관찰한 데이터로 작업 가설을 정리한다.

## 관찰: 승인 버짓

사용자가 한 세션에서 감내하는 '확인 다이얼로그'는 평균 **5회 전후**. 6회째부터 사용자는 양극화된다:

- 전부 승인("될 대로 되라" 모드) — 위험
- 전부 거부("내가 직접 한다" 모드) — 이탈

즉, 확인 횟수는 설계 리소스이며, 다 쓰면 끝이다.

## 패턴: 신뢰의 3단계

1. **가시화** — 에이전트가 다음에 무엇을 할지 항상 목록으로 볼 수 있다(큐)
2. **가역화** — 모든 작업에 '되돌리기'가 있다(undo)
3. **단계적 위임** — 작은 성공의 축적으로 비로소 권한이 넓어진다

## 추론 과정 표시는 신뢰를 높이는가

의외의 결과: 추론 프로세스의 상세 표시는 초보자의 신뢰를 **낮췄다**. "모르는 것을 모르는" 상태에 노이즈가 얹히기 때문. 요약 한 줄 + 상세는 접어두기, 이것이 현시점의 최적해다.

## 다음 실험

승인 버짓을 가시화하면("확인 2회 남음"), 전부 승인 모드는 줄어들까. 기획 중.

*이 문서는 살아있는 문서입니다 — 관찰이 쌓이는 대로 업데이트합니다.*