AI 4명에게 내 시스템을 심판시켰더니, 가장 아픈 곳을 짚은 건 '나'였다

발견

내가 만든 자동화 PoC를, 내가 직접 띄운 AI 페르소나 4명에게 심판시켰다. SRE·법무·콘텐츠 전략가, 그리고 '본인' 페르소나. 각자 자기 역할로 시스템을 뜯어보게 한 뒤 BLOCKING을 받았다.

가장 아픈 곳을 짚은 건 전문가 셋이 아니라 본인 페르소나였다. 그 한 명이 던진 honest_concern:

• "운영 지속률 35%"
• "가장 두려운 건 검토 부담이 아니라 회사 정보 유출 1건"

외부 페르소나가 잡은 위험은 모두 기능적이었다:

• SRE — measurement·복구·운영 비용
• 법무 — NDA·credentials·incident response
• 콘텐츠 전략가 — 톤 일관성·자동 발행 신뢰성

그러나 누구도 "이 시스템이 6개월 후에도 사용될까?", "휴면 후 재시작 가능할까?", "회사 스프린트 시즌에도 매일 7분이 가능한가?" 같은 지속 가능성 차원은 짚지 못했다.

왜 본인 페르소나가 다른가

외부 페르소나는 시스템이 동작하는 시나리오를 본다. 본인 페르소나는 시스템 안에서 살아야 하는 시나리오를 본다.

• "이걸 매일 7분 안에 할 수 있는가" — 본인만 안다
• "회사 스프린트 시즌에도 지속 가능한가" — 본인만 안다
• "한 달 쉬고 다시 시작할 동기가 있는가" — 본인만 안다

외부 페르소나가 "이 시스템은 안전하다"라고 결론 내려도, 본인이 "안 쓸 것 같다"고 하면 시스템 가치는 0이다.

적용

시스템 설계 시 페르소나 토론에 반드시 사용자 본인 페르소나 포함:

• 외부 페르소나 N명 + 본인 페르소나 1명
• 본인 페르소나는 honest_likelihood_of_sustained_use 같은 정량 추정 출력 (예: "35%")
• 본인 페르소나의 honest_concern은 다른 페르소나의 top_3_fixes 위에 둔다

quality-gate 패턴에서도 마찬가지 — rubric에 "운영 지속성" 같은 본인 차원을 별도 항목으로 두면 외부 페르소나가 안 잡는 BLOCKING이 자동으로 드러난다.

함정

• 본인 페르소나가 너무 보수적일 위험: "그냥 안 만드는 게 낫다"로 끝나면 진전이 없음. 외부 페르소나의 "어떻게든 만들어야"와 cross-check 필요.
• 본인 페르소나의 honest_concern을 그대로 BLOCKING으로 받지 말 것: 35% 지속률이라도 "passive trigger로 70%까지 끌어올릴 수 있는가" 같은 mitigation 탐색이 먼저.
• 자기 자신을 잘 안다는 환상: 평소엔 자기 인식이 평균적으로만 정확. 페르소나 형식으로 분리하면 더 솔직해진다.

위임 보정의 입력으로

본인 페르소나의 honest_concern은 위임 자율성 보정에서도 핵심 입력이다. 시스템(또는 AI 에이전트)에 일을 더 넘길지 결정할 때, 외부 검증("동작하는가")만으로는 부족하다. "이걸 6개월 후에도 내가 운영할 수 있는가", "이 자율성 수준이 내가 감당 가능한가"는 본인 페르소나만 답한다.

자율성을 넓히는 신호는 외부 검증(결과)이지만, 넓히면 안 되는 신호는 종종 본인 페르소나의 솔직한 우려에서 나온다.

핵심 한 줄

AI에게 일을 넘기되, 마지막 BLOCKING은 내가 짚는다. 시스템이 돌아갈지는 외부 페르소나가 알지만, 시스템이 살아남을지는 본인 페르소나만 안다.

관련

/notes/one-way-two-way-door — 본인 페르소나가 짚는 BLOCKING은 보통 one-way door, 외부 페르소나는 two-way door에 강함 /notes/automation-vs-governance — 같은 PoC에서 나온 자동화 거버넌스 부담 인사이트 /notes/quality-gate-loop — rubric에 본인 차원을 별도 축으로 /essays/delegation-autonomy-calibration — 본인 페르소나가 자율성 확대의 brake /cases/personas-debate-system — 본인 페르소나를 포함한 토론 시스템 케이스