자동화는 일을 줄이지 않는다 — AI 워크플로우와 거버넌스 비용

"자동화하면 일이 줄어든다"는 거짓말

이 문장을 처음 의심하게 된 건 오늘 일이었습니다.

매일 8시간 동안 AI 도구와 대화하는데 그 안에서 인사이트가 휘발됩니다. 그래서 일일 콘텐츠 자동 추출 시스템 PoC를 설계해보기로 했습니다. 대화 트랜스크립트를 분석해 사이트의 Logs·Notes·Essays 후보를 매일 자동 추출하는 시스템. 직관적으로는 명백한 가치였습니다. 손으로 정리하는 시간이 0이 될 테니까요.

PLAN을 4 페르소나로 평가했습니다. 시니어 자동화 엔지니어, 개인정보·보안 검토자, 콘텐츠 전략가, 그리고 운영 사용자 본인. 네 사람의 결론은 거의 똑같았습니다.

자동화는 일을 줄이는 게 아니다. 일의 종류를 바꿀 뿐이다.

비교 표

영역	자동화 전 (수동)	자동화 후
작성	매일 30분	매일 0분 (자동)
보안 검토	N/A	매일 false positive 컨펌, redaction 룰 튜닝
품질 검토	N/A	AI 톤 오염 감시, 1인칭 톤 보호
시스템 운영	N/A	cron·hook 유지, 사고 시 incident response
합계	30분	30분 이상 가능

자동화 전에는 30분의 "작성" 한 가지였습니다. 자동화 후에는 0분의 작성 + N분의 거버넌스. N이 30보다 작다는 보장이 없습니다.

거버넌스 비용이 본 작업을 추월하는 지점

법무 검토자 페르소나의 평가는 단호했습니다.

"현 PLAN 상태로 publish 진행 절대 금지. 4주 dry-run 필요."

자동화 본 코딩 작업: 약 1주. 보안 검증 dry-run 운영: 4주.

비율이 1:4입니다. 작성 자체를 자동화하느라 보안 검증에 4배의 시간을 써야 한다는 결론이 나오면, "자동화로 시간을 아꼈다"는 명제는 거짓입니다. 이게 자동화 시스템 vs 거버넌스 부담의 숨은 trade-off입니다.

자동화 인프라 = accidental complexity?

Brooks가 No Silver Bullet에서 essential complexity와 accidental complexity를 구분했습니다. 본질 복잡도와 우발 복잡도. 도구·환경에서 오는 어려움은 accidental입니다.

자동화 인프라는 본질일까요, 우발일까요?

대부분 우발입니다. "사이트에 글을 자주 올린다"는 본질 문제입니다. "트랜스크립트 정규화 + redaction LLM + second-pass + cron + macOS 알림 + incident playbook"은 그 본질을 회피하기 위한 우발 복잡도입니다.

본질 문제는 "글을 자주 쓸 동기와 시간이 있는가"입니다. 자동화는 그 문제를 다른 문제(거버넌스 운영)로 바꿔놓을 뿐, 답하지 않습니다.

자동화 전 자문할 3가지

이번 PoC 평가에서 합의된 자문 목록은 이렇습니다.

자동화가 만드는 거버넌스 일이 자동화하는 실작업보다 작은가? 비교가 안 되면 거버넌스 부담이 본 일을 추월할 수 있습니다.
거버넌스 일은 누가 책임지는가? "자동화가 한다"는 답은 거짓입니다. 사고가 나면 결국 사람이 수습합니다.
사고 1건의 비용 vs 자동화의 시간 절감 누적 가치를 비교했는가? 회사 정보 1건 유출의 비용은 자동화 1년 절감 가치보다 클 수 있습니다.

세 질문 모두에 "예"가 나와야 자동화가 net 이득입니다. 하나라도 "모르겠다"면 폐기 또는 보수적 dry-run.

본인 운영 시나리오를 시뮬레이션하라

본인 페르소나의 honest_concern은 이랬습니다.

"내가 가장 두려운 건 검토 부담이 아니라 회사 정보 유출 1건이다. 매일 7분은 할 수 있지만, 한 번의 사고로 평판이 망가지면 전체 시스템 가치가 마이너스가 된다."

이게 자동화 결정의 진짜 기준입니다. "기능적으로 동작하는가"가 아니라 "내가 6개월 후에도 이 시스템을 운영할 수 있는가". 외부 페르소나는 전자를 보지만 후자는 본인만 알 수 있습니다.

결론

자동화는 종종 직관과 반대로 net 부담을 키웁니다. 수동 작성 → 거버넌스 운영. 둘 중 어느 쪽이 자신에게 더 sustainable한지가 결정 기준이지, "자동화 = 무조건 이득"은 환상입니다.

그래서 이 사이트의 일일 자동 콘텐츠 PoC는 v1(1회 시연)으로 진행하고 v2(본격 운영)는 4주 dry-run을 거치기로 했습니다. 자동화 시스템을 만드는 게 목적이 아니라, 자동화 없이 정리되는지 먼저 확인하는 게 목적입니다.

자동화는 마지막 선택지여야 합니다. 거버넌스가 본 작업을 추월하지 않는 더 가벼운 대안 — 반복되는 함정을 체크리스트로 바꾸는 식 — 이 먼저입니다.

후일담 — 2주 뒤 실제로 자동화로 넘어갔다

이 보수적 결론은 2주 운영 데이터를 거쳐 일부 뒤집혔습니다. 주간 가든봇을 "글 생성 금지"에서 "생성하되 검증 게이트를 통과"로 전환했습니다. 핵심은 이 글의 논지를 부정한 게 아니라는 점입니다 — 거버넌스 비용은 사라지지 않았고, 형태만 "매일 검토"에서 "공개 전 사람이 PR을 한 번 보는 게이트"로 바뀌었습니다. N분의 거버넌스는 여전히 N분입니다.