클래스도산

AI·자동화 트렌드

CFO가 'AI가 얼마 아꼈냐' 물을 때 당황하지 않는 ROI 측정법

기업 AI 전환 ROI, 어떻게 측정합니까 — 3단계 트래킹 프레임워크

AI 전환 ROI는 하나의 숫자가 아니라 6주·3개월·6개월 세 시점으로 나눠 측정합니다. 이 순서를 무시하고 6주 만에 최종 성과를 요구하면, 멀쩡한 프로젝트가 "효과 없음"으로 오판됩니다.

먼저 뼈대만 봅니다.

  1. 1단계 비용 절감 — 도입 6주, 같은 일의 투입이 얼마나 줄었나
  2. 2단계 시간 해방 — 도입 3개월, 확보된 시간이 어디로 갔나
  3. 3단계 의사결정 품질 — 도입 6개월 이후, 새로 가능해진 판단이 무엇인가

ROI를 숫자로 못 잡는 이유는 무엇입니까?

성과를 재는 방식이 없기 때문입니다. 모델을 잘못 골라서가 아닙니다.

파일럿은 분명 잘 돌아갔습니다. 팀원들도 "이거 없으면 이제 일 못 한다"고 말합니다. 그런데 분기 실적 회의에서 CFO가 "그래서 얼마 아꼈습니까"라고 묻는 순간, 준비한 슬라이드가 흔들립니다. 도입은 했는데 효과를 숫자로 못 잡는 것, 지금 대부분의 DX 조직이 서 있는 자리입니다.

이건 구조적 현상입니다. MIT Project NANDA의 2025년 보고서 『The GenAI Divide』는 기업 생성형 AI 파일럿의 약 95%가 손익(P&L)에 측정 가능한 영향을 남기지 못했다고 봤습니다.1 Gartner는 2025년 말까지 생성형 AI 프로젝트의 최소 30%가 개념검증(PoC) 이후 폐기될 것으로 전망하면서, 첫 원인으로 기술이 아니라 "불명확한 비즈니스 가치"를 꼽았습니다.2 BCG의 2024년 조사에서도 74%의 기업이 AI에서 실질 가치를 확장하지 못했습니다.3 세 보고서가 가리키는 지점은 같습니다. 가치를 재는 방식이 없어서 프로젝트가 죽습니다.

효율 지표와 역량 지표, 무엇이 다릅니까?

효율 지표는 "같은 일을 더 싸고 빠르게", 역량 지표는 "예전엔 못 하던 일을 하게 됨"입니다. 이 둘을 섞으면 측정이 무너집니다.

  • 효율 지표(Efficiency metric): 처리 건당 비용, 문서 초안 작성 시간, 상담 1건당 소요 분수처럼 지금 당장 로그로 잡히는 값. 이게 3단계 중 1단계입니다.
  • 역량 지표(Capability metric): 분석가 없이 마케터가 직접 데이터를 돌리거나, 기획 초안을 하루에 다섯 시안으로 벌리는 능력. 분기가 지나야 드러나는 2·3단계입니다.

역량은 직접 못 재니 프록시 지표(proxy metric)로 잡습니다. "의사결정 품질"은 직접 숫자가 없지만, 한 번의 결정에 검토한 대안 개수, 초안에서 최종본까지의 리드타임, 부서 간 반려 횟수로 근사할 수 있습니다.

보충. 프록시 지표는 완벽하지 않아도 됩니다. 방향만 일관되게 가리키면 경영진 설득엔 충분합니다. 완벽한 지표를 기다리다 측정 자체를 포기하는 게 더 큰 손실입니다.

AX 3-단계 ROI 트래킹은 어떻게 작동합니까?

효과를 시간축으로 분리해 시점별로 다른 지표를 재는 방식입니다. 성과는 시점이 다른데 측정을 한 시점에 몰아 하는 것이 실패의 핵심 원인입니다.

단계측정 시점무엇을 재는가대표 지표
1. 비용 절감도입 6주같은 일의 투입 감소건당 처리 시간·비용, 재작업 횟수
2. 시간 해방도입 3개월확보된 시간의 행방반복업무 시간 비중, 고부가 업무 전환율
3. 의사결정 품질도입 6개월~새로 가능해진 판단검토 대안 수, 리드타임, 반려율(프록시)

1단계 숫자가 안 나오면 도구·프로세스 문제입니다. 1단계는 되는데 2단계에서 막히면 확보한 시간이 다시 잡무로 채워진 것이니 업무 재설계가 빠진 겁니다. 3단계는 애초에 6주 만에 물으면 안 되는 질문입니다.

클래스도산이 비개발자 대상 AI 교육 현장에서 반복 확인한 실패 패턴도 여기로 수렴합니다. 대부분 6주 안에 "의사결정 품질 개선"을 요구받고, 그게 안 나오니 좌초합니다.

AI 투자 실패는 6주 안에 감지되나요?

네, 됩니다. 6주면 1단계 효율 지표가 움직이는지 확인하기에 충분합니다. 세 신호가 동시에 뜨면 조기 경보입니다.

첫째, 사용률이 도입 3주 차부터 꺾입니다. 초반 호기심이 걷힌 뒤에도 붙어 있느냐가 진짜입니다. 둘째, 담당자가 결과물을 매번 처음부터 다시 손봅니다. 시간을 아끼는 게 아니라 검수 부담만 옮긴 상태입니다. 셋째, "좋긴 한데 뭐가 좋아졌는지는 말 못 하겠다"는 반응이 나옵니다. 측정 설계가 처음부터 없었다는 뜻이라 가장 위험합니다.

경영진 보고서엔 어떤 숫자를 넣고 빼야 하나요?

넣을 건 원래 쓰던 운영 지표의 변화량, 뺄 건 AI가 만든 새 허영 지표입니다.

  • 넣을 것: 도입 전후 비교가 되는 기존 KPI의 변화(처리 시간, 건당 비용, 리드타임)와 그 변화를 금액으로 환산한 값. 측정 기간과 표본을 함께 적어 재현 가능하게 하세요.
  • 뺄 것: "생성된 문서 수", "프롬프트 입력 횟수" 같은 활동량 지표. 많이 썼다는 것과 가치를 냈다는 것은 다릅니다. McKinsey도 AI 도입률과 실제 손익 기여 사이의 간극을 반복해 지적해 왔습니다.4

한 장으로 압축하면 세 문장입니다. 투입 대비 아낀 돈, 그 돈을 어디에 다시 썼는지, 그래서 무엇을 새로 하게 됐는지. 이 세 문장이 곧 3단계 프레임워크의 요약입니다.

자주 묻는 질문 (FAQ)

Q. AI ROI 측정은 도입 몇 개월 후에 시작하나요? A. 측정은 도입 첫날부터 시작합니다. 도입 전 기준선(baseline)을 잡아두지 않으면 나중에 비교 대상이 사라집니다. 다만 성과를 판단하는 시점은 6주·3개월·6개월로 나눕니다.

Q. 생산성처럼 무형의 효과는 어떻게 정량화하나요? A. 직접 재지 말고 프록시 지표로 근사합니다. 의사결정 품질이면 검토 대안 수·리드타임·반려율처럼 이미 로그가 남는 대리 지표를 여러 개 묶어 추세를 봅니다.

Q. AI 도입 성패의 차이가 측정 방식에 있나요? A. 상당 부분 그렇습니다. NANDA와 BCG 자료 모두 성패 요인으로 모델 성능보다 업무 통합과 가치 측정 체계를 지목합니다. 잘 재는 조직이 어디에 더 투자할지도 정확히 압니다.

Q. ROI 보고서 템플릿이 있나요? A. 위의 3단계 표가 그대로 템플릿입니다. 단계별로 시점·지표·금액 환산·표본을 채우면 경영진 보고용 한 장이 완성됩니다.

측정 체계 없이 도입부터 하면, 효과가 있어도 증명하지 못해 예산이 끊깁니다. 다음 파일럿을 시작하기 전에 기준선부터 잡으세요.

출처

Footnotes

  1. MIT Project NANDA, 『The GenAI Divide: State of AI in Business 2025』 (2025) — 기업 생성형 AI 파일럿의 약 95%가 손익에 측정 가능한 영향을 남기지 못했다는 조사. https://nanda.media.mit.edu

  2. Gartner, 「Predicts at Least 30% of Generative AI Projects Will Be Abandoned After Proof of Concept by End of 2025」 (2024) — 폐기 주요 원인으로 불명확한 비즈니스 가치, 데이터 품질, 비용 상승을 지목. https://www.gartner.com/en/newsroom

  3. Boston Consulting Group, 『AI Adoption in 2024: 74% of Companies Struggle to Achieve and Scale Value』 (2024) — 26%만이 PoC를 넘어 실질 가치를 창출. https://www.bcg.com

  4. McKinsey & Company, 『The State of AI』 (McKinsey Global Survey on AI, 2024) — AI 도입률 상승과 조직 차원의 손익 기여 사이의 간극. https://www.mckinsey.com