지난달, 한 제조 중견기업 대표를 만났다. 그는 차를 한 모금 마시더니 이렇게 물었다. "AI 도입은 알겠는데, 도대체 어디서부터 손대야 하는 겁니까." 같은 질문을 그 분기에만 일곱 번쯤 들었다. 결재자 입장에서 이 질문은 단순하지 않다. 잘못 시작하면 비용만 새고, 늦게 시작하면 시장에서 밀린다. 그래서 묻기 전에, 스스로 정리해두면 좋은 다섯 가지가 있다.
이 글은 「AI 도입 실무 가이드」 시리즈의 첫 회다. 다음 회부터는 영역별 자가 진단, 에이전트와 워크플로우 자동화의 차이, 단계별 로드맵, 비용 규모감, ROI 측정, 실패 회피, 사례 연구로 이어진다. 오늘은 그 모든 의사결정의 출발점이다.
1. 우리 회사에 AI가 정말 '지금' 필요한가
시장 분위기에 떠밀려 시작하는 AI 프로젝트는 거의 멈춘다. 업계에서 자주 인용되는 "AI 프로젝트의 80%가 PoC 단계에서 멈춘다"는 수치가 그 풍경을 그대로 보여준다.
답을 먼저 정해놓고 묻지 않는 것에서 시작한다. "경쟁사가 한다더라"는 출발점이 아니다. 출발점은 단 하나의 문장에서 나와야 한다. "지금 우리 조직에서 사람의 시간을 가장 많이 갉아먹는 단순·반복 업무가 무엇인가." 이 질문에 회의실에서 3분 안에 즉답이 나오면 AI 도입은 의미가 있다. 안 나오면, 도입이 아니라 진단이 먼저다.
2. 어디서부터 시작하느냐 — '돈이 새는 곳'에서 시작한다
MIT의 한 연구가 흥미롭다. 가장 높은 ROI를 낸 영역이 화려한 마케팅·세일즈가 아니라 백오피스 자동화였다는 점이다. 외부 BPO·에이전시 비용 절감, 내부 운영 단순화. 즉, 지금 매달 통장에서 빠져나가는 돈부터 본다는 뜻이다.
저희 회사가 그동안 진행한 안건의 70%도 이 영역에서 출발했다. 거창한 AI가 아니라 이런 안건들이다.
견적서·계약서 작성에 매주 8시간 들어가던 영업 어시스턴트
고객 응대 메일·메신저 1차 분류 자동화
제품 사진 촬영·편집 자동화
재고·발주 데이터에서 이상 패턴 알람
규모 작은 안건이 의외로 ROI는 빨리 회수된다. 그리고 한 번 회수되면, 두 번째 안건의 결재가 쉬워진다. 거의 공식에 가까운 흐름이다.
3. 비용은 얼마나 드는가 — '규모감'으로 이해한다
여기는 솔직히 답하기 까다롭다. 같은 챗봇이라도 데이터 정합성 정리부터 시작하느냐, 이미 정리된 DB가 있느냐에 따라 규모가 한 자리수 차이 난다. 가격을 단정해 적는 글은 거의 영업 자료에 가깝다고 봐야 한다.
대신 '범위'로 잡으면 가깝다.
스몰 PoC: 월 단위 호흡, 한 가지 업무·한 팀·검증 목적. 수백만원~천만원 규모.
파일럿: 분기 단위 호흡, 부서 단위로 운용. 천만원~수천만원 규모.
본 운용: 연 단위 호흡, 전사 확장·운영 체계 구축. 그 이상.
처음부터 본 운용을 노리는 회사보다, 스몰 PoC로 한 번 성공해본 회사가 다음 단계에서 훨씬 적은 비용으로 가는 걸 자주 본다. "큰 그림"부터 그리는 컨설팅에 끌리는 결재자가 많지만, 현실은 작은 한 점에서 시작해 선이 그려지는 식이다. 5회차에서 비용 規模感을 한 번 더 자세히 다룰 예정이다.
4. ROI는 어떻게 측정하는가 — '시간'을 'KPI'로 환산한다
"AI ROI를 어떻게 보세요?" 이 질문에 가장 흔한 답이 정성적이다. "효율이 좋아졌습니다." 결재 자료에서 그 표현은 통하지 않는다.
실무에서 통하는 측정 framework은 의외로 단순하다.
시간: A 업무에 사람이 주 X시간 → 도입 후 Y시간. 인건비 환산.
에러율: 누락·재작업 건수의 변화.
응답 속도: 고객 응대 평균 응답 시간.
확장성: 같은 인력으로 처리 가능한 거래 수·고객 수.
도입 전에 측정하지 않으면 도입 후에 비교할 게 없다. 첫 PoC 시점에 "지금의 베이스라인"을 숫자로 박아두는 회사가 의외로 적다. 30%라고 하면 작아 보이지만, 주 100건이면 30건이 줄어든다는 말이다. 그 환산이 결재자 회의실에서 통하는 언어다.
5. 누가 이 일을 추진해야 하는가 — IT가 아니라 '업무 책임자'다
가장 자주 받는 질문이자, 가장 자주 틀리는 곳이다. AI 프로젝트를 IT부서에 단독으로 던져두면 높은 확률로 PoC에서 멈춘다. 이유는 단순하다. AI가 바꿔야 하는 건 시스템이 아니라 업무 흐름이기 때문이다.
성공한 케이스에는 공통점이 있다. 추진 주체가 그 업무를 매일 하는 사람의 직속 상사이거나, 그 본인이라는 점. 영업 자동화면 영업본부장, 운영 자동화면 운영팀장, 마케팅 자동화면 마케팅 책임자다. IT는 인프라·보안 측면에서 협력자로 들어온다.
"AI 전환 실패는 기술력이 아니라 리더십 문제"라는 한 보고서의 결론도 같은 맥락이다. 솔직히 말하면, 이 한 가지가 1번부터 4번을 다 합한 것보다 더 중요하다. 결재자가 본인의 시간을 매주 30분이라도 쓸 의사가 있어야, 이 프로젝트는 살아남는다.
정리하며
이 다섯 가지를 정리했다면, 도입 결정을 내릴 준비의 절반은 끝났다. 나머지 절반은 다음 회부터 채운다.
2회는 「우리 회사에 어떤 AI가 맞는가 — 5가지 영역 자가 진단 가이드」다. 고객·운영·마케팅·R&D·관리, 다섯 영역 중 어디가 우리 조직의 첫 진입점인지를 가려본다.
5years+는 한국·일본 중소·중견기업을 대상으로 AI 에이전트, 업무 자동화, 맞춤형 AI 도입을 같이 설계해왔다. 진단부터 시작해 작은 PoC로 성과를 먼저 만든 다음 확장하는 방식이 가장 자주 쓰는 접근이다.
회사의 첫 진입점부터 같이 정리해보고 싶다면, 무료 도입 진단 상담을 신청할 수 있다. 회사 상황을 듣고, 시리즈 8회차에서 다룰 사례 연구처럼 우리 회사의 비포·애프터를 함께 그려본다.