"PoC는 잘 됐는데, 그 다음이 막막합니다"
지난해 어느 제조사 임원께서 미팅 자리에서 하신 말씀이 한동안 머릿속에 남았습니다. PoC가 끝나고 결과 보고서까지 잘 받았는데, 정작 그 결과를 어떻게 본 운용으로 옮길지가 보이지 않는다는 이야기였습니다. 한두 번 들은 고민이 아닙니다. 외신 보도에서는 기업 AI 파일럿의 88%가 실용화에 실패한다는 수치가 자주 인용되고, 업계 사례에서도 PoC 33개 중 본 운용에 도달하는 건 4개에 그친다는 보고가 있습니다.
지난 회에서 다룬 AI 에이전트와 워크플로우 자동화의 차이를 정리한 의사결정자분들께서 가장 자주 던지시는 다음 질문이 "그래서 어떤 순서로 도입하느냐"입니다. 이 글은 그 순서를 4단계 로드맵으로 풀어봅니다.
PoC → 파일럿 → 본 운용 → 확장, 네 단계의 본질적 차이
흔히 한 덩어리로 "AI 도입"이라 부르지만, 실제 현장에서는 성격이 전혀 다른 네 개의 단계가 직렬로 이어집니다. 엄밀히 말하면 PoC와 파일럿 사이에 프로토타입·MVP가 더 들어가지만, 중소기업 규모에서는 두 단계로 압축되는 경우가 많습니다.
PoC는 기술이 우리 회사 데이터·환경에서 성립하는지를 검증하는 단계입니다. 화면이나 사용성보다 "이 기술이 실제로 동작하는가"가 핵심입니다. 파일럿은 이미 돌아가는 시스템을 한 부서나 일부 사용자에 한정해 적용하는 단계로, 운영 안정성과 프로세스 적합성을 본격적으로 봅니다. 본 운용은 전사 또는 핵심 업무에 정식 배포되어 SLA 안에서 돌아가는 단계입니다. 확장은 같은 패턴을 다른 업무·부서·자회사로 넓혀가는 단계입니다.
단계별 산출물·기간·체크포인트
PoC: 4주, 산출물은 "판단 근거"
PoC는 일반적으로 4주 내외로 잡습니다. 데이터 수집과 모델 테스트 한두 사이클이 들어갈 수 있는 최소 단위입니다. 가장 자주 보이는 오해가 PoC의 산출물을 "동작하는 화면"으로 두는 것입니다. PoC의 진짜 산출물은 코드가 아니라 판단 근거입니다. 무엇이 확인됐고, 어떤 제약이 발견됐고, 다음 단계로 가기 전에 해소해야 할 리스크가 무엇인지를 한 장으로 정리한 문서가 진짜 결과물입니다.
중간 체크포인트는 전체 기간의 1/3, 2/3 지점에 둡니다. 1/3 시점에 "데이터를 손에 쥐었는가"를, 2/3 시점에 "초기 결과가 의미 있는 방향으로 가는가"를 점검합니다. 평가 기준은 "거의 완성"이 아니라 "실제 작동" 한 가지입니다.
파일럿: 6~12주, 운영 안정성과 사람
파일럿은 보통 6주에서 12주가 걸립니다. 사용자 한 부서, 또는 특정 업무 흐름 한 줄기에 한정해 돌립니다. 이 단계에서 비로소 "기술 외 변수"가 본격적으로 드러납니다. 예외 케이스가 며칠에 한 번씩 튀어나오고, 처음 보는 입력 형식이 들어오고, 사용자가 시스템을 우회해 일하는 방법을 찾아내는 모습을 관찰하게 됩니다. 파일럿의 체크포인트는 기술 KPI가 아니라 "현장이 이걸 일상적으로 쓰고 있는가"입니다.
본 운용: SLA, 운영 인력, 책임 소재
본 운용은 시스템이 핵심 업무를 담당하기 시작하는 시점입니다. 장애가 났을 때 누가 몇 분 안에 대응하는지, 모델 성능이 떨어지면 누가 재학습을 트리거하는지, 비용이 예상보다 늘면 누가 결재하는지 같은 운영 규약이 필요합니다. 의사결정자가 가장 많이 놓치는 부분이기도 합니다.
확장: 두 번째부터가 진짜 시작
한 업무에서 본 운용에 도달했다면, 같은 패턴을 다른 업무·부서로 옮길 수 있습니다. 다만 확장은 1단계의 복제가 아닙니다. 새 부서에는 새 데이터와 새 사용자가 있고, 그만큼 작은 PoC를 다시 돌려야 하는 영역이 생깁니다.
단계 전환에서 자주 깨지는 지점
업계 사례에 따르면 74%의 기업이 여전히 PoC 단계에 머물러 있습니다. 멈추는 지점은 거의 일정합니다. PoC에서 파일럿으로 갈 때는 "성공의 정의"가 모호해서 깨지고, 파일럿에서 본 운용으로 갈 때는 데이터 형식·예외 처리·운영 인력이 준비되지 않아 깨집니다. 처음부터 본 운용에 도달하는 그림을 그려두지 않으면, 각 단계의 결과물이 다음 단계의 입력이 되지 못합니다.
한 가지 더. PoC를 "작은 출시"로 보는 순간 그 PoC는 실패할 가능성이 높아집니다. PoC는 빠르게 실패하기 위한 단계입니다. 4주 안에 분명한 "안 된다"가 나왔다면, 그것 역시 충분히 좋은 결과물입니다.
로드맵부터 같이 그리는 일
저희 5years+에서는 한국·일본 중소기업의 AI 도입을 PoC 단계부터 본 운용까지 단계적으로 지원해 왔습니다. 실제 도입 사례를 보시면 네 단계가 어떻게 직렬로 이어졌는지 흐름을 따라가실 수 있습니다. 회사 상황에 맞춘 PoC 진단이 필요하시다면 5years+ 무료 상담으로 연락 주시면 됩니다.
다음 회에서는 이 로드맵을 따랐을 때 실제로 얼마의 비용과 기간이 드는지, 중소기업이 체감할 수 있는 규모로 풀어볼 예정입니다.