"데모는 됐는데, 운영이 안 됩니다"
DX 다음은 AX(AI 전환)라며, 지난 1년 많은 기업이 AI PoC를 돌렸습니다. 사내 문서로 챗봇을 만들고, 회의록을 요약하고, 리포트 초안을 뽑아 봤죠. 데모는 대체로 성공했습니다. 그런데 경영진에게 "운영 중인 AI 사례"를 보여줄 때가 되면, 대부분 같은 자리에서 멈춰 있습니다.
원인을 모델에서 찾는 경우가 많습니다. "더 좋은 모델을 쓰면", "프롬프트를 더 다듬으면" — 하지만 데모까지 성공했다는 건 모델은 이미 충분했다는 뜻입니다. 진짜 병목은 다른 곳에 있습니다. 데모는 데이터를 한 번 넣으면 되지만, 운영은 데이터가 계속 흘러들어와야 합니다. PoC가 무덤이 되는 이유는 이 '계속'을 설계하지 않았기 때문입니다.
데모와 운영은 다른 물건입니다
PoC를 할 때는 보통 데이터를 한 번 준비합니다. 문서 몇백 개를 모아 벡터DB에 넣고, 잘 답하는 걸 확인하면 데모는 끝입니다. 문제는 그다음입니다.
넣어 둔 문서는 시간이 지나면 낡습니다. 3개월 전 가격표, 지난 분기 경쟁 상황으로 답하는 AI는 신뢰를 잃습니다.
사내 문서만으로는 답할 수 있는 범위가 규정·복지·매뉴얼 수준에 그칩니다. "경쟁사가 이번에 얼마에 냈지?"에는 답하지 못합니다.
데이터를 누가, 얼마나 자주 갱신할지가 정해져 있지 않습니다.
데모는 '한 시점의 스냅샷'이고, 운영은 '계속 갱신되는 흐름'입니다. 이 둘 사이의 간극이 PoC와 운영 전환율의 격차로 나타납니다.
운영 전환을 막는 세 가지 데이터 문제
1. 공급이 끊긴다
운영 서비스는 데이터가 정기적으로 들어와야 살아 있습니다. 그런데 PoC 단계에서 수동으로 모은 데이터는 반복 공급 구조가 없습니다. 담당자가 매번 손으로 갱신하다가 지치면, 서비스는 조용히 낡기 시작합니다.
2. 넣을 데이터가 사내에만 있다
사업에 쓸모 있는 AI가 되려면 시장·경쟁사·고객 반응 같은 외부 데이터가 필요합니다. 그런데 대부분의 PoC는 사내 문서로만 시작해서, 정작 매출과 연결되는 질문에는 답할 재료가 없습니다. "우리 AI가 뭘 해주냐"는 임원 질문에 막히는 지점이 여기입니다.
3. 갱신 책임이 없다
데이터가 낡았을 때 누가 알아채고 누가 새로 넣는지가 정해져 있지 않습니다. 모델과 인프라에는 담당이 있는데, "데이터를 계속 신선하게 유지하는 일"에는 담당이 없는 경우가 많습니다.
세 가지 모두 모델의 문제가 아니라 데이터 공급망의 문제입니다. 공급망이 없으면 아무리 좋은 모델도 며칠 신선한 데모로 끝납니다.
운영 전환의 조건: 데이터를 '흐름'으로 만들기
PoC를 운영으로 넘기려면, 일회성 적재를 정기 공급 파이프라인으로 바꿔야 합니다. 체크할 것은 네 가지입니다.
항목질문공급 주기데이터가 얼마나 자주 갱신되는가 (일/주 단위)정제원본을 AI가 바로 쓸 형태로 가공하는 단계가 있는가감지공급이 끊기거나 데이터가 낡았을 때 알아채는가책임이 흐름을 유지하는 담당이 정해져 있는가
핵심은 '한 번 넣기'가 아니라 '계속 넣기'입니다. 그리고 이 계속 넣는 일은 모델 팀의 일이 아니라, 수집·정제·전달을 담당하는 별도 레이어의 일입니다.
직접 만들 것인가, 공급을 위탁할 것인가
외부 데이터 공급망을 직접 구축하려면 크롤러 개발, 차단 대응 인프라, 사이트 변경 시 유지보수, 수집 감시를 상시 운영해야 합니다. 전담 개발 인력이 없는 AX 추진팀(AI 전환팀)에는 부담이 큰 일이고, 부수적인 목적으로 개발자를 계속 붙들어 두기도 어렵습니다.
그래서 데이터 공급을 외부에 위탁하는 방식이 대안이 됩니다. 수집·정제·전달을 파이프라인으로 위탁하면, AX팀은 모델과 유즈케이스에 집중하고 데이터는 '계속 들어오는 것'으로 다룰 수 있습니다. 해시스크래퍼는 수집부터 AI 분석(감성·분류·번역), API·DB 전달까지 정기 파이프라인으로 제공하고, 크롤러 운영·유지보수·감시는 저희가 담당합니다. AI 에이전트에서 직접 호출할 수 있는 연결 방식(MCP)도 지원해, 에이전트에 외부 데이터의 눈을 달아 줄 수 있습니다.
자주 묻는 질문
Q. 모델을 더 좋은 걸로 바꾸면 운영 전환이 되지 않을까요? 데모가 성공했다면 모델은 이미 충분한 경우가 많습니다. 운영에서 갈리는 건 데이터가 계속 공급·갱신되는 구조인지입니다. 모델 교체로는 이 문제가 풀리지 않습니다.
Q. 외부 데이터 공급망을 갖추는 데 얼마나 걸리나요? 수집 대상과 항목이 정해져 있으면 정기 공급까지 오래 걸리지 않습니다. 요건 정의부터 시작하면 그만큼 앞 단계가 길어지고요. 대상과 목적을 알려주시면 일정을 안내드립니다.
Q. 사내 데이터와 외부 데이터를 같이 쓸 수 있나요? 네. 외부 수집 데이터를 정제해 API·DB로 전달하면, 사내 파이프라인·RAG에 사내 문서와 함께 태울 수 있습니다.
함께 보면 좋은 글
지금 바로 시작하기
PoC까지 오셨다면 절반은 온 겁니다. 운영으로 넘기는 데 필요한 데이터 공급망을 어떻게 설계할지, 목적과 대상을 알려주시면 함께 그려 드립니다.




