AI를 도입하겠다는 의지는 넘쳐나는데, 실제로 성과를 내는 조직은 왜 이렇게 드물까.
교보문고에서 데이터 파이프라인을 처음 만들던 시절부터, 카카오뱅크·나이스평가정보 같은 금융 기관들과 대안신용평가 API를 구축하던 경험까지 — 수많은 AI 프로젝트를 현장에서 지켜보면서 실패 패턴은 놀랍도록 반복됐다.
기술이 문제인 경우는 거의 없었다. 언제나 조직이었다.
패턴 1: 데이터도 없는데 AI부터
가장 흔하고 가장 치명적인 실수다.
AI를 도입하고 싶다는 의지는 있지만, AI가 학습하고 추론할 데이터 기반이 갖춰지지 않은 상태. 데이터 자체가 없는 게 아니라, 쓸 수 있는 형태가 아닌 경우가 대부분이다. 여러 시스템에 분산되어 있고, 정제되지 않았으며, 누가 무슨 기준으로 만들었는지 아무도 모른다.
이 상태에서 AI 모델을 붙이면 어떻게 되나. GIGO — Garbage In, Garbage Out. 모델이 나쁜 게 아니다. 데이터가 나쁜 것이다.
핵심 질문: "우리에게 지금 필요한 것은 AI 모델인가, 아니면 데이터를 쓸 수 있게 만드는 파이프라인인가?"
패턴 2: 전략 없이 기술 POC만
임원이 AI 데모에 반해서 "우리도 해봐"라고 한다. 팀은 3개월 POC를 만든다.
그런데 POC가 끝나면 아무도 운영하지 않는다. 왜? 비즈니스 목적과 연결되지 않았기 때문이다. "이 AI가 어떤 의사결정을 바꿔야 하는가", "성공하면 무엇이 달라지는가"를 정의하지 않은 채 기술 실험만 한 것이다.
POC는 끝났지만 성과는 없다. 투자한 시간과 비용만 남는다.
핵심 질문: "이 AI 프로젝트가 성공한다면, 우리 조직은 무엇을 다르게 하는가?"
패턴 3: 구축만 하고 운영은 없다
시스템은 만들었다. 그런데 6개월 후 아무도 쓰지 않는다.
쓰는 방법을 모르고, 결과를 신뢰하지 않으며, 기존 방식이 더 편하기 때문이다. 대규모 ERP 도입이 실패하는 패턴과 정확히 같다. 기술은 들어왔지만 사람과 프로세스는 바뀌지 않았다.
이것이 가장 안타까운 유형이다. 좋은 시스템이 창고에 박혀 있는 것을 본 적이 한두 번이 아니다.
핵심 질문: "구축 예산의 얼마를 교육·변화관리에 쓸 계획인가?" (최소 20-30%는 써야 한다)
패턴 4: 데이터 팀과 비즈니스 팀의 단절
데이터 팀은 열심히 모델을 만든다. 비즈니스 팀은 "그게 우리 문제를 해결해주는지 모르겠다"고 한다.
서로 다른 언어를 쓰고, 서로 다른 문제를 해결하고 있기 때문이다. 데이터 팀은 기술적으로 훌륭한 솔루션을 만들었지만 비즈니스 니즈를 깊이 이해하지 못했고, 비즈니스 팀은 데이터 팀에 구체적인 문제를 전달하지 않았다.
핵심 질문: "이 프로젝트의 요구사항을 누가 정의했는가? 데이터 팀만 정의했다면 위험하다."
패턴 5: 성과를 측정하지 않는다
AI를 도입했는데 "좋아진 것 같다"는 느낌만 있다. 숫자로 증명하지 못한다.
그 결과 다음 투자를 설득하지 못하고, 좋은 프로젝트도 실패로 평가받으며, 나쁜 프로젝트도 계속 연명한다. 성과 측정 체계가 없으면 조직 학습이 일어나지 않는다.
핵심 질문: "프로젝트 시작 전에 베이스라인을 측정했는가? 성공의 기준이 정량적으로 정의되어 있는가?"
AI는 기술 문제가 아니라 조직 문제다.
가장 좋은 AI 솔루션도 잘못된 조직에서는 작동하지 않는다. 반대로, 소박한 솔루션도 올바른 문화와 프로세스를 갖춘 조직에서는 놀라운 성과를 낸다.
시작하기 전에 물어봐야 할 질문은 "어떤 AI 기술을 쓸까?"가 아니라 — "우리 조직이 AI를 받아들일 준비가 됐는가?" 다.