"컴퓨터 시대는 어디서나 볼 수 있다. 생산성 통계를 제외하면." - Robert Solow, New York Times Book Review, 1987
1987년, 노벨 경제학상 수상자 Robert Solow는 한 문장으로 시대의 모순을 포착했습니다. 컴퓨터는 이미 모든 곳에 있었지만, 생산성 지표 어디에서도 그 흔적을 찾을 수 없다는 관찰이었습니다. 이 현상은 이후 "Solow의 생산성 역설(Productivity Paradox)"이라는 이름으로 경제학의 고전적 퍼즐이 되었습니다.
2026년인 지금, 역사는 정확히 같은 구조로 반복되고 있습니다. AI는 어디에나 있습니다. 생산성 데이터를 제외하면.
NBER(National Bureau of Economic Research)이 올해 발표한 연구에 따르면, 미국·영국·독일·호주의 6,000명의 CEO와 CFO 중 80% 이상이 AI가 고용이나 생산성에 아무런 영향을 미치지 못했다고 응답했습니다. Deloitte의 2026 "State of AI in the Enterprise" 보고서는 3,235명의 임원을 대상으로 조사한 결과, 66%가 효율성 개선을 보고했지만 실제 매출 성장을 달성한 기업은 20%에 불과하다는 사실을 밝혔습니다. PwC의 2026 글로벌 CEO 서베이에서는 더 냉정한 수치가 나왔습니다. 95개국 4,454명의 CEO 중 56%가 AI 투자에서 "아무것도 얻지 못했다"고 답했습니다.
기술은 진보했으나, 아무도 그 진보가 어디로 갔는지를 설명하지 못하고 있습니다. 이 글은 그 질문에 대한 답을 찾아가보려 합니다. 대부분의 AI 전환이 10%에서 멈추는 구조적 이유, 그리고 그것을 돌파하기 위해 필요한 아키텍처를 이야기합니다.
전기 모터의 교훈
Stanford의 경제사학자 Paul David는 1990년에 기념비적인 논문 "The Dynamo and the Computer"를 발표했습니다. 그의 질문은 단순했습니다. 전기라는 범용 기술이 발명된 후 생산성 향상으로 이어지기까지 왜 40년이 걸렸는가?
답은 기술 자체가 아니라 조직의 재설계에 있었습니다.
19세기 말의 공장은 증기 엔진을 중심으로 설계되어 있었습니다. 거대한 단일 동력원이 공장 전체의 기계를 구동했고, 컨베이어 벨트 시스템을 통해 회전력이 전달되었습니다. 공장의 물리적 배치는 "동력 전달의 논리"를 따랐습니다. 어떤 기계가 증기 엔진에 가까운가가 레이아웃을 결정했지, 생산 흐름의 논리가 결정한 것이 아니었습니다.
전기가 처음 도입되었을 때, 공장주들은 증기 엔진을 그대로 뜯어내고 그 자리에 전기 모터를 얹었습니다. 기술은 교체되었지만 공장의 구조는 동일했습니다. 결과적으로 30년 동안 전기화된 공장의 생산성 향상은 미미했습니다.
변화는 1920년대에 찾아왔습니다. 새로운 세대의 관리자들이 "unit drive" 방식을 도입하면서였습니다. 거대한 중앙 모터 하나 대신, 개별 기계마다 소형 전기 모터를 장착했습니다. 이 전환은 단순한 기술적 변화가 아니었습니다. 더 이상 동력 전달의 논리가 아니라 생산 흐름의 논리에 따라 기계를 배치할 수 있게 되었습니다. 다층 건물은 단층 조립 라인으로 대체되었고, 노동자의 채용·교육·급여 체계까지 모든 것이 함께 바뀌어야 했습니다.
모터를 교체하는 것은 기술 도입입니다. 공장을 재설계하는 것은 제도적 혁신(institutional innovation)입니다. 전자는 몇 주 만에 가능하지만, 후자는 수십 년이 걸립니다. 그리고 생산성은 언제나 후자에서만 발생합니다.
2026년, 우리는 정확히 같은 실수를 반복하고 있습니다. ChatGPT를 도입했지만 조직의 작동 방식은 그대로입니다. Copilot 라이선스를 구매했지만 워크플로우는 바뀌지 않았습니다. McKinsey의 2025 AI 서베이에 따르면, "유의미한 재무적 성과"를 보고한 조직은 AI 도구를 선택하기 전에 엔드투엔드 워크플로우를 재설계한 기업이었습니다. 기술이 아니라 조직 변화가 차이를 만든 것입니다.
AX는 도구 도입만으로 끝나지 않는다
AX(AI Transformation)는 AI 도구를 도입하는 것이 아닙니다. 조직의 지식 흐름 자체를 재설계하는 것입니다.
AX 시장에는 지금 심각한 수요-공급 불균형이 존재합니다. 모두가 도입하고 싶어 하지만, "어떻게" 실행해야 하는지에 대한 실제 가이드는 드뭅니다. 이 공백 속에서 많은 기업이 AX를 다음과 같이 오해하고 있습니다.
"ChatGPT를 사내에 도입하면 AX다." 이것은 증기 엔진 자리에 전기 모터를 얹은 것과 같습니다. 개인의 결과물 산출량은 늘었을 수 있지만, 조직의 가치 창출 구조는 건드리지 않았습니다. Hebbia의 창업자 George Sivulka가 정확히 지적했듯이, "AI가 개인을 10배 더 생산적으로 만들었습니다. 그러나 어떤 기업도 10배 더 가치 있어지지 않았습니다."
"데이터를 AI에 연결하면 AX다." 이것도 반쪽자리 정답입니다. 기업이 디지털화한 데이터(Notion의 문서, Linear의 티켓, Salesforce의 CRM 기록) 는 전체 비즈니스 맥락의 극히 일부에 불과합니다. 비즈니스 맥락의 90% 이상은 실시간으로 진행되는 구두 대화에서 발생하고, 즉시 소실됩니다. 커넥터만으로 AI에 공급하는 데이터는 조직 지식의 10%에 해당합니다. 10%의 데이터로 100%의 AX를 기대하는 것은 구조적으로 불가능합니다.
진짜 AX를 위한 아키텍처
진정한 AX는 5개 레이어의 아키텍처를 요구합니다.
(a) context source: 맥락의 원천
조직의 모든 정보가 시작되는 곳입니다. 전통적으로 이 레이어에는 문서 워크스페이스(Notion, Confluence), 파일 시스템(Google Drive, GitHub), 프로젝트 관리(Jira, Linear), CRM(Salesforce, HubSpot), ERP(SAP, Oracle) 등이 속해 있었습니다.
AI 시대에 이 레이어의 역할은 더욱 파괴적입니다. 디지털화는 곧 AI가 접근 가능한 "AI-Ready Data"화를 의미하기 때문입니다. 그러나 이 디지털 텍스트와 구조화된 데이터 위주의 데이터셋에는 근본적인 한계가 있습니다. 시간에 따른 감가(deprecation)가 잘 관리되지 않아 신뢰도 문제가 발생하고, 비즈니스 맥락이 디지털화되는 데 시간차가 존재하며, 무엇보다 90% 이상의 비즈니스 맥락은 애초에 디지털화되지 않습니다.
여기서 Conversation Intelligence가 등장합니다. 비즈니스 미팅 음성 데이터를 LLM이 활용 가능한 컨텍스트로 변환하는 최앞단의 비즈니스 인터페이스입니다. 중요한 사실은 이 기술이 실제 적용 가능한 품질에 도달한 것이 불과 1~2년 전이라는 점입니다. 한국어와 일본어 등 아시아 언어 기준으로는 더욱 최근의 일입니다. 그래서 다른 Context Source 컴포넌트에 비해 선도 주자나 대규모 플레이어가 적고, 스타트업 위주의 시장 선점이 일어나고 있습니다.
(b) ontology: 의미의 구조
데이터의 의미와 관계를 정의하는 레이어입니다. "고객"이 우리 조직에서 무엇을 의미하는지, "계약"과 "회의"가 어떤 관계에 있는지를 구조화합니다.
이 레이어에 대해서는 뒤에서 Palantir의 3-Layer 온톨로지 모델을 통해 더 깊이 다루겠습니다.
(c) ai model: 지능의 엔진
범용 AI 모델의 Intelligence 수준은 이미 특이점을 넘어섰습니다. 인간 지적 노동의 완전한 대체를 위한 요구 수준을 돌파했다고 볼 수 있습니다. Claude Opus 4.6 extended thinking이 배포된 2025년 2월 5일을 하나의 역치 돌파 시점으로 볼 수 있습니다.
핵심은 모델 자체가 아닙니다. 모델에 공급되는 맥락의 품질이 결과를 결정합니다. 같은 Claude Opus에 10%의 맥락을 공급하는 것과 100%의 맥락을 공급하는 것은 완전히 다른 결과를 만들어냅니다.
(d) agentic workflow: 실행의 흐름
AI가 실제로 일을 수행하는 워크플로우입니다. OpenClaw 등 새로운 시대에 적합한 프레임워크와 Zapier, n8n 같은 기존 워크플로우 서비스가 각축전을 벌이고 있습니다.
(e) user interface: 사용자 접점
Slack 등 메신저 워크스페이스와 전문 사용자를 위한 CLI 터미널이 가장 강력한 선두주자입니다.
현재 대부분의 기업은 (c)~(e) 레이어에 집중하면서, (a)와 (b) 레이어의 구조적 결함을 방치하고 있습니다. 이것이 AI 전환이 10%에서 멈추는 근본 원인입니다.
Where most companies get stuck
여기서 문제의 패턴이 보입니다.
대부분의 기업이 (c), (d), (e) 레이어에 시간과 돈을 쏟고 있습니다. 어떤 모델을 쓸지, 어떤 워크플로우 도구를 도입할지, 어떤 인터페이스가 좋은지. PwC의 2026 글로벌 CEO 설문 조사는 이것을 숫자로 확인해줍니다. 95개국 4,454명의 CEO 중, AI에서 비용 절감과 매출 성장을 동시에 달성한 기업은 12%에 불과했습니다. 그 12%는 도구만 도입한 것이 아니라 AI를 제품, 수요 창출, 전략적 의사결정 등 전사적으로 내재화한 기업이었습니다.
그러나 그 사이에 (a)와 (b) 레이어, 즉 맥락의 원천과 의미의 구조는 여전히 비어 있습니다. AI에게 좋은 두뇌와 좋은 손발을 달아줬지만, 읽을 거리를 주지 않은 셈입니다.
Daron Acemoglu(MIT 경제학자, 2024 노벨 경제학상 수상자)의 진단도 같은 곳을 가리킵니다. "우리는 AI를 자동화에 너무 많이 쓰고, 노동자에게 전문성과 정보를 제공하는 데는 충분히 쓰지 않고 있다." 기술 자체가 아니라 기술을 조직에 내재화하는 방식이 문제라는 것입니다.
Paul David의 공장 이야기가 남기는 교훈은 단순합니다. 모터를 교체하는 것은 몇 주면 됩니다. 공장을 재설계하는 데는 시간이 걸리지만, 생산성은 언제나 후자에서만 나옵니다.
다음 글에서는 5-Layer 중 가장 넓은 공백이 있는 (a) Context Source 레이어를 다룹니다. 디지털화된 데이터만으로는 왜 부족한지, 그리고 그 공백을 채우는 기술이 무엇인지를 보다 심도 깊게 다루어보려 합니다.
FAQ
Q: AX란 무엇인가요?
AX(AI Transformation)는 AI 도구를 단순히 도입하는 것이 아니라, 조직의 지식 흐름과 의사결정 구조를 AI 중심으로 재설계하는 전환 과정입니다. Paul David의 전기 모터 역사가 보여주듯이, 기술 교체만으로는 생산성이 오르지 않으며 조직 구조의 재설계가 반드시 수반되어야 합니다.
Q: 5-Layer AX 아키텍처란 무엇인가요?
Context Source(맥락의 원천), Ontology(의미의 구조), AI Model(지능의 엔진), Agentic Workflow(실행의 흐름), User Interface(사용자 접점)의 5개 레이어로 구성된 AX 설계 프레임워크입니다. 대부분의 기업이 후반 3개 레이어에 집중하면서 전반 2개 레이어를 방치하고 있는 것이 구조적 문제입니다.
Q: 왜 대부분의 AI 전환이 실패하나요?
NBER의 2026년 연구에 따르면, AI를 도입한 기업 중 생산성에 측정 가능한 변화를 보고한 비율은 10%에 불과합니다. 주된 원인은 AI에 공급하는 데이터가 전체 비즈니스 맥락의 극히 일부이기 때문입니다. 대부분의 기업이 AI 모델과 인터페이스에 투자하면서, 맥락의 원천(Context Source)과 의미의 구조(Ontology)는 비워둔 채로 놔두고 있습니다.
시작하기
