AI 전환이 10%에서 멈추는 이유는 모델이나 도구가 부족해서가 아니라, AI에 공급되는 맥락이 조직 지식의 일부에 그치기 때문입니다. 비즈니스 맥락의 대부분은 문서가 아니라 대화에서 발생하고 즉시 사라집니다. 맥락의 원천과 의미 구조를 함께 재설계하지 않은 채 도구만 얹으면, 1920년대 이전의 전기 공장처럼 생산성 지표는 움직이지 않습니다.
이 글은 2026년 4월에 발행했으며, 2026년 8월에 내용을 갱신했습니다.
"컴퓨터 시대는 어디서나 볼 수 있다. 생산성 통계를 제외하면." (Robert Solow, New York Times Book Review, 1987)
1987년, 노벨 경제학상 수상자 Robert Solow는 한 문장으로 시대의 모순을 포착했습니다. 컴퓨터는 이미 모든 곳에 있었지만, 생산성 지표 어디에서도 그 흔적을 찾을 수 없다는 관찰이었습니다. 이 현상은 이후 "Solow의 생산성 역설(Productivity Paradox)"이라는 이름으로 경제학의 고전적 퍼즐이 되었습니다.
2026년인 지금, 역사는 정확히 같은 구조로 반복되고 있습니다. AI는 어디에나 있습니다. 생산성 데이터를 제외하면.
NBER(National Bureau of Economic Research)이 올해 발표한 연구에 따르면, 미국·영국·독일·호주의 6,000명의 CEO와 CFO 중 80% 이상이 AI가 고용이나 생산성에 아무런 영향을 미치지 못했다고 응답했습니다. Deloitte의 2026 "State of AI in the Enterprise" 보고서는 3,235명의 임원을 대상으로 조사한 결과, 66%가 효율성 개선을 보고했지만 실제 매출 성장을 달성한 기업은 20%에 불과하다는 사실을 밝혔습니다. PwC의 2026 글로벌 CEO 서베이에서는 더 냉정한 수치가 나왔습니다. 95개국 4,454명의 CEO 중 56%가 AI 투자에서 "아무것도 얻지 못했다"고 답했습니다.
기술은 진보했으나, 아무도 그 진보가 어디로 갔는지를 설명하지 못하고 있습니다. 이 글은 그 질문에 대한 답을 찾아가보려 합니다. 대부분의 AI 전환이 10%에서 멈추는 구조적 이유, 그리고 그것을 돌파하기 위해 필요한 아키텍처를 이야기합니다.
전기 모터의 교훈
Stanford의 경제사학자 Paul David는 1990년에 기념비적인 논문 "The Dynamo and the Computer"를 발표했습니다. 그의 질문은 단순했습니다. 전기라는 범용 기술이 발명된 후 생산성 향상으로 이어지기까지 왜 40년이 걸렸는가?
답은 기술 자체가 아니라 조직의 재설계에 있었습니다.
19세기 말의 공장은 증기 엔진을 중심으로 설계되어 있었습니다. 거대한 단일 동력원이 공장 전체의 기계를 구동했고, 컨베이어 벨트 시스템을 통해 회전력이 전달되었습니다. 공장의 물리적 배치는 "동력 전달의 논리"를 따랐습니다. 어떤 기계가 증기 엔진에 가까운가가 레이아웃을 결정했지, 생산 흐름의 논리가 결정한 것이 아니었습니다.
전기가 처음 도입되었을 때, 공장주들은 증기 엔진을 그대로 뜯어내고 그 자리에 전기 모터를 얹었습니다. 기술은 교체되었지만 공장의 구조는 동일했습니다. 결과적으로 30년 동안 전기화된 공장의 생산성 향상은 미미했습니다.
변화는 1920년대에 찾아왔습니다. 새로운 세대의 관리자들이 "unit drive" 방식을 도입하면서였습니다. 거대한 중앙 모터 하나 대신, 개별 기계마다 소형 전기 모터를 장착했습니다. 이 전환은 단순한 기술적 변화가 아니었습니다. 더 이상 동력 전달의 논리가 아니라 생산 흐름의 논리에 따라 기계를 배치할 수 있게 되었습니다. 다층 건물은 단층 조립 라인으로 대체되었고, 노동자의 채용·교육·급여 체계까지 모든 것이 함께 바뀌어야 했습니다.
모터를 교체하는 것은 기술 도입입니다. 공장을 재설계하는 것은 제도적 혁신(institutional innovation)입니다. 전자는 몇 주 만에 가능하지만, 후자는 수십 년이 걸립니다. 그리고 생산성은 언제나 후자에서만 발생합니다.
2026년, 우리는 정확히 같은 실수를 반복하고 있습니다. ChatGPT를 도입했지만 조직의 작동 방식은 그대로입니다. Copilot 라이선스를 구매했지만 워크플로우는 바뀌지 않았습니다. McKinsey의 AI 서베이에 따르면, "유의미한 재무적 성과"를 보고한 조직은 AI 도구를 선택하기 전에 엔드투엔드 워크플로우를 재설계한 기업이었습니다. 기술이 아니라 조직 변화가 차이를 만든 것입니다.
AX는 도구 도입만으로 끝나지 않는다
AX(AI Transformation)는 AI 도구를 도입하는 것이 아닙니다. 조직의 지식 흐름 자체를 재설계하는 것입니다.
AX 시장에는 지금 심각한 수요와 공급의 불균형이 존재합니다. 모두가 도입하고 싶어 하지만, "어떻게" 실행해야 하는지에 대한 실제 가이드는 드뭅니다. 이 공백 속에서 많은 기업이 AX를 다음과 같이 오해하고 있습니다.
"ChatGPT를 사내에 도입하면 AX다." 이것은 증기 엔진 자리에 전기 모터를 얹은 것과 같습니다. 개인의 결과물 산출량은 늘었을 수 있지만, 조직의 가치 창출 구조는 건드리지 않았습니다. Hebbia의 창업자 George Sivulka가 정확히 지적했듯이, "AI가 개인을 10배 더 생산적으로 만들었습니다. 그러나 어떤 기업도 10배 더 가치 있어지지 않았습니다."
"데이터를 AI에 연결하면 AX다." 이것도 반쪽짜리 정답입니다. 기업이 디지털화한 데이터(Notion의 문서, Linear의 티켓, Salesforce의 CRM 기록)는 전체 비즈니스 맥락의 극히 일부에 불과합니다. 비즈니스 맥락의 대부분은 실시간으로 진행되는 구두 대화에서 발생하고, 즉시 소실됩니다. 커넥터만으로 AI에 공급하는 데이터는 조직 지식의 일부에 해당합니다. 10%의 데이터로 100%의 AX를 기대하는 것은 구조적으로 불가능합니다.
진짜 AX를 위한 아키텍처
진정한 AX는 5개 레이어의 아키텍처를 요구합니다.
(a) context source: 맥락의 원천
조직의 모든 정보가 시작되는 곳입니다. 전통적으로 이 레이어에는 문서 워크스페이스(Notion, Confluence), 파일 시스템(Google Drive, GitHub), 프로젝트 관리(Jira, Linear), CRM(Salesforce, HubSpot), ERP(SAP, Oracle) 등이 속해 있었습니다.
AI 시대에 이 레이어의 역할은 더욱 파괴적입니다. 디지털화는 곧 AI가 접근 가능한 "AI-Ready Data"화를 의미하기 때문입니다. 그러나 이 디지털 텍스트와 구조화된 데이터 위주의 데이터셋에는 근본적인 한계가 있습니다. 시간에 따른 감가(deprecation)가 잘 관리되지 않아 신뢰도 문제가 발생하고, 비즈니스 맥락이 디지털화되는 데 시간차가 존재하며, 무엇보다 대부분의 비즈니스 맥락은 애초에 디지털화되지 않습니다.
여기서 Conversation Intelligence가 등장합니다. 비즈니스 미팅 음성 데이터를 LLM이 활용 가능한 컨텍스트로 변환하는 최앞단의 비즈니스 인터페이스입니다. 이 기술이 실무에 쓸 만한 품질에 도달한 것은 비교적 최근이며, 한국어와 일본어 등 아시아 언어 기준으로는 더 늦었습니다. 그래서 다른 Context Source 컴포넌트에 비해 대규모 선도 주자가 적고, 스타트업 위주의 시장 선점이 일어나고 있습니다. 이 레이어의 도구 지형은 회의록 AI 15종 비교에서 정리했습니다.
(b) ontology: 의미의 구조
데이터의 의미와 관계를 정의하는 레이어입니다. "고객"이 우리 조직에서 무엇을 의미하는지, "계약"과 "회의"가 어떤 관계에 있는지를 구조화합니다.
이 레이어는 조직마다 정의가 달라서, 범용 제품을 사서 채울 수 있는 부분이 가장 적습니다. 그만큼 설계 비용이 들지만, 같은 데이터를 넣어도 결과 품질이 갈리는 지점이기도 합니다.
(c) ai model: 지능의 엔진
범용 AI 모델의 추론 성능은 최근 몇 년 사이 빠르게 올라왔습니다. 적어도 대부분의 지식 노동 과업에서, 모델 자체가 병목인 국면은 지나갔다고 볼 수 있습니다.
핵심은 모델 자체가 아닙니다. 모델에 공급되는 맥락의 품질이 결과를 결정합니다. 같은 모델에 10%의 맥락을 공급하는 것과 100%의 맥락을 공급하는 것은 완전히 다른 결과를 만들어냅니다.
(d) agentic workflow: 실행의 흐름
AI가 실제로 일을 수행하는 워크플로우입니다. 새로운 에이전트 프레임워크와 기존 워크플로우 자동화 서비스가 함께 경쟁하고 있으며, 이 구간의 지형은 가장 빠르게 바뀌고 있습니다. 특정 도구에 조직 구조를 고정하기보다, 교체 가능한 형태로 붙여두는 편이 안전합니다.
(e) user interface: 사용자 접점
Slack 등 메신저 워크스페이스와 전문 사용자를 위한 CLI 터미널이 가장 강력한 선두주자입니다.
현재 대부분의 기업은 (c)부터 (e) 레이어에 집중하면서, (a)와 (b) 레이어의 구조적 결함을 방치하고 있습니다. 이것이 AI 전환이 10%에서 멈추는 근본 원인입니다.
대부분의 기업이 멈추는 지점
여기서 문제의 패턴이 보입니다.
대부분의 기업이 (c), (d), (e) 레이어에 시간과 돈을 쏟고 있습니다. 어떤 모델을 쓸지, 어떤 워크플로우 도구를 도입할지, 어떤 인터페이스가 좋은지. PwC의 2026 글로벌 CEO 설문 조사는 이것을 숫자로 확인해줍니다. 95개국 4,454명의 CEO 중, AI에서 비용 절감과 매출 성장을 동시에 달성한 기업은 12%에 불과했습니다. 그 12%는 도구만 도입한 것이 아니라 AI를 제품, 수요 창출, 전략적 의사결정 등 전사적으로 내재화한 기업이었습니다.
그러나 그 사이에 (a)와 (b) 레이어, 즉 맥락의 원천과 의미의 구조는 여전히 비어 있습니다. AI에게 좋은 두뇌와 좋은 손발을 달아줬지만, 읽을 거리를 주지 않은 셈입니다.
Daron Acemoglu(MIT 경제학자, 2024 노벨 경제학상 수상자)의 진단도 같은 곳을 가리킵니다. "우리는 AI를 자동화에 너무 많이 쓰고, 노동자에게 전문성과 정보를 제공하는 데는 충분히 쓰지 않고 있다." 기술 자체가 아니라 기술을 조직에 내재화하는 방식이 문제라는 것입니다.
Paul David의 공장 이야기가 남기는 교훈은 단순합니다. 모터를 교체하는 것은 몇 주면 됩니다. 공장을 재설계하는 데는 시간이 걸리지만, 생산성은 언제나 후자에서만 나옵니다.
다음 글에서는 5-Layer 중 가장 넓은 공백이 있는 (a) Context Source 레이어를 다룹니다. 디지털화된 데이터만으로는 왜 부족한지, 그리고 그 공백을 채우는 기술이 무엇인지를 보다 심도 깊게 다루어보려 합니다.
FAQ
Q: AX란 무엇인가요?
AX(AI Transformation)는 AI 도구를 단순히 도입하는 것이 아니라, 조직의 지식 흐름과 의사결정 구조를 AI 중심으로 재설계하는 전환 과정입니다. Paul David의 전기 모터 역사가 보여주듯이, 기술 교체만으로는 생산성이 오르지 않으며 조직 구조의 재설계가 반드시 수반되어야 합니다.
Q: AX와 DX(디지털 전환)는 무엇이 다른가요?
DX는 아날로그 업무를 디지털 데이터와 시스템으로 옮기는 과정입니다. AX는 그렇게 쌓인 데이터를 AI가 실제로 읽고 판단할 수 있는 맥락으로 만들고, 그 위에서 업무 흐름을 다시 짜는 과정입니다. DX가 끝난 조직에서도 AX가 10%에서 멈추는 이유는, 디지털화된 데이터가 곧 AI가 쓸 수 있는 맥락은 아니기 때문입니다.
Q: 5-Layer AX 아키텍처란 무엇인가요?
Context Source(맥락의 원천), Ontology(의미의 구조), AI Model(지능의 엔진), Agentic Workflow(실행의 흐름), User Interface(사용자 접점)의 5개 레이어로 구성된 AX 설계 프레임워크입니다. 대부분의 기업이 후반 3개 레이어에 집중하면서 전반 2개 레이어를 방치하고 있는 것이 구조적 문제입니다.
Q: 왜 대부분의 AI 전환이 성과로 이어지지 않나요?
NBER의 2026년 연구에서 미국·영국·독일·호주의 CEO와 CFO 6,000명 중 80% 이상은 AI가 고용이나 생산성에 아무런 영향을 미치지 못했다고 응답했습니다. 주된 원인은 AI에 공급하는 데이터가 전체 비즈니스 맥락의 극히 일부이기 때문입니다. 대부분의 기업이 AI 모델과 인터페이스에 투자하면서, 맥락의 원천(Context Source)과 의미의 구조(Ontology)는 비워둔 채로 놔두고 있습니다.
Q: 대화 맥락을 AI가 쓸 수 있게 만들려면 무엇부터 필요한가요?
먼저 회의와 통화 같은 구두 대화를 자동으로 기록하고 검색 가능한 형태로 남기는 도구가 필요합니다. 선택 기준은 세 가지입니다. 한국어 정확도, 별도 참가자 봇 없이 기록이 되는지, 그리고 그 기록을 MCP나 API로 다른 AI 도구에 넘길 수 있는지입니다. 세 번째 조건까지 갖춰야 기록이 (a) 레이어에서 끝나지 않고 (c)와 (d) 레이어로 흘러갑니다. 티로는 한국어 정확도 일반 98%(자사 공개 기준), 봇 없는 시스템 사운드 캡처, MCP와 API 제공을 갖추고 있어 이 조건에 맞는 선택지 중 하나입니다.
더 읽어볼 글
시작하기
회의 대화를 조직의 맥락으로 남기는 (a) 레이어부터 시작해보시려면 티로 홈페이지에서 3주 300분 무료 체험으로 직접 확인하실 수 있습니다.
