전체 AI 생태계에서 추론 인프라가 가져가는 몫: 82%.

모델 레이어가 가져가는 몫: 11%.

이 수치가 나왔을 때 많은 사람들이 “당연한 거 아닌가?” 하고 넘겼습니다. 하지만 저는 이 숫자가 AI 사업 구조 전체를 설명한다고 봅니다.

자본은 모델로 흐르고, 수익은 인프라에 쌓인다

올해 Anthropic은 조 단위 투자를 받았고, OpenAI는 IPO 준비로 시장을 들끓게 합니다. 겉으로 보면 AI의 핵심은 모델입니다. 더 똑똑한 모델, 더 긴 컨텍스트, 더 낮은 환각률 — 벤치마크 전쟁은 매달 이어집니다.

그런데 실제로 돈을 버는 구조는 다릅니다.

AWS Bedrock의 추론 인프라, Google Cloud의 TPU 서빙, NVIDIA의 칩 사업 — 모델을 돌리는 컴퓨트 레이어가 82%를 가져갑니다. 모델 자체를 파는 것보다 모델이 돌아가는 환경을 파는 쪽의 마진이 훨씬 두텁습니다.

한국 시장에서도 같은 신호가 보입니다. 리벨리온이 스퀴즈비츠를 인수해 풀스택 AI 인프라 방향으로 갔고, SambaNova는 프리필 처리와 디코드 처리를 각각 다른 하드웨어(B200, SN40)로 분리해 처리 속도를 2배 끌어올렸습니다. 인프라 설계가 모델 성능보다 먼저 경쟁축이 된 것입니다.

모델 11%가 의미하는 것

그렇다면 모델 레이어는 중요하지 않은 걸까요. 그 반대입니다.

11%는 모델이 작다는 뜻이 아닙니다. 모델이 빠르게 commodity가 되고 있다는 신호입니다.

GPT-5.5, Claude Fable, Gemini 3.5 Flash가 몇 달 간격으로 서로를 추월합니다. DeepSeek 같은 오픈웨이트 모델은 기술 격차를 6개월 단위로 좁히고 있습니다. 모델이 좋아지는 속도보다 모델이 교체 가능해지는 속도가 더 빠릅니다.

이것이 PM에게 주는 신호는 명확합니다. “어떤 모델이 더 똑똑한가”보다 “어떤 모델을, 어떤 작업에, 어떤 컨텍스트 크기와 캐시 전략으로 조합하는가” — 라우팅 설계가 모델 선택보다 더 중요한 판단 축이 됩니다.

라인야후는 Codex 도입으로 코드 작성량을 20% 늘렸다고 밝혔습니다. 중요한 것은 어느 모델을 썼느냐가 아닙니다. 어떤 워크플로우에, 어떤 검증 단계를, 어떤 승인 게이트와 함께 설계했느냐입니다. 그것이 20%를 만들었습니다.

상승하는 워크플로우 레이어

세 번째 레이어 — 앱과 워크플로우 — 가 지금 가장 빠르게 움직입니다. 현재 수치는 한 자릿수지만, 방향은 위를 향합니다.

이유는 하나입니다. 모델이 “충분히 좋아”졌기 때문입니다.

모델 성능이 일정 임계를 넘어서면 사용자의 관심이 이동합니다. “이 모델이 더 똑똑한가”에서 “이 도구가 내 업무에 맞는가”로. 그 순간부터 워크플로우 레이어의 차별화가 시작됩니다.

구체적인 사례들이 이것을 보여줍니다.

젠스파크는 OpenAI, Anthropic, Microsoft 워크스페이스 생태계를 통합하면서 한국과 일본 시장을 동시에 공략하고 있습니다. 특정 모델이 경쟁력이 아니라, 다양한 모델과 업무 툴을 하나의 워크플로우로 엮어내는 설계가 경쟁력입니다.

원티드랩의 엔노이아 AX는 AI 에이전트 기반 서비스가 매출의 50% 이상을 차지하는 드라이버가 됐습니다. 성과를 만든 것은 GPT 버전 업그레이드가 아니라 채용 업무의 특정 단계를 에이전트가 끝까지 처리하는 구조 설계였습니다.

에브리봇은 가정용 로봇에서 AI 에이전트를 현장에 적용하고 있습니다. 이들이 차별화하는 건 모델 성능이 아니라 현장 데이터를 도메인 업무 표준 안에서 처리하는 능력입니다.

공통점이 있습니다. 이 회사들이 경쟁하는 건 더 좋은 모델이 아닙니다. 특정 업무를 끝까지 처리하는 경험입니다.

PM이 집중해야 할 세 가지

이 가치사슬 구조를 이해하면 PM의 우선순위가 바뀝니다.

1. 모델 벤치마크보다 워크플로우 완성도

GPT-5.5가 어떤 벤치마크에서 몇 퍼센트를 기록했다는 뉴스는 덜 중요합니다. 그보다 “우리 제품의 어느 단계에서 에이전트가 무엇을 끝내는가”를 설계하는 것이 더 중요합니다.

에이전트 도입률이 82%인데 프로덕션 스케일은 30%대에 머문다는 수치가 반복됩니다. 그 격차의 원인은 모델 성능이 아닙니다. 워크플로우 완성도의 문제입니다. 에이전트가 어디서 시작하고, 어디서 멈추고, 누가 검토하고, 무엇이 성공인지 — 이 설계가 빠져 있을 때 격차가 생깁니다.

2. 인프라 비용을 처음부터 설계 조건으로

KAIST 연구에 따르면 에이전트는 챗봇보다 최대 136배 전력을 사용합니다. 라우팅 설계가 곧 원가 게임입니다. 복잡한 추론이 필요한 작업과 단순한 검색성 작업을 같은 모델로 돌리면 비용이 비선형으로 급증합니다.

PM이 “이 기능을 추가하면 어떤 인프라 레이어에 부하가 걸리는가”를 제품 설계 초기 단계에서 고려해야 합니다. 인프라 비용은 나중의 엔지니어링 문제가 아니라, 처음의 제품 설계 조건입니다.

3. 과금 단위를 워크플로우 단위로 재정의

모델 API 호출 횟수가 아니라 “업무 하나가 끝났는가”로 가치를 측정해야 합니다.

Salesforce Agentforce와 ServiceNow는 과금 단위를 좌석(seat)에서 해결률(resolution rate)과 자동화된 업무량으로 전환하고 있습니다. 이건 단순한 가격 정책 변화가 아닙니다. 가치를 측정하는 단위 자체가 이동하는 것입니다.

에이전트가 처리하는 업무 단위로 가치를 정의하지 못하면, 모델이 아무리 좋아져도 고객은 ROI를 계산하지 못합니다. ROI를 계산하지 못하는 도구는 예산을 받지 못합니다.

AI가 벌어준 돈의 82%는 인프라가 가져갑니다. 모델은 11%입니다. 그리고 앱·워크플로우 레이어는 지금 빠르게 올라오고 있습니다.

이 구조가 말하는 것은 하나입니다. 다음 승부는 더 똑똑한 모델을 고르는 것이 아닙니다. 모델이 특정 업무를 끝까지 완료하는 워크플로우를 누가 먼저 설계하느냐에서 결정됩니다.

당신의 제품에서 에이전트가 “완료”라고 말하는 순간은 언제인가요?