전혀 다른 세 회사가 같은 시기에 같은 결론을 냈습니다.

ServiceNow는 자사 AI 플랫폼의 핵심을 ‘Context Engine’으로 명명했습니다. 사이드카 방식의 AI 추가가 아니라, 기업 맥락을 AI가 직접 읽는 네이티브 구조로 전환한다는 선언이었습니다. 같은 시기 Grok 4.20은 조정·팩트체크·논리·창의 4개 특화 에이전트가 서로 검증하는 구조로 환각률을 65% 줄였다고 공개했습니다. 그리고 GeekNews에서 40점을 받은 글의 제목은 이것이었습니다. “하네스 엔지니어링 — 모델보다 중요한 작업 환경 설계의 시대.”

세 신호는 같은 방향을 가리킵니다. 에이전트 경쟁의 핵심이 모델 성능에서 컨텍스트 통합 설계로 이동하고 있습니다.

왜 지금 컨텍스트인가

지난 2년간 에이전트 도입 실패의 패턴은 반복적이었습니다. 모델을 바꿔도, 프롬프트를 정교하게 다듬어도, 실제 업무 환경에 붙이는 순간 성능이 급격히 떨어졌습니다.

이유는 단순합니다. 에이전트가 잘 작동하려면 작업 맥락 — 현재 상태, 이전 결정, 조직의 암묵지 — 을 지속적으로 이해해야 합니다. 모델은 이 맥락을 스스로 구성하지 못합니다. 누군가가 설계해줘야 합니다.

Anthropic의 알렉스 앨버트는 팟캐스트에서 이렇게 정리했습니다. “우리 연구팀은 모델과 하네스를 함께 계획합니다. 분리해서 보는 것 자체가 잘못된 분해입니다.”

MCP context-mode 오픈소스 서버가 컨텍스트 전달량을 98% 줄이면서도 에이전트 성능을 유지한 사례가 수십 건 보고된 것도 같은 원리입니다. 문제는 컨텍스트의 양이 아니라 품질과 구조입니다.

PM이 놓치는 변수

많은 팀이 에이전트 도입 초기에 모델 선택에 집중합니다. 벤치마크 점수를 비교하고, 응답 속도를 측정합니다. 하지만 실제 프로덕션 성능을 결정하는 변수는 따로 있습니다.

첫 번째는 역할 분리입니다. 에이전트가 하나의 태스크만 처리하도록 설계했는가, 아니면 모든 것을 단일 에이전트에 몰아넣었는가. Grok의 4개 에이전트 분리 구조가 환각률을 65% 줄인 핵심 원인이 여기 있습니다. 에이전트의 역할이 좁을수록 컨텍스트 오염이 줄어듭니다.

두 번째는 컨텍스트 파이프라인입니다. 에이전트가 판단을 내리기 전에 어떤 정보를 어떤 순서로 받는가. ServiceNow가 “사이드카에서 네이티브로” 전환한 이유가 여기 있습니다. AI가 기업 맥락을 직접 읽지 않으면, 좋은 모델도 잘못된 컨텍스트 위에서 작동합니다. 쓰레기가 들어가면 쓰레기가 나옵니다.

세 번째는 검증 구조입니다. 에이전트가 낸 결과를 다른 에이전트나 규칙 기반 검증기가 한 번 더 확인하는가. LangChain의 @hwchase17이 “Model-Harness-Task fit”이라고 부르는 것 — 즉, 모델과 하네스를 맞물리게 설계하는 것이 단순히 좋은 모델을 선택하는 것보다 훨씬 결정적입니다.

Context-first 설계의 실제

컨텍스트 우선 설계는 구체적인 세 가지 작업으로 시작됩니다.

컨텍스트 지도 그리기. 에이전트가 특정 판단을 내리기 위해 실제로 필요한 정보가 무엇인지 먼저 목록화합니다. “이 에이전트는 이 시점에 무엇을 알고 있어야 하는가”를 명시하는 것이 첫 번째 설계 단계입니다.

핸드오프 명세화. 에이전트 간 컨텍스트가 어떻게 전달되는지 명시적으로 설계합니다. OpenAI Symphony가 오케스트레이션을 “프레임워크”가 아닌 “스펙” 단계로 끌어올린 이유가 여기 있습니다. 핸드오프가 암묵적이면 컨텍스트는 반드시 소실됩니다.

컨텍스트 린 원칙. 더 많은 컨텍스트가 항상 좋은 것은 아닙니다. MCP context-mode 98% 감축 사례처럼, 핵심 맥락만 압축해서 전달하는 것이 성능과 비용 양쪽에서 유리합니다. 컨텍스트 창을 채우는 것과 컨텍스트를 잘 설계하는 것은 다른 문제입니다.

100 Agents를 운영하면서 가장 많이 손댄 것은 모델 파라미터가 아니었습니다. 각 에이전트가 어떤 컨텍스트를 받는지, 어떤 순서로 받는지, 무엇을 다음 에이전트에 넘기는지였습니다.

모델 성능 경쟁이 계속되는 동안, 실제 프로덕션 차별화는 컨텍스트 설계에서 만들어집니다. 지금 여러분의 에이전트 시스템에서, 컨텍스트 파이프라인을 마지막으로 재검토한 게 언제인가요?