거버넌스의 최악 시나리오는 하루 만에 왔다
미 정부가 수출통제로 Fable 5 접근을 끊은 날, 모델 성능은 그대로였지만 '쓸 수 있느냐'가 0이 됐다. 거버넌스가 런타임 안전장치를 넘어 공급 연속성 변수로 확장된 이유를 PM 관점에서 짚는다.
미 정부가 수출통제로 Claude Fable 5와 Mythos 5에 대한 외국인 접근을 전면 차단했습니다. 같은 날 Anthropic CEO는 FAA식 사전검증 체계를 산업 전체에 도입할 것을 공개적으로 요청했습니다.
이건 단순한 규제 뉴스가 아닙니다. 거버넌스가 모델 내부의 안전장치를 넘어 공급망에 직접 손을 대기 시작했다는 신호입니다.
Fable 5의 벤치마크는 그대로입니다. 모델 성능은 전날과 완전히 동일합니다. 그런데 미국 외 지역 사용자는 쓸 수 없습니다. 이 단순한 사실이 에이전트 시대 거버넌스의 본질을 다시 정의합니다.
거버넌스는 이제 두 레이어다
지금까지 AI 거버넌스 논의의 대부분은 모델 안에 있었습니다. 프롬프트 인젝션 차단, 콘텐츠 필터, 역할 분리, 감사 로그. 이 모든 설계는 “에이전트가 무엇을 할 수 있는가”에 집중합니다.
그런데 수출통제는 다른 질문입니다. “에이전트를 쓸 수 있는가”를 결정합니다.
- 레이어 1 (기능): 에이전트가 허용된 범위 안에서 안전하게 동작하는가
- 레이어 2 (접근): 에이전트를 내일도 쓸 수 있는가
PM이 지금까지 집중한 건 레이어 1이었습니다. 이제 레이어 2 없이는 레이어 1이 의미 없습니다. 가장 잘 설계된 에이전트도 접근권이 사라지면 0이 됩니다.
같은 날 주가가 말한 것
비슷한 날 세일즈포스, 서비스나우, 어도비가 동시에 흔들렸습니다. AI 에이전트가 확산되자 자리(seat) 기반 라이선스 모델 자체의 기반이 흔들린 겁니다.
이건 이론이 아닙니다. “AI 에이전트가 퍼지면 seat 모델은 무너진다”는 논의가 수년간 이어졌지만, 그 신호가 주가로 현실화된 첫 날이었습니다.
Zendesk는 70~90% resolution loop를 에이전트로 처리합니다. OpenAI는 지속 실행 환경을 전담 인수로 확보했습니다. 에이전트가 반복 업무를 대체하는 속도가 seat 과금의 전제를 무너뜨리고 있습니다.
수출통제가 공급 레이어를 흔들고, 에이전트 확산이 과금 레이어를 흔들고 있습니다. 같은 날 두 신호가 동시에 나왔습니다.
PM이 지금 해야 할 세 가지
1. 공급 연속성 감사
지금 쓰는 모델이 내일도 쓸 수 있는지 확인합니다. 수출통제, 벤더 전략 변경, 가격 정책 급변 중 어떤 시나리오에서 서비스가 멈추는지 파악해야 합니다. 단일 모델 벤더에 의존할수록 이 취약점은 커집니다.
2. 하네스 우선 설계
에이전트 로직을 특정 모델에서 분리합니다. CLAUDE.md, 시스템 프롬프트, 도구 연결 설정을 파일로 선언적으로 관리하면 모델이 교체되더라도 하네스는 그대로 작동합니다. “하네스가 모델보다 오래 산다”는 원칙이 공급 충격에서 복구 속도를 결정합니다.
# 하네스 분리 예시 구조
/agent-config
tools.json # 도구 연결 선언
system-prompt.md # 역할·제약 정의
routing.json # 모델 우선순위 + fallback
이 구조에서 routing.json 한 줄만 바꾸면 Anthropic → OpenAI → Gemini 순서로 fallback이 작동합니다. 모델이 차단되더라도 에이전트 로직은 살아남습니다.
3. 멀티 모델 라우팅 경로 확보
AWS Bedrock, Azure AI Foundry, Google Vertex에 동시 접근 경로를 열어둡니다. 특정 모델이 차단되거나 가격이 급등하면 fallback이 자동으로 전환되어야 합니다. 이건 비용 절감이 아니라 운영 연속성의 문제입니다.
거버넌스 설계의 새 질문
기존 질문: 에이전트가 안전하게 동작하는가?
새 질문: 에이전트가 내일도 동작할 수 있는가?
Anthropic CEO가 FAA식 사전검증을 요청한 것은 의미 있는 신호입니다. 항공기가 연방 인증 없이 날 수 없듯, 모델 출시 전 정부 검증이 일상화되면 규제 통과 여부가 모델 성능과 함께 도입 기준이 됩니다. 에이전트 스택을 짤 때 모델의 규제 지형도 변수로 포함해야 합니다.
어제의 최선 모델이 오늘 접근 불가가 되는 시나리오는 더 이상 극단적 가정이 아닙니다. 이미 한 번 일어났습니다.
지금 운영 중인 에이전트 스택에서 단일 벤더 의존도를 확인해보세요. 수출통제 시나리오에서 당신 팀의 프로덕션이 얼마나 버틸 수 있는지, 지금이 점검할 시점입니다.