모델 이름을 코드에 박지 마라 — 플래시가 3주 만에 교체됐다
모델 하드코딩이란 서비스 코드에 특정 LLM 이름을 직접 삽입하는 관행으로, zdnet이 보도한 Gemini 3.7 Flash의 3주 만에 교체 사례는 이 방식이 운영 리스크임을 실증한다. 라우팅 정책을 이름 목록이 아닌 선택 기준으로 설계하면 교체 비용을 크게 줄일 수 있다.
주제별 글 / 모델 선택과 비용
모델 선택과 비용
벤치마크 순위 대신 1달러당 성능과 라우팅 설계로 모델을 고르는 기준.
11편, 최신순
1달러당 성능: 모델 선택의 새 기준
1달러당 성능 점수란 AI 에이전트 라우팅 설계의 핵심 의사결정 기준이다. Anthropic의 Advisor 전략은 Claude Opus 4.7을 복잡한 판단에만 배치하고, Gemini 3.1 Pro는 GPT-5.4 대비 3분의 2 가격으로 동급 성능을 낸다.
모델 이름을 코드에 박지 마라
모델 라우팅이란 태스크 유형과 비용 목표에 따라 적합한 AI 모델을 자동 배정하는 운영 전략이다. Gemini 3.7 Flash가 출시 3주 만에 교체됐고, Anthropic의 Advisor 구조는 복잡한 판단과 일반 실행에 서로 다른 모델 계층을 배정해 비용을 통제한다.
모델 이름을 코드에 박지 마라
제미나이 3.7 플래시가 출시 3주 만에 교체됐습니다. 코드에 모델 이름을 하드코딩하면 매번 이 교체 주기를 직접 추적해야 합니다. 라우팅 정책은 모델 이름이 아니라 선택 기준으로 작성해야 하는 이유를 정리했습니다.
1달러당 성능이 새 모델 선택 기준이다
벤치마크 1위 모델이 최선이라는 가정은 프로덕션 에이전트에서 통하지 않는다. AI PM이 라우팅 설계 없이 단일 모델에 올인할 때 발생하는 비용과 리스크, 그리고 달러당 성능 기반의 3단계 라우팅 설계를 정리했다.
벤치마크 1위가 선택 기준이 아닌 시대 — 1달러당 성능으로 모델을 고르다
에이전트를 운영할수록 벤치마크 순위보다 달러당 성능이 더 중요해진다. Kimi K3 가격 공세, 500달러 파인튜닝 실험, Anthropic Advisor 전략이 가리키는 실전 라우팅 3원칙.
최고 모델을 고르는 시대는 끝났다 — 예산 기반 자율 라우팅의 등장
단일 최고 모델이 없다는 게 실측으로 확인된 지금, Anthropic이 새 접근을 제시했다. 예산을 주면 AI가 모델 선택과 추론 전략을 알아서 조정한다. PM이 먼저 바꿔야 할 질문은 '어떤 모델인가'가 아니라 '이 작업에 얼마를 쓸 것인가'다.
AI 에이전트가 챗봇보다 최대 136배 전기를 쓴다 — 라우팅은 이제 원가 게임이다
KAIST 실측 데이터가 보여준 에이전트 에너지 비용의 충격. 모델 성능 경쟁이 좁혀진 지금, 라우팅 설계가 운영 비용 구조를 결정한다.
모델 라우팅의 두 통념이 같은 날 반박됐다
같은 날 swyx는 컴파운드 모델이 절반 비용에 같은 성능을 낸다고 했고, emollick은 비핵심 업무에도 큰 모델이 보완재라고 했다. 라우팅은 제일 싼 모델 고르기가 아니라 조합·effort·공급분산 설계다.
에이전틱이 기본값이 된 날 — 모델 선택 기준 세 가지가 교체됐다
GPT-5.5가 'agent runtime'으로 자기정의한 순간, 모델 선택의 게임이 바뀌었다. raw 성능에서 완주율·time horizon·비용 세 축으로 라우팅 기준이 교체되고 있다.
1달러당 성능이 모델 선택의 새 기준이다
벤치마크 순위로 모델을 고르던 시대가 끝나고 있습니다. 에이전트 시스템을 실제로 운영하면 모든 호출이 비용이 되고, 비용이 설계 변수가 됩니다. '1달러당 성능'과 라우팅 설계가 AI PM의 새 레버리지입니다.