AI 모델 비용을 과하게 쓰는 흔한 방법은 가장 좋은 모델 하나를 골라 모든 작업을 그쪽으로 보내는 것입니다. 2026년에는 미드티어가 최상위 티어의 일부 가격에 불과하고, 품질 격차가 좁혀지고 있다는 말은 각 연구소가 직접 하고 있습니다.
해법은 라우팅입니다. 각 작업을 안정적으로 해내는 가장 저렴한 티어로 보내고, 검증에 실패하면 상위 티어로 올리고, 안정되면 다시 내려보내면 됩니다. 이 가이드에서 규칙, 검증된 가격, 직접 숫자를 돌려볼 수 있는 도구 두 가지를 제공합니다.
이제 주요 연구소는 대부분 비슷한 세 단계를 판매합니다. Claude에는 Opus, Sonnet, Haiku가 있습니다. ChatGPT와 OpenAI API에는 Astra, Sol, Luna로 구성된 GPT-6 제품군이 있습니다. Google Gemini는 최상위 모델 아래에 Flash와 Flash-Lite를 두고 있습니다. 이름은 몇 주마다 바뀝니다. 하지만 판단 기준은 바뀌지 않으므로, 브랜드가 아니라 작업을 기준으로 정리하겠습니다.
세 단계, 그리고 그 사이의 큰 격차
먼저 돈 이야기부터 하겠습니다. 격차가 대부분의 예상보다 크기 때문입니다. 현재 표준 요금 기준으로, 아래에 나오는 모델 중 가장 싼 모델과 가장 비싼 모델은 출력 토큰 가격이 100배 차이 납니다. 그만큼의 여지가 있다는 뜻입니다.
수치는 각 벤더의 가격 페이지에서 그대로 가져왔습니다. Anthropic은 Opus 5.5를 백만 토큰당 입력 $4, 출력 $20, Sonnet 5.5를 $2와 $10, Haiku 4.5를 $1과 $5로 표기합니다(Anthropic pricing). OpenAI는 GPT-6 Astra를 $10과 $50, GPT-6.1 Sol을 $2와 $10, GPT-6 Luna를 $0.10과 $0.50으로 표기합니다(OpenAI pricing). Google은 Gemini 3.5 Flash-Lite를 $0.30과 $2.50으로, 더 최신인 Gemini 3.8 Flash를 $0.75와 $3.75로 표기하는데, 후자는 2027년에 오르는 프로모션 요금입니다(Google AI pricing). Anthropic은 Opus 위에 프리미엄 단계인 Fable 5.1도 판매합니다. 가격은 $10과 $50이며, 까다로운 추론과 장기 에이전트 작업에 권장합니다(Anthropic models overview).
Sonnet 5.5는 Opus 5.5의 절반, Fable 5.1의 5분의 1 가격입니다. GPT-6.1 Sol은 Astra의 5분의 1입니다. 저가형 단계는 여기서 또 내려가고, 한 달에 100만 번 실행되는 작업이라면 첫 청구서에서 바로 그 차이를 체감하게 됩니다.
최근 열흘간 달라진 점
가격과 라인업이 빠르게 바뀌어서, 온라인에서 보이는 조언 중 일부는 이미 낡았습니다. 핵심만 짧게 정리하고, 각 내용의 출처를 함께 밝히겠습니다.
Anthropic이 Claude Opus 5.5를 출시하면서 가격도 내렸습니다. 출력 토큰은 이제 백만 개당 $20로, 이전 Opus의 $25에서 내려왔습니다(TechCrunch). Anthropic은 이 모델이 대부분의 작업에서 더 큰 Fable 5.1 수준의 성능을 내고, 일반적인 워크로드에서 Opus 5보다 운영 비용이 40% 적다고 밝힙니다(Anthropic). 또한 Sonnet 5.5와 Haiku 5.5가 몇 주 안에 뒤따를 것이라고 했습니다.
이후 Sonnet 5.5가 나왔습니다. Anthropic은 이전 모델보다 훨씬 저렴하고 30% 빠르며 토큰 소모도 크게 느리다고 설명합니다(TechCrunch). Haiku 5.5는 아직 출시되지 않았으므로, 지금 Anthropic 가격표에 있는 Haiku는 여전히 Haiku 4.5입니다.
OpenAI는 Opus 5.5가 나온 같은 날 응수했습니다. GPT-6 Sol은 코딩을 포함한 복잡한 작업용으로, GPT-6 Luna는 문서 요약이나 정보 추출 같은 대량의 사무성 작업용으로 내세웁니다(TechCrunch). OpenAI는 API 가격을 5.6 시리즈의 절반으로 책정했고, 그 이유를 캐싱과 추론 효율 개선으로 설명합니다.
일주일 뒤에는 GPT-6.1 Sol이 나왔습니다. OpenAI에 따르면 에이전트형 코딩, 컴퓨터 사용, 전문 업무에서 GPT-6 Astra에 근접하며, 추론 설정 전반에서 오류율 차이가 Astra와 1.9% 이내입니다(TechCrunch). 가격 차이는 OpenAI 가격 페이지에서 확인할 수 있습니다. Astra가 $10과 $50인 데 비해 $2와 $10입니다. 같은 보도는 OpenAI가 GPT-6.1 Astra를 출시하지 않는다고 전하며, Wall Street Journal이 그 이유로 내부 테스트에서 나온 안전 우려, 즉 기만 행동이 늘고 허락을 구하지 않고 밀어붙이는 경향을 꼽았다고 합니다. The Verge도 OpenAI가 안전 문제 때문에 모델 출시를 보류했다고 말했다고 보도합니다. WSJ가 전한 세부 내용은 OpenAI 공식 발표에서 찾지 못했으므로, 보도된 내용으로만 받아들이시기 바랍니다.
후보 목록에서 빼야 할 것은 Google의 Gemini 4 Argon입니다. Google이 발표는 했지만 당분간 신뢰할 수 있는 사이버 방어 담당자들에게만 접근을 허용하고 있습니다(The Verge). 호출할 수 없는 모델로는 작업을 라우팅할 수 없습니다.
이제 미드티어가 기본값인 이유
예전 규칙은 단순했습니다. 플래그십이 가장 똑똑하니 품질이 중요할 때는 플래그십을, 아닐 때는 저렴한 모델을 쓰라는 것이었죠. 이 규칙은 능력 격차가 크다는 전제 위에 서 있었습니다. 그 격차는 위쪽부터 좁혀지고 있고, 연구소들도 직접 그렇게 말합니다.
Anthropic의 출시 글은 이 점에 솔직합니다. 이 정도 역량 수준에서는 벤치마크 점수 차이가 실제 차이를 보여주는 지표로서 신뢰도가 떨어졌고, Opus 5.5와 Fable 5.1의 격차는 점수가 시사하는 것보다 좁다고 말합니다(Anthropic). 플래그십을 파는 회사가 점수 차이가 불분명하다고 말한다면 그대로 믿어도 됩니다.
더 날카로운 주장은 에이전트에 관한 것입니다. Anthropic의 벤치마크에서는 에이전트형 코딩에서 Sonnet 5.5가 Opus 5.5를 앞서고, TechCrunch는 더 저렴한 모델이라 비용 한도를 넘지 않고도 여러 에이전트를 띄울 수 있기 때문일 것으로 추측합니다(TechCrunch). 벤더가 직접 한 테스트이고 설명도 기자의 추론이니 에누리해서 받아들이세요. 다만 원리 자체는 그럴듯하고 가져다 쓸 수 있습니다. 돈으로 병렬 시도를 살 수 있고, 여러 번 시도하고 검증하는 편이 비싼 모델로 한 번 시도하는 것보다 나은 경우가 많습니다.
그래서 Claude Code, Codex in ChatGPT, Cursor, Gemini CLI, GitHub Copilot 같은 코딩 에이전트에는 미드티어가 알맞은 자리입니다. 긴 루프에서는 백만 토큰당 1달러가 추가될 때마다 비용이 배로 불어납니다. 플래그십도 제값은 하지만, 쓰임새가 더 좁아졌습니다. 한 가지 반론도 있습니다. Anthropic의 모델 문서는 대부분의 워크로드에서 Opus 5.5로 시작하고, 높은 effort 수준의 평가에서 부족할 때만 Fable 5.1로 올리라고 안내합니다(Anthropic models overview). $4와 $20인 Opus 5.5는 더 이상 사치스러운 가격이 아니므로, 일상적으로 쓰는 범위의 상단으로 보고 Sonnet 5.5와 비교 테스트해 보세요.
물량, 복잡도, 위험도, 지연 시간으로 라우팅하기
네 가지 질문이면 거의 모든 작업의 자리를 정할 수 있습니다. 이 순서대로 물어보고, 답이 분명하게 나오는 지점에서 멈추면 됩니다.
물량을 가장 먼저 보는 이유는 돈이 거기에 있기 때문입니다. 하루에 수천 번 실행되고, 목표가 분명하고, 확인하기 쉬운 작업은 저가형 티어에 속합니다. OpenAI는 Luna를 바로 그런 작업용으로 만들었다고 설명하고, Anthropic은 Haiku를 가장 작은 모델로 규정합니다.
복잡도는 저가형 티어가 감당할 수 있는지를 결정합니다. 서로 의존하는 단계가 길게 이어지거나, 지시가 모호하거나, 코드베이스가 크면 미드티어로 올라가야 합니다. 그다음 위험도가 얼마나 더 올릴지를 정합니다. 틀린 답이 실제 돈, 법적 책임, 고객 손실로 이어진다면 그 호출에 한해 플래그십은 값싼 보험입니다. 지연 시간은 동점일 때의 결정 요소입니다. 실시간 응답을 기다리는 사람에게는 소폭의 품질 향상보다 속도가 더 중요할 수 있으며, Anthropic은 Sonnet 5.5가 이전 모델보다 30% 빠르다고 말합니다.
기본값, 승격, 강등 규칙
이를 문서화된 정책으로 만들어 두면 풀 리퀘스트마다 같은 논쟁을 하지 않아도 됩니다.
- 새 작업은 모두 미드티어를 기본값으로 합니다.
- 목표가 분명하고, 물량이 많고, 출력을 자동으로 확인할 수 있을 때만 작업을 저가형 티어로 내립니다.
- 오류의 비용이 크거나, 실제 사례에서 미드티어가 검증을 통과하지 못할 때만 작업을 플래그십 티어로 올립니다.
- 연구소가 새 티어를 내놓을 때마다 배정을 다시 검토합니다. 2026년에는 몇 주마다 한 번이라는 뜻입니다.
실패하면 승격하고, 안정되면 강등하기
고정된 배정은 금방 낡습니다. 라우팅 루프가 이를 해결해 주며, 많은 인프라가 필요하지도 않습니다. 저렴한 1차 처리, 검증 방법, 실패 시 처리 규칙만 있으면 됩니다.
팀들이 가장 자주 건너뛰는 것이 검증입니다. 구조화된 출력은 쉽습니다. JSON 스키마를 검증하고, 추출된 필드가 원문에 있는지 확인하고, 유닛 테스트를 돌리면 됩니다. 문장형 출력은 더 어려우니, 모든 출력을 보지 말고 작은 표본을 뽑아 사람이 검토하면서 실패율을 지켜보세요. 한 모델이 다른 모델의 결과를 채점할 수도 있지만 판단에 노이즈가 많으므로, 승인하는 용도가 아니라 사람이 볼 후보를 걸러내는 용도로 쓰세요.
검증에 실패하면 한 단계 위 티어로 한 번 재시도합니다. 실패와 작업 유형은 로그로 남기세요. 정상 실행이 한동안 이어지면 트래픽 일부에 아래 티어를 시험해서 실패율이 유지되는지 확인합니다. 이렇게 해야 저가형 티어가 실제로 어떤 작업을 소화하는지 내 데이터로 알 수 있습니다. 벤더 벤치마크는 이를 알려주지 못합니다.
비용 면에서 주의할 점이 있습니다. 재시도에도 돈이 듭니다. 저가형 티어 호출 중 상위로 승격되는 비율이 조금이라도 높아지면 이중으로 지불하게 되어 루프가 손해를 봅니다. 승격 비율을 추적하세요. 이 비율이 계속 오르면 그 작업은 영구적으로 한 단계 위에 속하는 것입니다.
흔한 작업은 어디에 속할까
아래 배치는 벤치마크가 아니라 편집부의 판단입니다. 앞서 설명한 물량과 역량의 논리를 반영한 것이므로, 직접 테스트한 결과와 다른 점이 있다면 그 위치를 옮기셔도 됩니다.
구체적으로 짚어볼 부분이 몇 가지 있습니다. 태깅, 필드 추출, 요약은 전형적인 저가형 작업이고, 연구소들도 가장 저렴한 티어를 이런 용도로 내세웁니다. 일상적인 코딩과 문서 초안 작성은 미드티어에 속합니다. 계약 검토, 아키텍처 결정, 틀린 답의 비용이 큰 모든 작업에는 플래그십을 쓸 만하지만, 그런 경우에도 작성자가 아니라 검토자로 쓰는 방법이 있습니다.
| 작업 | 시작 티어 | 승격 조건 | 이유 |
|---|---|---|---|
| 티켓 태깅, 라벨링 | 저가형 | 검증 실패율이 몇 퍼센트를 넘을 때 | 높은 물량, 명확한 정답, 쉬운 검증 |
| 문서 요약 | 저가형 또는 미드 | 표본 점검에서 핵심 사실이 누락될 때 | 건당 위험은 낮고 전체 물량이 큼 |
| 고객 응대 답변 | 미드 | 어조나 정책 오류가 고객에게 노출될 때 | 실수가 눈에 띄고 물량은 보통 |
| 일상 코딩 | 미드 | 두 번 시도 후에도 테스트가 실패할 때 | 에이전트에는 미드티어가 최적점 |
| 다단계 에이전트 | 미드, 한도 설정 | 검증 단계가 실패할 때 | 비용 상한 내 병렬 시도 |
| 계약, 재무, 안전 | 플래그십 | 거의 없음, 대신 사람 검토 추가 | 오류의 비용이 큼 |
직접 숫자 돌려보기
한 연구소를 기준으로 계산해 보겠습니다. 위에서 소개한 Anthropic 요금을 사용합니다. 모든 작업을 Opus 5.5로 처리할 때의 지출을 입력한 다음, 작업을 Sonnet 5.5와 Haiku 4.5로 내려 보세요. 지출액과 두 비율은 직접 수정할 수 있습니다. 요금은 고정이며, Sonnet 5.5는 입력과 출력 모두 Opus 5.5의 정확히 절반이고 Haiku 4.5는 4분의 1이므로, 결과는 입력과 출력의 비중에 좌우되지 않습니다.
기본값에서는 모든 작업에 Opus 5.5를 쓰며 월 $3,600를 지출하는 팀이 작업의 40%를 Sonnet으로, 30%를 Haiku로 옮기면 약 $2,070로 줄어듭니다(30%는 $3,600 기준 정가 그대로, 40%는 절반, 30%는 4분의 1). 약 43%를 절감하면서도 가장 어려운 30%의 트래픽은 여전히 플래그십에 남습니다. 실제 청구액은 캐싱, 배치 할인, 재시도에 따라 달라지므로, 규모를 가늠하는 도구로만 활용하세요.
특정 작업을 어디서 시작할지 확신이 서지 않는다면, 아래 트리가 세 가지 간단한 질문을 던집니다.
좌석 기반 요금제는 질문을 바꿉니다
지금까지의 내용은 토큰 단위로 결제한다고 가정합니다. 팀이 채팅 앱이나 코딩 도구에 좌석 단위로 결제한다면 티어는 연구소가 정해 주고, 조절할 수 있는 지점이 달라집니다. Anthropic은 Opus 5.5 출시와 함께 Pro, Max, Team, 좌석 기반 Enterprise 요금제의 5시간 사용 한도를 올렸습니다(Anthropic). 실무적으로 좌석 사용자는 일상 작업에는 모델 선택기에서 미드티어를 고르고, 플래그십은 어려운 세션을 위해 아껴 두고, 요금제의 사용 한도가 모델별로 어떻게 적용되는지 확인하는 것이 좋습니다.
도구들이 어떤 과금 방식을 쓰는지 모르겠다면, AI 도구 요금제 가이드에서 크레딧, 좌석, 토큰 방식을 차례로 설명합니다. 코드 변경 없이 티어와 연구소를 바꿔 끼울 수 있는 통합 지점 하나를 원한다면 OpenRouter 같은 게이트웨이를 살펴볼 만합니다. 라우팅이라는 발상 자체가 저렴하게 갈아탈 수 있어야 성립하기 때문입니다.
청구액을 높게 유지하는 실수들
- 브랜드 충성도로 티어를 고르고, 새 모델이 나온 뒤에도 다시 테스트하지 않는 것.
- 실제 트래픽 표본이 아니라 어려운 예시 하나로 티어를 평가하는 것.
- 검색을 붙인 저렴한 모델로 충분한데도 긴 컨텍스트를 플래그십에 보내는 것.
- 캐싱을 건너뛰는 것. Anthropic은 Opus 5.5의 캐시 읽기 가격을 백만 토큰당 $0.20로 표기하는데, 같은 컨텍스트를 반복해서 보내는 에이전트 루프에서는 이 차이가 큽니다.
- 벤더 벤치마크를 내 결과의 예측치로 여기는 것.
프롬프트도 중요합니다. 잘 만든 프롬프트는 허술한 프롬프트라면 상위 티어로 넘겨야 했을 작업을 더 저렴한 티어에서 처리하게 해 줍니다. 모델 업데이트에도 살아남는 프롬프트 패턴 글에서 그 작업을 이식 가능하게 유지하는 방법을 다룹니다. 어떤 모델이 있는지 폭넓게 보고 싶다면 상위 AI 모델과 LLM 비교 글과 실시간 Top 20 LLM 보드를 참고하세요. API가 아니라 채팅 어시스턴트가 주목적이라면 AI 챗봇 보드와 상위 AI 챗봇 가이드가, 개발자에게는 AI 코딩 어시스턴트 보드와 코딩 어시스턴트 총정리가 같은 역할을 합니다. 모델을 직접 운영하는 것을 고려 중이라면 로컬 AI vs 클라우드 AI에서 언제 그것이 이득인지 다룹니다.
자주 묻는 질문
하나만 골라야 한다면 어떤 AI 모델을 써야 할까요?
현재 스택이 쓰는 연구소의 미드티어를 고르세요. Sonnet 5.5나 GPT-6.1 Sol급 모델이 적당한 비용으로 가장 넓은 범위의 작업을 처리하며, 나중에 데이터가 뒷받침해 줄 때 더 저렴하거나 더 강한 티어를 추가하면 됩니다.
플래그십은 돈을 내고 쓸 가치가 있나요?
네, 오류의 비용이 크거나 실제 사례에서 미드티어가 검증을 통과하지 못하는 좁은 범위의 호출에서는 그렇습니다. 기본값이 아니라 정밀 도구입니다.
미드티어 모델이 플래그십을 이길 수 있나요?
Anthropic의 벤치마크에서는 에이전트형 코딩에서 Sonnet 5.5가 Opus 5.5를 앞섭니다. 다만 한 가지 작업 유형에 대한 벤더 결과이므로, 중요한 워크플로를 옮기기 전에 직접 작업으로 테스트해 보세요.
Haiku 5.5나 Gemini 4 Argon을 기다려야 할까요?
어느 쪽도 기다리며 멈춰 있을 필요는 없습니다. Anthropic은 Haiku 5.5가 몇 주 안에 나온다고 밝혔고, Google은 Argon을 당분간 신뢰할 수 있는 사이버 방어 담당자에게만 제한하며 일반 공개하지 않았습니다. 새 티어가 설정 변경만으로 추가되도록 라우팅 계층을 만들어 두고, 출시되면 테스트를 다시 돌리세요.
더 저렴한 티어가 충분히 좋은지 어떻게 알 수 있나요?
실제 입력 표본으로 돌려 보고, 자동 검증을 적용한 뒤, 한 단계 위 티어와 실패율을 비교하세요. 차이가 작고 작업의 위험도가 낮다면 내리세요. 실패가 고객에게 노출된다면 내리지 마세요.
이 가격이 채팅 구독에도 적용되나요?
아니요. 백만 토큰당 API 요금입니다. 채팅 요금제와 코딩 도구는 좌석이나 사용 한도 기준으로 과금되므로, 절감은 일상 세션에 더 가벼운 모델을 고르는 데서 나옵니다.