2026년의 AI 모델 분야는 방향을 잡기가 어렵다. 주요 연구소마다 분기별로 여러 버전을 내놓고, 오픈웨이트와 폐쇄형 모델의 성능 격차는 릴리스마다 좁혀지고 있다. 이 비교는 유능한 실무자가 후보로 추려야 할 15개 모델과 플랫폼을 다루며, 프로덕션용 모델을 고르는 개발자, 아키텍처를 평가하는 연구자, LLM 기반 제품을 만드는 기술팀을 대상으로 한다. 이 분야는 한쪽으로 기울어 있다. 폐쇄형 모델을 제공하는 세 곳(OpenAI, Google, Anthropic)이 대부분의 리더보드를 지배하는 한편, 오픈웨이트 계층은 코딩, 롱컨텍스트, 추론 작업에서 진정으로 경쟁력을 갖추게 되었다. 후보는 얇은 서드파티 래퍼에 불과하거나, 주로 이미지 생성이나 컴퓨터 비전에 해당하거나, 이미 다룬 항목과 중복되는 경우 제외했다.
선정 방법
후보는 ToolPotion의 AI 모델·LLM 카테고리에 대한 추천 세트와 ML 유사도 매트릭스에서 가져왔다. 각 도구의 자체 사이트와 가격 페이지는 2026년 8월에 확인했다. 협찬은 없으며, 제휴에 따른 순위 배치도 없다.
빠른 비교
| 도구 | 적합한 용도 | 돋보이는 점 | 가격 |
|---|---|---|---|
| GPT-5.6 | 프런티어 범용 | 3단계 제품군, 100만 토큰 컨텍스트 | 100만 토큰당 $0.20/$1.20부터, Plus 월 $20 |
| Gemini 3.1 Pro | 멀티모달 추론 | 100만 컨텍스트, 3단계 사고 | 100만 토큰당 $1.25/$10부터 |
| Claude Opus 4.8 / Sonnet 4.6 | 코딩, 에이전트, RAG | 100만 컨텍스트, 지시 따르기 | Sonnet $3/$15, Opus $5/$25(100만 토큰당) |
| DeepSeek-R1 | 오픈소스 추론 | RL로 학습, MIT 라이선스 | 채팅 무료, API는 제공업체를 통해 |
| DeepSeek-V4-Pro | 100만 토큰 롱컨텍스트 | 1.6T MoE, 100만 토큰 컨텍스트 | 출력 약 $1.98/M |
| Kimi K3 | 프런티어급 오픈웨이트 코딩 | 2.8T MoE, 100만 컨텍스트 | 100만 토큰당 $3/$15 |
| Qwen3.8-27B | 로컬 비전-언어 | 27B 밀집형, Apache 2.0, 이미지/영상 | 무료 다운로드, 클라우드 API는 상황에 따라 상이 |
| Meta Llama 4 | 초장문 컨텍스트 | 1,000만 토큰 컨텍스트(Scout) | 가중치 무료, 커뮤니티 라이선스 |
| gpt-oss-120b | 단일 GPU 오픈웨이트 | 120B Apache 2.0, H100 한 장에 탑재 가능 | 가중치 무료, API는 토큰당 종량제 |
| Cohere Command R+ | 엔터프라이즈 RAG | 128K 컨텍스트, 인용 정확성 | 100만 토큰당 $2.50/$10 |
| AI21 Jamba | 효율적인 롱컨텍스트 | SSM-Transformer, 256K 컨텍스트 | 100만 토큰당 $2/$8(Large) |
| Llama-3.1-8B-Instruct | 엣지 및 로컬 추론 | 8B, 다국어, 상업적 이용 가능 | Hugging Face를 통해 무료 |
| OpenRouter | 통합 LLM API | 346개 이상 모델, 단일 키, 폴백 | 패스스루, 크레딧에 약 5.5% 수수료 |
| Weights & Biases | 모델 학습 및 평가 | 실험 추적 + LLMOps | 개인 무료, Teams는 사용자당 월 $50 |
| Novita AI | 개발자용 모델 클라우드 | 200개 이상 API + 에이전트 샌드박스 | 토큰당 종량제, GPU는 $0.14/Mt부터 |
1. GPT-5.6: OpenAI의 계층형 프런티어 제품군
OpenAI의 GPT-5.6은 2026년 7월에 3단계 제품군으로 출시되었다. Luna(저가형), Terra(중간형), Sol(대표 모델)이다. 셋 모두 105만 토큰 컨텍스트 윈도, 128K 출력, 텍스트+이미지 입력을 공유한다.
적합한 용도: 강력한 도구 사용, 파인튜닝, Assistants API, 코드 실행을 갖춘 단일 제공업체와의 관계를 원하는 팀.
차별화 요소는 생태계의 깊이다. 구조화된 출력, 함수 호출, Batch API, Responses API가 모든 단계에서 일관되게 작동한다. 100만 토큰당 $0.20/$1.20인 Luna는 제공업체를 바꾸지 않고도 대량 워크로드를 실현 가능하게 한다. 데이터 소재지 규정이 온프레미스나 EU 호스팅을 요구한다면 건너뛰어라. 그 경우 Azure OpenAI Service가 필요하며, 조달 복잡성이 늘어난다.
ChatGPT Plus: 월 $20. API Luna: 100만 토큰당 $0.20/$1.20.
2. Gemini 3.1 Pro: Google의 멀티모달 추론 모델
2026년 2월 19일에 출시된 Gemini 3.1 Pro는 텍스트, 이미지, 오디오, 영상, 코드 리포지토리를 받아들이며 100만 토큰 컨텍스트 윈도와 최대 64K 출력 토큰을 제공한다.
적합한 용도: 심층 멀티모달 추론. PDF와 영상에서의 리서치 종합, 대규모 리포지토리에 걸친 코드 생성, 장문 문서 분석.
새로운 'Medium' 매개변수를 갖춘 3단계 사고 시스템 덕분에 개발자는 호출마다 지연 시간과 깊이 사이를 조절할 수 있어, 모든 요청에서 사고 토큰 전체 비용을 부담하지 않아도 된다. Gemini 2.5 모델은 2026년 10월에 종료 예정이라 3.1 Pro가 활성 라인이 된다. 200K 토큰을 넘으면 100만 토큰당 $2.50/$15로 가격이 오르는 점에 유의하라.
API: 200K 토큰 미만에서 100만 토큰당 $1.25/$10.00.
3. Claude Opus 4.8 / Sonnet 4.6: Anthropic의 에이전트 우선 모델
2026년 중반 Anthropic의 라인업은 명확히 나뉜다. 프로덕션 추론과 표준 RAG에는 Sonnet 4.6, 복잡한 다단계 추론과 에이전트형 코딩에는 Opus 4.8이다. 둘 다 토큰당 정액 요금으로 100만 토큰 컨텍스트를 지원한다.
적합한 용도: 프로덕션 에이전트형 시스템, 복잡한 코딩, 그리고 엄격한 지시 따르기를 요구하는 기업.
Claude의 상징은 여러 번의 도구 호출에 걸쳐 목표에서 벗어나지 않고 지시를 지켜내는 것이다. 목표 이탈이야말로 에이전트 루프를 일으키는 실패 양상이다. 모델 버전을 명시적으로 고정하라. Anthropic의 라인업은 자주 바뀐다. Opus 4.8은 출력량이 많은 파이프라인에는 비싸다.
Sonnet 4.6: 100만 토큰당 $3.00/$15.00. Opus 4.8: 100만 토큰당 $5.00/$25.00. 배치는 50% 저렴.
4. DeepSeek-R1: 대규모 오픈소스 추론
DeepSeek-R1은 강화 학습으로 훈련되며 사고 사슬을 보여준다. 이는 최종 답뿐 아니라 추론의 투명성이 중요한 작업에 유용하다.
적합한 용도: 라이선스 마찰 없이 검사하고 파인튜닝하며 상업적으로 배포할 수 있는 유능한 추론 모델이 필요한 연구자와 팀.
MIT 라이선스는 로열티 없이 로컬 배포와 상업적 파인튜닝을 허용한다. R1의 눈에 보이는 추론 흔적은 증류 파이프라인에서 학습 신호로 널리 쓰인다. 유의점: 전체 모델은 상당한 GPU VRAM이 필요하며(대부분의 자체 호스팅 구성은 양자화 버전을 사용), 호스팅 API는 최대 부하 시 안정성 문제를 겪은 적이 있다.
채팅 접근은 무료. 가중치는 Hugging Face에 MIT로 공개. 자체 호스팅 비용은 상황에 따라 다르다.
5. DeepSeek-V4-Pro: 프로덕션 규모의 100만 토큰 컨텍스트
DeepSeek-V4-Pro는 2026년 8월에 1.6T 파라미터(MoE로 49B 활성화)와 네이티브 100만 토큰 컨텍스트로 출시되었다. 하이브리드 Compressed Sparse Attention은 전체 컨텍스트 길이에서 이전 세대의 27% FLOPs만 필요로 하여, 100만 토큰 추론을 기술적으로 가능한 수준을 넘어 경제적으로도 실용적으로 만든다.
적합한 용도: 대규모 코드베이스 분석, 여러 문서에 걸친 법률·금융 검토, 또는 장시간 에이전트형 세션이 필요한 장기 작업.
V4-Flash(284B 파라미터, 13B 활성화)는 V4-Pro의 인프라 요건에 발을 들이기 전에 아키텍처를 평가하는 팀에게 더 안전한 출발점이다. 발표 시점에 매우 신제품이라 프로덕션 안정성 데이터는 제한적이다.
서드파티 자료는 출력을 약 $1.98/M 토큰으로 표시한다. 현재 요금은 DeepSeek의 API 문서에서 확인하라.
6. Kimi K3: 프런티어급 오픈웨이트 코딩 모델
Kimi K3는 Moonshot AI의 2.8T 파라미터 MoE 모델로, 2026년 7월 16일에 발표되었고 가중치는 7월 27일에 Modified MIT로 공개되었다. 100만 토큰 컨텍스트로 장기 코딩, 대규모 리포지토리 탐색, 지속적인 에이전트형 도구 사용을 겨냥한다.
적합한 용도: 자체 인프라에서 배포하거나 파인튜닝할 수 있는 오픈웨이트 모델로부터 프런티어급 코딩을 원하는 엔지니어링 팀.
FrontierSWE(대규모 코드베이스에서의 실제 소프트웨어 엔지니어링 작업)에서 Kimi K3는 81.2를 기록하며, 코딩에 한해 최고의 폐쇄형 모델들과 어깨를 나란히 한다. 자체 호스팅은 MXFP4 양자화를 쓰더라도 멀티 GPU 인프라가 필요하다. 대부분의 팀은 대신 Kimi API를 사용한다.
API: 100만 토큰당 $3.00/$15.00.
7. Qwen3.8-27B: 로컬 비전-언어 배포
Qwen3.8-27B는 Alibaba의 2026년 8월 밀집형 오픈웨이트 모델로, 약 27.8B 파라미터를 Apache 2.0으로 제공하며 네이티브 이미지·영상 이해를 갖추고 있다. 이는 30B 미만 규모에서 여전히 드문 일이다.
적합한 용도: 엣지, 프라이버시에 민감하거나 폐쇄망 워크로드를 위해 비전 기능을 갖춘 로컬 배포형 모델이 필요한 팀.
Apache 2.0은 MAU 상한도, EU에서의 멀티모달 제한도 두지 않는다. 하이브리드 'Thinking/Non-Thinking' 모드는 지연에 민감한 호출에서 추론 오버헤드를 억제한다. 119개 언어를 네이티브로 지원한다. 어려운 수학과 추론에는 건너뛰어라. 거기서는 Qwen3.8-Max(2.4T 파라미터)가 훨씬 강하다.
가중치는 Apache 2.0으로 무료. Alibaba Model Studio를 통한 클라우드 API 가격은 지역에 따라 다르다.
8. Meta Llama 4: 오픈웨이트 초장문 컨텍스트
Meta Llama 4는 Scout(활성화 17B / 총 109B, 1,000만 토큰 컨텍스트)와 Maverick(활성화 17B / 총 400B) 변형으로 제공된다. 둘 다 MoE를 사용하며 텍스트, 이미지, 영상 입력을 네이티브로 받아들인다. 멀티모달을 내장한 최초의 Llama 세대다.
적합한 용도: 방대한 문서 모음을 단일 컨텍스트에서 처리하는 연구와 팀. 코드베이스 전체, 법률 증거개시 코퍼스, 수년치 녹취 아카이브 등.
Scout의 1,000만 토큰 컨텍스트는 100만 미만에서는 불가능한 사용 사례를 연다. 대규모 규제 제출 서류, 완전한 플랫폼 코드베이스, 또는 수년치 내부 문서를 단일 패스로 분석하는 것이다. 참고: Llama 4 Community License에는 MAU 7억 상한이 포함되며 EU에서의 멀티모달 사용을 제한한다.
가중치는 Llama 4 Community License. Meta의 클라우드 파트너를 통한 호스팅 추론은 토큰당 종량제다.
9. gpt-oss-120b: OpenAI의 단일 GPU 오픈웨이트 모델
gpt-oss-120b는 GPT-2 이후 OpenAI의 첫 의미 있는 오픈웨이트 릴리스로, 2025년 8월에 Apache 2.0으로 출시되었다. 희소 활성화를 갖춘 120B 파라미터로, 멀티노드 클러스터가 필요한 모델과 달리 단일 H100 80GB GPU에 들어가도록 설계되었다.
적합한 용도: 완전한 사고 사슬 접근, 구성 가능한 추론 깊이, 관대한 상업적 라이선스를 갖춘 상태에서 단일 서버에서 거의 프런티어급 추론을 원하는 조직.
세 가지 추론 노력 수준, 노출되는 흔적, 함수 호출, Responses API를 통한 구조화된 출력. Apache 2.0은 제한 없는 상업적 파인튜닝을 허용한다. 100만 토큰 컨텍스트(128K뿐)나 멀티모달 입력(텍스트 전용)이 필요하다면 건너뛰어라.
가중치는 Apache 2.0으로 무료. 호스팅 API는 OpenAI 및 서드파티 제공업체를 통해 토큰당 종량제로 제공된다.
10. Cohere Command R+: 엔터프라이즈 RAG 전문 모델
Cohere Command R+는 엔터프라이즈 검색 증강 생성을 위해 특별히 만들어졌다. 128K 컨텍스트, 강력한 인용 정확성, 다단계 도구 사용을 갖추고, 문서 워크플로에서의 출처 환각과 부실한 귀속을 겨냥한다.
적합한 용도: 출처 귀속이 타협 불가능한, 지식 시스템, 문서 Q&A, 고객 검색을 구축하는 기업.
일대일 RAG 벤치마크에서 Command R+는 비슷한 크기의 범용 모델보다 더 정확한 인용을 생성하고 환각이 더 적다. VPC와 온프레미스 배포 옵션은 규제 산업의 데이터 소재지 요건을 충족한다. 범용 모델이 아니다. 추론과 코딩의 상한은 프런티어 모델보다 낮다.
API: 100만 토큰당 $2.50/$10.00. 엔터프라이즈 VPC 가격은 문의 시 제공.
11. AI21 Jamba: 롱컨텍스트를 위한 SSM-Transformer 하이브리드
AI21 Jamba는 Mamba와 Transformer의 하이브리드 아키텍처를 사용하여, 비슷한 컨텍스트 길이에서 순수 Transformer 모델보다 빠른 추론과 낮은 KV 캐시 비용을 달성한다. 그 결과 호출당 더 저렴한 256K 유효 컨텍스트 윈도가 나온다.
적합한 용도: 추론 비용이 예산 변수인, 대량의 장문 문서를 처리하는 기업. 높은 호출 빈도에서의 법률, 컴플라이언스, 금융 분석 등.
롱컨텍스트에서 Jamba의 처리량 우위는, 그렇지 않으면 값비싼 스트리밍 우회책이 필요한 동기식 사용자 대면 애플리케이션을 가능하게 한다. VPC와 온프레미스 배포는 AI21의 엔터프라이즈 프로그램을 통해 제공된다. Jamba 주변의 도구는 주요 제품군보다 빈약하다. 커뮤니티 통합과 파인튜닝 가이드가 더 적다.
Jamba-Large: 100만 토큰당 $2.00/$8.00. Jamba-Mini: 100만 토큰당 $0.20/$0.40.
12. Llama-3.1-8B-Instruct: 경량 로컬 및 엣지 추론
Llama-3.1-8B-Instruct는 Meta의 지시 튜닝된 8B 다국어 모델이다. 128K 컨텍스트 윈도로 단일 RTX 4090이나 고용량 메모리 노트북 GPU에서 실행된다.
적합한 용도: 엣지 배포, 온디바이스 애플리케이션, 고처리량·저지연 파이프라인, 그리고 쿼리당 GPU 비용을 최소화해야 하는 워크로드.
분류, 요약, 개체 추출, 구조화된 출력 작업이 빠르고 저렴하게 실행된다. 가장 널리 쓰이는 파인튜닝 체크포인트이며, Hugging Face, Ollama, llama.cpp를 통한 두터운 커뮤니티 지원을 받는다. 명확한 한계: 복잡한 다단계 코딩, 어려운 추론, 지식 집약적 작업에는 사용하지 마라. 8B 파라미터로는 부족하다.
Meta의 Llama 3 Community License로 무료.
13. OpenRouter: 346개 이상의 LLM으로 가는 통합 게이트웨이
OpenRouter는 OpenAI 호환 API 키 하나와 자동 제공업체 폴백을 통해 Anthropic, OpenAI, Google, DeepSeek, Meta, Mistral, xAI 등에 걸친 346개 이상의 모델로 라우팅한다.
적합한 용도: 모델을 비교하거나, 제공업체 비종속 제품을 구축하거나, 여러 SDK와 청구 계정을 관리하지 않고 프로토타이핑하는 팀.
패스스루 가격에 더해 크레딧 구매에 약 5.5%가 붙는다. 수십 개 모델이 속도 제한과 함께 무료다. 약 15ms의 오버헤드는 대부분의 워크로드에서 무시할 만하다. 유일한 프로덕션 의존처로는 건너뛰어라. OpenRouter 장애는 그것을 통해 라우팅하는 모든 모델에 영향을 준다. 최선의 패턴: 평가에는 사용하되, 중요한 프로덕션 경로에서는 직접 제공업체 SDK로 폴백하는 것이다.
구독 없음: 패스스루 요율로 크레딧을 통해 결제한다.
14. Weights & Biases: 모델 학습 및 평가 플랫폼
Weights & Biases(W&B)는 모델이 아니다. ML 팀이 모델을 구축하고 반복 개선하는 데 사용하는 플랫폼이다. 실험 추적, 하이퍼파라미터 스윕, 모델 레지스트리, Weave를 통한 LLMOps 추적, 파인튜닝 파이프라인을 제공한다. 2025년 CoreWeave의 인수로 서버리스 학습을 위한 GPU Sandboxes가 번들로 추가되었다.
적합한 용도: 모델을 학습하거나 파인튜닝하며, 재현 가능한 실험 추적과 팀원 간 공유되는 품질 감사가 필요한 ML 팀.
Weave는 LLM 호출 전반에서 프롬프트/응답 쌍, 지연 시간, 토큰 수를 포착하고, 평가 세트로 모델 버전 간 품질 변화를 추적한다. 이는 진지한 프롬프트 엔지니어링에 운영상 중요하다. 완전한 W&B 플랫폼 없이 평가 기능만 원한다면 맞춤형 도구가 필요하다.
개인용 무료 등급, 영구. Teams: 사용자당 월 $50. Enterprise는 문의 시 제공.
15. Novita AI: 개발자용 모델 클라우드와 GPU 인프라
Novita AI는 200개 이상의 LLM, 이미지, 오디오, 영상 모델을 단일 API로 제공하며, 여기에 목적에 맞게 만들어진 격리형 에이전트 샌드박스와 베어메탈 GPU 클러스터를 더한다. 프로토타이핑부터 프로덕션까지 하나의 계정으로 가능하다.
적합한 용도: 엔터프라이즈 조달 없이 프로토타이핑, 에이전트 테스트, GPU 확장을 하나의 플랫폼으로 하고 싶은 개인 개발자와 소규모 팀.
에이전트 샌드박스(에이전트가 안전하게 코드를 실행하고, 도구를 사용하며, 모델을 호출할 수 있는 격리 런타임)는 에이전트형 워크플로를 개발하는 팀에게 가장 두드러진 기능이다. Novita AI는 편의를 위한 애그리게이터다. 모델 품질과 지연 시간은 상류의 원 제공업체에 달려 있다. 보장된 SLA, 제공업체 네이티브 파인튜닝, 또는 특정 컴플라이언스 인증이 필요한 팀은 직접 계약해야 한다.
토큰당 종량제(2026년 8월 기준 DeepSeek V4 Pro는 입력 $1.74/M로 표시), GPU는 $0.14/Mt부터, 최소 지출 없음.
선택 방법
최고 성능을 원한다면, 세 폐쇄형 프런티어 모델(GPT-5.6 Sol, Gemini 3.1 Pro, Claude Opus 4.8)이 관련 비교 대상이다. 모두 일반 작업에서 경쟁력이 있다. 차별화 요소는 생태계의 깊이(OpenAI), 멀티모달의 폭(Gemini), 그리고 에이전트형 지시 따르기(Claude)다. OpenRouter는 평가를 위해 단일 키로 세 모델 모두에 API 접근을 제공한다. 디렉터리에서 모든 AI 모델·LLM 도구 둘러보기를 하거나 개발 도구 페이지와 모델 학습 작업 페이지에서 시나리오별로 필터링하라.
데이터 통제나 비용 효율을 원한다면, 2026년의 오픈웨이트 계층이 경쟁력이 있다. Kimi K3는 SWE-bench 스타일 평가를 선도하지만 멀티 GPU 인프라가 필요하다. gpt-oss-120b는 Apache 2.0 하에서 단일 H100에 들어가고, Llama-3.1-8B-Instruct는 비용의 일부만으로 명확히 정의된 대량 작업을 잘 처리한다. RAG, 컴플라이언스, 온프레미스 요건이 있는 엔터프라이즈 구매자에게는 Cohere Command R+와 AI21 Jamba 모두 VPC와 온프레미스 배포를 제공하며, 이는 공유 추론 엔드포인트가 용인되지 않는 문서 집약적 규제 워크플로를 위해 특별히 만들어진 것이다.
자주 묻는 질문
오픈웨이트 AI 모델과 오픈소스 AI 모델의 차이는 무엇인가?
오픈웨이트란 모델 가중치를 공개적으로 내려받을 수 있지만, 학습 코드, 데이터, 프로세스는 독점일 수 있음을 뜻한다. OSI 정의에 따른 오픈소스는 전체 학습 파이프라인이 공개될 것을 요구한다. 2026년 대부분의 '오픈' 모델(Llama 4, Kimi K3, gpt-oss-120b)은 오픈웨이트다. 배포 관점에서 실질적인 질문은 라이선스가 상업적 이용과 파인튜닝을 허용하는지 여부다.
코딩 작업에는 어떤 AI 모델이 가장 좋은가?
폐쇄형 모델에서는 Claude Opus 4.8과 GPT-5.6 Sol이 꾸준히 정상권에 있다. 오픈웨이트 코딩에서는 Kimi K3가 SWE-bench 스타일 벤치마크를 선도하고, gpt-oss-120b가 수학 중심 추론에서 바짝 뒤따른다. Llama-3.1-8B-Instruct는 단순 완성을 효율적으로 처리하지만, 복잡한 다중 파일 디버깅이나 아키텍처 수준 작업에는 경쟁력이 없다.
컨텍스트 윈도란 무엇이며 왜 중요한가?
컨텍스트 윈도는 모델이 한 번의 호출에서 처리할 수 있는 최대 텍스트로, 입력과 출력을 합친 것이다. 128K 윈도는 대략 10만 단어를, 100만은 약 75만 단어를, Llama 4 Scout의 1,000만은 단일 패스로 약 750만 단어를 처리한다. 더 긴 윈도는 청크 분할 없이 문서 전체 처리를 가능하게 하지만, 대부분의 제공업체는 정액 요율로 토큰당 과금하므로 더 긴 컨텍스트는 비용을 비례해서 늘린다.
이 모델들을 무료로 사용할 수 있는가?
몇몇은 진정한 무료 접근을 제공한다. DeepSeek-R1은 MIT 라이선스 가중치와 함께 채팅으로 무료다. OpenRouter는 속도 제한이 있는 무료 모델을 수십 개 제공한다. Llama-3.1-8B-Instruct와 Qwen3.8-27B는 자체 호스팅하면 무료다. Weights & Biases에는 영구 무료 개인 등급이 있다. 폐쇄형 모델 제공업체(OpenAI, Anthropic, Google)는 프로덕션 트래픽에는 유료 요금제로 전환되는 무료 API 체험을 제공한다.