설명
Ollama는 GitHub에서 MIT 라이센스 하에 유지되는 대형 언어 모델을 로컬에서 다운로드하고 실행하기 위한 오픈 소스 프로젝트입니다. 이 글을 작성하는 시점에서 이 저장소는 181,000개 이상의 별과 18,000개 이상의 포크를 보유하고 있으며, 주로 Go로 작성되었습니다. Ollama는 호스팅된 채팅 제품이 아니라 런타임입니다: 모델의 가중치를 다운로드하고, 이를 로컬 API 뒤에서 제공하며, 개인이나 다른 프로그램이 자신의 기기에서 모델과 직접 상호작용할 수 있도록 합니다.
더 읽기
시작하려면 macOS, Windows 또는 Linux에 Ollama를 설치해야 합니다(단일 설치 스크립트 또는 수동 다운로드를 통해) 또는 Docker Hub에서 공식 ollama/ollama 이미지를 가져옵니다. 그 후, 모델 이름과 함께 "ollama run"을 실행하면 Gemma, Llama, Qwen, DeepSeek, GLM, MiniMax, Mistral 또는 gpt-oss와 같은 모델과의 채팅 세션을 다운로드하고 시작합니다. 현재 모델 카탈로그는 ollama.com/library에서 확인할 수 있습니다. Ollama는 또한 모델을 프로그래밍 방식으로 실행하고 관리하기 위한 로컬 REST API를 제공하며, 개발자가 자신의 애플리케이션에서 실행 중인 모델을 호출할 수 있도록 공식 Python(ollama-python) 및 JavaScript(ollama-js) 라이브러리를 제공합니다. 이 프로젝트는 CLI, REST API 및 모델을 가져오고 구성하는 방법을 사용자 정의하기 위한 Modelfile 형식을 문서화하고 있으며, llama.cpp를 백엔드 추론 엔진 중 하나로 지원합니다.
단일 채팅 세션을 실행하는 것 외에도, Ollama는 "ollama launch" 명령을 통해 Claude Code, Codex, Copilot CLI, Droid 및 DeepSeek Harness와 같은 기존 코딩 도구 및 에이전트 뒤의 로컬 모델로 시작할 수 있으며, 커뮤니티 프로젝트 OpenClaw는 Ollama를 사용하여 WhatsApp, Telegram, Slack 및 Discord와 같은 채팅 앱에서 개인 AI 어시스턴트를 실행합니다. Ollama의 API 위에 구축된 대규모 제3자 인터페이스 생태계가 있으며, Open WebUI, LibreChat, big-AGI 및 NextChat과 같은 웹 채팅 UI와 AnythingLLM, Witsy 및 Cherry Studio와 같은 데스크톱 클라이언트가 포함됩니다. Ollama는 활발한 Discord 커뮤니티를 보유하고 있으며, README에서는 기여자들이 자신의 통합을 추가하기 위해 풀 리퀘스트를 열도록 초대합니다. 사용자의 하드웨어에서 모델을 실행하기 때문에 사용 가능한 모델과 속도는 구독 계층이 아닌 로컬 컴퓨팅 및 메모리에 따라 달라집니다.
- 카테고리MLOps 및 모델 배포
- 요금제오픈소스
- 배포로컬 실행
- 플랫폼macOS, Windows, Linux
Ollama의 핵심 기능
macOS, Windows, Linux 및 Docker용 단일 명령 설치 프로그램
Llama, Gemma, Qwen, DeepSeek, GLM, MiniMax, Mistral 및 gpt-oss를 포함하는 로컬 모델 라이브러리
"ollama run" CLI를 통한 모델 다운로드 및 즉시 채팅
모델을 프로그래밍 방식으로 실행하고 관리하기 위한 로컬 REST API
공식 Python(ollama-python) 및 JavaScript(ollama-js) 라이브러리
Claude Code, Codex 및 Copilot CLI와 같은 코딩 에이전트와의 "ollama launch" 통합
모델을 사용자 정의하고 가져오기 위한 Modelfile 형식
백엔드 추론 엔진으로서 llama.cpp 지원
API 위에 구축된 대규모 제3자 채팅 인터페이스 및 데스크톱 클라이언트 생태계
Ollama 시작하기
Ollama 설치: 설치 스크립트를 실행하거나 macOS, Windows 또는 Linux용 앱을 다운로드합니다(또는 Docker 이미지를 가져옵니다).
모델 가져오기: 모델 이름과 함께 "ollama run"을 실행하여 예를 들어 gemma4를 다운로드하고 채팅을 시작합니다.
코드에서 호출하기: REST API 또는 ollama-python 또는 ollama-js 라이브러리를 사용하여 자신의 앱에서 채팅 요청을 보냅니다.
통합 시작: 지원되는 도구 이름과 함께 "ollama launch"를 실행하여 Ollama를 Claude Code 또는 Copilot CLI와 같은 코딩 에이전트에 연결합니다.
더 많은 모델 탐색: ollama.com/library에서 전체 및 정기적으로 업데이트되는 모델 카탈로그를 확인합니다.
Ollama의 사용 사례
- 로컬 LLM 채팅
- 코딩 어시스턴트 백엔드
- API를 통한 앱 통합
- 개인 AI 어시스턴트
