Ollama

소개

Ollama는 오픈 모델을 내려받아 로컬이나 클라우드에서 실행하게 해 주는 도구다. 명령 한 줄로 모델과 대화하거나, 이미 쓰는 코딩 에이전트와 애플리케이션에 Ollama를 연결할 수 있다.

macOS·Windows·Linux용 설치 스크립트와 Docker 이미지를 제공하고, 내부 백엔드로 llama.cpp를 쓴다. 모델을 실행·관리하는 REST API와 Python·JavaScript 라이브러리가 있어 내 프로그램에서 바로 호출할 수 있다. ollama launch 명령으로 Claude Code, Codex 같은 코딩 도구와도 연동한다.

오픈 모델을 내 환경에서 직접 다뤄 보고 싶은 개발자와 실무자에게 맞다. 공식 사이트는 사용자의 프롬프트를 저장하거나 학습에 쓰지 않는다고 밝힌다.

이런 데 씁니다

• 오픈 모델을 내 컴퓨터에서 내려받아 대화한다.
• 코딩 에이전트를 Ollama 모델에 연결해 쓴다.
• REST API나 Python·JavaScript 라이브러리로 앱에서 모델을 호출한다.
• OpenClaw와 연결해 메신저에서 쓰는 개인 AI 비서를 만든다.

가격·라이선스

공식 사이트 확인

시작하기

1. macOS·Linux에서는 curl -fsSL https://ollama.com/install.sh | sh 를 실행한다.
2. Windows에서는 irm https://ollama.com/install.ps1 | iex 를 실행하거나 설치 파일을 내려받는다.
3. ollama 를 실행해 모델을 고르거나 기존 도구와 연결한다.
4. ollama run gemma4 처럼 모델 이름을 넣어 바로 대화한다.

링크

공식 사이트 ↗저장소 ↗

관련 용어·기업

로컬 LLM 오픈웨이트 추론(인퍼런스) 추론 엔진 LLM Ollama

최근 브리핑 언급

• Ollama v0.40.4 RC 공개…결정 모델·EmbeddingGemma 2 지원, Codex 모델 선택기에 로컬 모델 표시 2026-10-14
• Apple 연구진, 놀고 있는 Mac GPU를 모아 ML 추론을 나눠 처리하는 'Minions' 공개(커뮤니티 전언) 2026-10-14
• AWS, llama.cpp로 SageMaker AI에 결정 모델을 배포하는 가이드 공개…SemIf로 선택지별 확률 반환 2026-10-13
• Ollama v0.40.0, Apple Silicon에서 MLX 런타임 기본 적용 2026-10-07

출처

• ollama/ollama README
• Ollama · Run AI models locally and in the cloud

공개 자료(공식 페이지·README)를 근거로 정리했습니다. 가격·기능은 바뀔 수 있으니 공식 사이트에서 확인하세요.