TL;DR
- 설치하고 터미널에
ollama만 치면 메뉴가 뜬다.ollama run gemma4로 바로 대화가 시작된다.- Ollama는 더 이상 로컬 전용이 아니다. 모델 이름 뒤에
:cloud를 붙이면 같은 명령으로 클라우드 모델을 쓴다.- 로컬 실행은 무료다. 유료는 클라우드 모델 쪽이고 Pro가 월 20달러다.
Ollama 사용법을 찾으면 대부분 “무료로 쓰는 로컬 LLM 도구”라는 설명에서 시작합니다.
반은 맞고 반은 지금과 다릅니다.
내 컴퓨터에서 모델을 돌리는 부분은 여전히 무료지만, 지금 Ollama에는 클라우드 모델과 유료 플랜이 함께 있습니다. 같은 CLI에서 모델 이름 뒤에 :cloud 를 붙이는 것만으로 갈라집니다.
이 글은 설치부터 첫 대화까지를 순서대로 짚고, 로컬과 클라우드가 어디서 갈리는지, 요금은 무엇에 매겨지는지까지 정리합니다.
공식 문서와 가격 페이지에서 확인한 내용만 담았고, 확인되지 않은 수치는 넣지 않았습니다.
마지막에는 AI 제품을 만들 때 Ollama의 설계에서 가져갈 만한 점도 덧붙입니다.
Ollama가 해결하는 문제
모델을 직접 돌리려면 원래 할 일이 많았습니다.
가중치를 받고, 런타임을 맞추고, 양자화 포맷을 고르고, GPU 메모리에 맞게 설정을 조정해야 했습니다.
이 과정에서 대부분 지쳐 떨어집니다.
Ollama는 그 전부를 명령어 하나 뒤로 숨깁니다. ollama run 뒤에 모델 이름만 적으면 내려받기부터 실행까지 알아서 합니다.
GitHub 스타는 17만 9천 개를 넘었고, 지원 모델에는 Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma가 들어 있습니다.
여기서 중요한 건 모델 목록이 아니라 모델을 바꾸는 비용이 거의 0이 된다는 점입니다.
이름만 바꿔 다시 실행하면 됩니다.
어떤 모델이 내 작업에 맞는지 실제로 비교해 보는 일이 그제야 현실적이 됩니다.
Ollama 설치, 세 단계면 끝난다
공식 문서의 quickstart는 세 단계입니다.
1. 내려받기. macOS, Windows, Linux 모두 지원합니다.
공식 사이트에서 자기 운영체제용을 받아 설치하면 됩니다.
2. 메뉴 열기. 터미널에 이렇게만 칩니다.
ollama대화형 메뉴가 뜹니다.
여기서 모델을 실행하거나, 연동 도구를 띄울 수 있습니다.
문서는 연동 대상으로 Claude Code, OpenClaw, VS Code 등을 들고 있습니다.
3. 첫 대화. 모델을 지정해 실행합니다.
ollama run gemma4프롬프트가 뜨면 그냥 물어보면 됩니다.
대화를 끝낼 때는 /bye 를 칩니다.
여기까지가 공식 문서가 말하는 “첫 응답까지”의 전부입니다.
설정 파일도, 환경변수도 필요 없습니다.
로컬과 클라우드가 갈리는 지점
이 부분이 지금 Ollama에서 가장 많이 오해받는 곳입니다.
같은 ollama run 명령인데 모델 이름 뒤에 :cloud 를 붙이면 클라우드 모델로 갑니다.
ollama run gemma4 # 내 컴퓨터에서 실행
ollama run gemma4:cloud # 클라우드에서 실행명령이 같으니 코드를 바꿀 필요가 없습니다.
로컬에서 개발하다가 더 큰 모델이 필요해지면 접미사만 붙이면 됩니다.
판단 기준은 이렇게 잡으면 됩니다. 내 하드웨어에 올라가는 크기라면 로컬이 낫습니다. 데이터가 밖으로 안 나가고, 사용량 제한도 없고, 비용도 없습니다. 모델이 내 메모리를 넘어가거나, 여러 개를 동시에 돌려야 한다면 그때 클라우드를 봅니다.
모델은 어떤 기준으로 고르나
처음 쓰는 사람이 가장 많이 막히는 지점이 모델 선택입니다.
목록이 길고 이름만 봐서는 뭐가 다른지 알기 어렵습니다.
실무에서는 순서를 이렇게 잡으면 실패가 적습니다.
작은 것부터 시작합니다. 큰 모델이 답을 잘 하는 건 맞지만, 내 컴퓨터에서 한 문장에 삼십 초씩 걸리면 결국 안 쓰게 됩니다.
먼저 가볍게 도는 모델로 흐름을 만들고, 품질이 모자란 지점이 확인되면 그때 올립니다.
메모리를 기준으로 봅니다. 모델은 실행할 때 메모리에 올라갑니다.
내 장비의 메모리보다 큰 모델은 아예 못 돌거나 극단적으로 느려집니다.
사양이 넉넉하지 않다면 작은 모델 안에서 비교하는 편이 낫습니다.
용도를 나눠서 봅니다. 코드를 다루는 작업, 긴 문서를 요약하는 작업, 한국어 대화가 중요한 작업은 잘 맞는 모델이 서로 다릅니다.
Ollama에서는 이름만 바꿔 다시 실행하면 되니, 같은 질문 세 개를 정해두고 모델을 바꿔가며 답을 비교해 보는 것이 가장 빠릅니다.
한국어는 직접 확인합니다. 벤치마크 점수가 높아도 한국어 응답이 어색한 모델이 있습니다.
실제로 쓸 문장으로 물어보고 판단하세요.
이 확인에 드는 시간이 몇 분이면 됩니다.
Ollama 요금제, 무엇에 돈을 내는가
가격 페이지 기준으로 정리하면 이렇습니다.
| 플랜 | 가격 | 핵심 |
|---|---|---|
| Free | $0 | 내 하드웨어에서 모델 실행, 클라우드 모델 접근, CLI·API·데스크톱 앱, 공개 모델 무제한 |
| Pro | $20/월 (연 $200) | 더 크고 강한 클라우드 모델, 동시 3개, 무료 대비 클라우드 사용량 50배, 비공개 모델 업로드 |
| Max | $100/월 | 동시 10개, Pro 대비 5배 사용량 |
| Team | $25/席·월 (최소 5석) | 미국·유럽 모델 접근, 데이터 무보존, 공용 결제와 관리, 우선 지원 |
| Enterprise | 협의 | 물량 단가, 보안·구매 절차 지원 |
여기서 짚을 게 셋 있습니다.
첫째, 무료 플랜에서도 클라우드 모델에 접근할 수 있습니다. 무료는 로컬만이라는 설명은 지금 기준으로 틀립니다.
다만 사용량이 적고, Pro가 그 50배라고 표기돼 있습니다.
둘째, 과금은 클라우드 사용량과 동시 실행 수로 갈립니다. 로컬에서 아무리 돌려도 요금이 붙지 않습니다.
내 전기와 내 GPU를 쓰기 때문입니다.
셋째, Max는 지금 신규 가입이 멈춰 있습니다. 가격 페이지에 “용량을 늘리는 동안 신규 구독을 일시 중단한다”고 적혀 있습니다.
Max를 염두에 뒀다면 이 상태부터 확인해야 합니다.
Team은 도입 가격이라고 표기돼 있고 대기자 명단으로 받습니다.
SSO와 모델 접근 제어, Windows·macOS용 MDM 설치 파일은 아직 준비 중입니다.
통합, 40,000개가 의미하는 것
무료 플랜 설명에 “40,000개 이상의 커뮤니티 통합”이 들어 있습니다.
숫자 자체보다 이게 무슨 뜻인지가 중요합니다.
Ollama는 OpenAI 호환 API를 제공합니다.
그래서 기존 도구들이 별도 작업 없이 붙습니다.
엔드포인트 주소만 로컬로 바꾸면 대부분 그대로 동작합니다.
자동화 도구에 로컬 모델을 물리거나, 에디터 확장에 연결하는 일이 쉬워지는 이유가 이것입니다.
AI 기능을 붙인 제품을 만든다면 이 지점이 실무적으로 큽니다.
개발 중에는 로컬 모델로 마음껏 실험하고, 배포할 때 상용 API로 바꾸는 흐름이 코드 수정 없이 가능합니다.
한계와 안 맞는 경우
솔직하게 짚을 부분도 있습니다.
하드웨어가 곧 상한입니다. 메모리에 안 올라가는 모델은 못 돌립니다.
억지로 돌리면 느려서 못 씁니다.
큰 모델을 편하게 쓰려면 결국 클라우드나 상용 API 쪽입니다.
서비스용 서버로 쓰기엔 준비할 게 많습니다. 여러 사용자의 요청을 동시에 받는 상황은 별도 설계가 필요합니다.
개인 작업과 프로토타이핑에 강한 도구입니다.
모델 품질은 Ollama가 책임지지 않습니다. 실행을 쉽게 해줄 뿐 답의 질은 고른 모델에 달려 있습니다.
상용 모델을 쓰다 오픈 모델로 옮기면 차이가 느껴지는 작업이 분명히 있습니다.
제품 만들 때 가져갈 점
Ollama의 설계에는 자기 제품에 옮겨 볼 만한 결정이 있습니다.
접미사 하나로 실행 위치를 바꿨습니다. :cloud 를 붙이는 것만으로 로컬과 클라우드가 갈립니다.
새 명령도, 새 설정 화면도 만들지 않았습니다.
사용자가 이미 아는 것에 한 글자를 더하는 방식은 학습 비용이 거의 없습니다.
무료에서 유료로 넘어가는 지점을 사용량으로 잡았습니다. 기능을 잠그지 않고 클라우드 사용량과 동시 실행 수로 나눴습니다.
그래서 무료 사용자도 제품 전체를 경험하고, 필요가 커질 때 자연스럽게 넘어갑니다.
용량이 부족하면 판매를 멈췄습니다. Max 신규 가입 중단은 불편한 결정이지만, 품질을 못 지킬 바에 안 파는 쪽을 택한 것입니다.
인프라를 파는 제품에서 이 신호는 신뢰로 돌아옵니다.
실행 체크리스트
- 공식 사이트에서 자기 운영체제용 Ollama를 내려받아 설치합니다.
- 터미널에
ollama를 쳐서 메뉴가 뜨는지 확인합니다. ollama run gemma4로 첫 모델을 실행합니다.- 첫 실행은 모델을 내려받으므로 시간이 걸립니다. 완료될 때까지 기다립니다.
- 질문을 하나 던져 응답 속도를 봅니다. 느리면 더 작은 모델로 바꿉니다.
/bye로 대화를 끝냅니다.- 더 큰 모델이 필요하면
ollama run <모델>:cloud로 클라우드를 시험합니다. - 클라우드를 계속 쓸 것 같으면 무료 사용량이 어디서 막히는지 먼저 확인하고 Pro를 검토합니다.
자주 묻는 질문
Ollama는 무료인가요
내 컴퓨터에서 모델을 실행하는 것은 무료입니다.
무료 플랜에서도 클라우드 모델에 접근할 수 있지만 사용량이 제한됩니다.
유료는 클라우드 쪽이고 Pro가 월 20달러, 연간 결제 시 200달러입니다.
로컬 모델과 클라우드 모델은 어떻게 구분하나요
모델 이름 뒤에 :cloud 가 붙으면 클라우드입니다. ollama run gemma4 는 내 컴퓨터에서, ollama run gemma4:cloud 는 클라우드에서 돕니다.
명령 형태는 같습니다.
어떤 모델부터 써보면 되나요
문서의 quickstart가 예시로 드는 모델부터 실행해 보고, 응답 속도가 답답하면 더 작은 모델로 내려가면 됩니다.
내 하드웨어에서 편하게 도는 크기를 먼저 찾는 것이 순서입니다.
기존 도구에 붙일 수 있나요
OpenAI 호환 API를 제공하므로 엔드포인트만 로컬로 바꾸면 대부분 붙습니다.
공식 문서는 Claude Code, VS Code 같은 도구와의 연동을 메뉴에서 바로 띄울 수 있게 해두고 있습니다.
참고한 곳
- Ollama 공식 사이트 — 제품 소개와 모델 목록
- Ollama 요금제 — 플랜별 클라우드 사용량과 동시 실행 수
- Quickstart | Ollama Docs — 설치와 첫 실행 순서
- ollama/ollama · GitHub — 지원 모델과 개발 현황
