LM Studio 사용법, 설치부터 로컬 모델 실행까지

TL;DR

• LM Studio 사용법의 핵심은 세 단계다. 앱을 받고, 모델 카탈로그에서 하나 내려받고, 채팅 창에서 불러 쓴다. 계정도 API 키도 필요 없다.
• 로컬 실행은 무료다. 요금은 클라우드 모델을 부를 때만 붙고, 토큰 100만 개 단위 단가가 모델별로 공개돼 있다.
• 로컬 서버를 켜면 OpenAI·Anthropic 호환 API가 열린다. 기존 코드의 주소만 바꿔 로컬 모델로 갈아끼울 수 있다.

LM Studio 사용법을 알아보는 이유는 대개 두 가지다.
API 요금 없이 모델을 돌려보고 싶거나, 데이터를 밖으로 내보내지 않고 처리해야 하거나.
둘 다 로컬 실행으로 해결되는데, 직접 하려면 추론 엔진을 빌드하고 모델 파일을 구해 양자화 형식을 맞춰야 한다.
LM Studio는 그 과정을 앱 하나로 접었다.

내부적으로는 llama.cpp와 MLX를 엔진으로 쓴다.
애플 실리콘이면 MLX 쪽이 빠르고, 그 외 환경에서는 llama.cpp가 기본이다.
사용자가 신경 쓸 부분은 어떤 모델을 고르고 메모리에 올릴 수 있느냐 정도다.
최근에는 Bionic이라는 에이전트가 붙어서, 채팅뿐 아니라 문서 편집과 코드 작업, 컴퓨터 제어까지 로컬 모델로 시키는 방향으로 제품이 확장됐다.
아래는 설치부터 모델 실행, 로컬 API 서버 연결까지를 공식 문서와 요금 페이지 기준으로 정리한 것이다.

로컬 실행이 성립하는 조건

로컬에서 모델을 돌린다는 건 모델 가중치를 메모리에 올린다는 뜻이다.
그래서 고를 수 있는 모델의 크기는 장비의 메모리가 정한다.
카탈로그에 올라온 모델들도 3B, 8B, 27B, 30B처럼 크기로 구분돼 표시된다.

같은 모델이라도 형식이 갈린다.
GGUF는 llama.cpp 계열에서 쓰는 형식이고, MLX는 애플 실리콘에 맞춘 형식이다.
카탈로그에서 형식별로 걸러볼 수 있으니 자기 장비에 맞는 쪽을 고르면 된다.

크기 감각을 잡자면 이렇다. 27B에서 30B 사이 모델이 요즘 로컬 에이전트 용도로 자주 언급되는 구간이고, 메타의 30B 모델처럼 도구 사용과 장기 작업을 겨냥해 나온 것들이 여기 속한다.
그보다 큰 모델은 대부분 클라우드로 부르는 쪽이 현실적이다.

LM Studio 사용법, 첫 실행까지의 순서

1. 공식 사이트에서 앱을 내려받습니다. 맥, 리눅스, 윈도우 빌드가 각각 있습니다.
2. 앱을 열고 모델 카탈로그로 들어갑니다. 처음이라면 8B 안팎의 작은 모델부터 고르는 게 안전합니다.
3. 모델을 내려받습니다. 용량이 크므로 저장 공간과 네트워크를 미리 확인합니다.
4. 채팅 화면에서 방금 받은 모델을 불러옵니다. 로딩이 끝나면 대화가 가능합니다.
5. 응답이 느리면 설정에서 GPU 사용량과 컨텍스트 길이를 조정합니다. 컨텍스트를 길게 잡을수록 메모리를 더 씁니다.
6. 코드에서 쓸 계획이면 로컬 서버를 켭니다. OpenAI 호환 엔드포인트가 열립니다.
7. 서버나 CI에서 돌릴 거라면 헤드리스 데몬을 따로 설치합니다.

헤드리스 버전은 llmster라는 이름으로 제공된다.
공식 다운로드 페이지에 맥·리눅스용과 윈도우용 설치 명령이 각각 안내돼 있고, 화면 없이 서버에 올려두고 API로만 쓰는 구성이다.
설치 스크립트를 그대로 실행하기 전에 내용을 한 번 열어보는 습관은 이 경우에도 유효하다.

로컬 API 서버로 기존 코드 붙이기

이 부분이 LM Studio 사용법에서 실제로 값이 큰 기능이다.
앱에서 서버를 켜면 로컬에 HTTP 엔드포인트가 열린다. /v1/chat/completions, /v1/responses, /v1/messages를 지원하므로 OpenAI SDK로 짠 코드든 Anthropic 형식으로 짠 코드든 주소만 바꿔 붙일 수 있다.

공식 블로그에는 이 호환성을 이용해 Claude Code를 로컬 모델로 돌리는 방법이 따로 소개돼 있다.
에이전트 도구는 그대로 두고 모델만 로컬로 바꾸는 구성이다.

개발용 라이브러리도 준비돼 있다.
자바스크립트와 파이썬 SDK가 각각 있고, lms라는 CLI로 모델 로드와 서버 제어를 스크립트에서 다룰 수 있다.
병렬 요청과 연속 배칭을 지원하므로 사내 도구 정도의 트래픽은 로컬 인스턴스로 받아낼 수 있다.

요금이 붙는 지점과 클라우드 단가

로컬 실행에는 요금이 없다.
무료 플랜에 로컬 LLM 실행, 오프라인 음성 받아쓰기, Bionic 에이전트, 최대 5대까지 기기를 잇는 LM Link가 들어간다.

돈이 붙는 건 클라우드 추론이다.
장비에 올릴 수 없는 큰 모델을 부를 때 크레딧을 사서 쓰는 방식이고, 토큰 100만 개 기준 단가가 모델별로 공개돼 있다.

클라우드 추론은 미국 기반이고 기본값으로 데이터를 보관하지 않는다고 표기돼 있다.
로컬로 처리할 것과 클라우드로 넘길 것을 나누는 기준을 세울 때 이 항목이 판단 근거가 된다.

캐시된 입력 단가가 원래 입력 단가의 10분의 1 수준이라는 점도 눈여겨볼 만하다.
같은 문서를 여러 번 참조하는 작업이라면 프롬프트 구성을 바꾸는 것만으로 비용이 크게 달라진다.

Bionic 에이전트가 하는 일

Bionic은 오픈 모델을 위한 에이전트로 소개된다.
채팅을 넘어 문서를 만들고 고치고, 코드 작업과 자동화를 수행하고, 컴퓨터를 조작한다.
편집한 내용은 자동 저장된다.

음성 입력도 로컬에서 처리된다.
말하면 실시간으로 받아쓰고, 음성 데이터가 기기 밖으로 나가지 않는다고 명시돼 있다.
여러 언어를 지원한다.

셸 명령을 실행하는 기능이 붙으면서 승인 절차가 함께 들어왔다.
Auto Review는 실행하려는 명령을 구문 분석해 어떤 동작을 하는지 파악하고, 안전하다고 판단되는 읽기 전용 명령에는 승인 요청을 띄우지 않는다.
승인 기준을 사용자가 직접 지정할 수도 있고, 프로젝트별로 코드 접근 권한을 나눌 수도 있다.

최근 변경 기록을 보면 이 방향의 다듬기가 계속되고 있다.
텍스트 전용 모델이 이미지를 이해하도록 별도 모델을 붙이는 비전 서브에이전트, 프로젝트 없이 바로 시작하는 채팅, 반복 작업을 가르치는 스킬 기능이 차례로 들어갔다.

로컬 모델이 느릴 때 확인할 것

체감 속도가 나오지 않으면 원인은 대개 셋 중 하나다.

메모리가 부족해 일부가 디스크로 밀려나는 경우가 첫째다.
모델 크기가 장비 메모리에 비해 크면 로딩은 되지만 응답이 눈에 띄게 느려진다.
한 단계 작은 모델이나 더 낮은 정밀도의 양자화 버전으로 바꾸면 해결되는 경우가 많다.

컨텍스트 길이를 과하게 잡은 경우가 둘째다.
긴 컨텍스트는 그만큼 메모리를 쓰고 프롬프트 처리 시간을 늘린다.
실제로 필요한 길이만 잡는 편이 낫다.

엔진 선택이 셋째다.
애플 실리콘에서 MLX 형식 모델을 쓰면 llama.cpp 빌드보다 유리한 구간이 있다.
최근 릴리스에서는 M5 맥 기준으로 프롬프트 처리 속도가 2배에서 2.75배 빨라졌다는 항목이 변경 기록에 올라와 있고, 반복되는 긴 대화에서 캐시를 저장해 재사용하는 개선도 함께 들어갔다.

한계와 안 맞는 경우

• 최고 성능이 필요한 작업. 로컬에 올릴 수 있는 크기는 장비 메모리로 잘리고, 상위 모델과의 격차가 작업 종류에 따라 크게 벌어진다.
• 여러 사람이 동시에 쓰는 서비스. 병렬 처리를 지원하지만 장비 한 대의 처리량에는 상한이 있다.
• 저사양 장비. 메모리가 부족하면 쓸 수 있는 모델 폭이 좁아진다.
• 모델 선택 자체를 고민하고 싶지 않은 경우. 어떤 모델이 어떤 작업에 맞는지 판단하는 부담이 사용자에게 남는다.

로컬 모델을 명령줄에서 관리하는 쪽이 편하다면 Ollama 모델 다운로드 구성과 비교해보는 것도 방법이다.

제품 만들 때 가져갈 설계

첫째는 기존 API 형식을 그대로 흉내 낸 결정이다.
새 프로토콜을 만들지 않고 이미 널리 쓰이는 엔드포인트 형태를 그대로 열어두면, 사용자는 코드를 고치지 않고 주소만 바꿔 옮겨온다.
전환 비용을 낮추는 가장 값싼 방법이다.

둘째는 무료와 유료의 경계를 기기 안팎으로 그은 점이다.
내 장비에서 도는 건 무료, 남의 장비를 빌리면 유료.
설명에 한 문장이면 충분하고, 사용자가 요금이 왜 붙는지 납득한다.

셋째는 위험한 동작에 자동 심사를 붙인 방식이다.
명령을 실행할 수 있는 에이전트는 편리한 만큼 위험한데, 모든 명령에 확인을 받으면 쓸모가 없어진다.
명령을 분석해 안전한 것만 통과시키는 층을 두면 두 요구를 동시에 만족시킨다.
승인 피로를 줄이는 문제를 UI가 아니라 판정 로직으로 푼 셈이다.

실행 체크리스트

1. 장비 메모리를 확인하고 감당 가능한 모델 크기를 먼저 정합니다.
2. 앱을 설치하고 카탈로그에서 작은 모델부터 하나 내려받습니다.
3. 애플 실리콘이면 MLX 형식을, 그 외에는 GGUF를 우선 봅니다.
4. 채팅에서 응답 속도를 확인하고 느리면 컨텍스트 길이부터 줄입니다.
5. 코드에서 쓸 거면 로컬 서버를 켜고 엔드포인트 주소를 확인합니다.
6. 기존 OpenAI나 Anthropic 형식 코드는 주소만 바꿔 연결해봅니다.
7. 서버에 올릴 계획이면 헤드리스 데몬을 설치해 화면 없이 운영합니다.
8. 큰 모델이 필요한 작업만 골라 클라우드 크레딧을 쓰고, 모델별 단가를 미리 대조합니다.
9. 에이전트에 셸 실행을 맡길 거라면 승인 정책을 먼저 설정합니다.

자주 묻는 질문

LM Studio는 무료인가요

로컬 실행은 무료입니다.
로컬 LLM 구동, 오프라인 음성 받아쓰기, Bionic 에이전트, 기기 5대까지의 LM Link가 무료 플랜에 포함됩니다.
클라우드 모델을 부를 때만 크레딧이 소모됩니다.

어떤 모델을 골라야 하나요

장비 메모리가 기준입니다.
처음이라면 8B 안팎에서 시작해 응답 속도를 확인하고, 여유가 있으면 27B에서 30B 구간으로 올리는 순서가 무난합니다.
애플 실리콘이면 MLX 형식을 우선 봅니다.

기존 OpenAI API 코드를 그대로 쓸 수 있나요

로컬 서버가 OpenAI 호환 엔드포인트와 Anthropic 형식 엔드포인트를 함께 제공하므로, 대부분의 경우 기본 주소만 바꾸면 동작합니다.

데이터가 외부로 나가나요

로컬 실행과 음성 받아쓰기는 기기 안에서 처리됩니다.
클라우드 추론을 쓸 때만 요청이 외부로 나가며, 이 경우에도 데이터를 보관하지 않는다고 표기돼 있습니다.

참고한 곳

• LM Studio 공식 홈
• LM Studio 다운로드
• LM Studio 모델 카탈로그
• Bionic Pricing
• Bionic Changelog