LM Studio

LM Studio chạy các mô hình llama.cpp (GGUF) hoặc MLX cục bộ, dưới dạng ứng dụng GUI hoặc daemon llmster không giao diện. Để xem tài liệu cài đặt và sản phẩm, hãy truy cập lmstudio.ai.

​

Bắt đầu nhanh

1. Cài đặt và khởi động máy chủ

   Cài đặt LM Studio (máy tính để bàn) hoặc llmster (không giao diện), sau đó khởi động máy chủ:

   lms server start --port 1234
   

   Hoặc chạy daemon không giao diện:

   lms daemon up
   

   Nếu sử dụng ứng dụng máy tính để bàn, hãy bật JIT để tải mô hình mượt mà; xem hướng dẫn JIT và TTL của LM Studio.

2. Đặt khóa API nếu xác thực được bật

   export LM_API_TOKEN="your-lm-studio-api-token"
   

   Nếu xác thực LM Studio bị tắt, hãy để trống khóa API trong quá trình thiết lập. Xem Xác thực LM Studio.

3. Chạy quy trình thiết lập ban đầu

   openclaw onboard
   

   Chọn LM Studio, sau đó chọn một mô hình tại lời nhắc Default model.

   Trong lần thiết lập có hướng dẫn mới, trước tiên OpenClaw truy vấn /api/v1/models trên máy chủ LM Studio mặc định hoặc đã cấu hình. Một LLM hiện có chỉ được tự động đề xuất khi LM Studio báo cáo khả năng huấn luyện công cụ và ngữ cảnh hiệu dụng ít nhất 16K. Đối với các mô hình đã tải, ngữ cảnh của phiên bản đã tải được ưu tiên hơn mức tối đa lớn hơn được công bố. Cùng một chuỗi thiết lập CLI/macOS sẽ xác minh tuyến bằng một lượt hoàn thành thực tế trước khi lưu. Quá trình kiểm tra tự động không bao giờ tải xuống mô hình và bỏ qua các mục danh mục chỉ dành cho embedding.

Thay đổi mô hình mặc định sau:

openclaw models set lmstudio/qwen/qwen3.5-9b

Khóa mô hình LM Studio sử dụng định dạng author/model-name (ví dụ: qwen/qwen3.5-9b); tham chiếu mô hình OpenClaw thêm nhà cung cấp vào trước: lmstudio/qwen/qwen3.5-9b. Tìm khóa chính xác của một mô hình bằng cách chạy lệnh bên dưới và xem trường key:

curl http://localhost:1234/api/v1/models

​

Thiết lập ban đầu không tương tác

openclaw onboard --non-interactive --accept-risk --auth-choice lmstudio

Hoặc chỉ định rõ URL cơ sở, mô hình và khóa API:

openclaw onboard \
  --non-interactive \
  --accept-risk \
  --auth-choice lmstudio \
  --custom-base-url http://localhost:1234/v1 \
  --lmstudio-api-key "$LM_API_TOKEN" \
  --custom-model-id qwen/qwen3.5-9b

--custom-model-id nhận khóa mô hình do LM Studio trả về (ví dụ: qwen/qwen3.5-9b), không có tiền tố nhà cung cấp lmstudio/. Truyền --lmstudio-api-key (hoặc đặt LM_API_TOKEN) cho các máy chủ có xác thực; bỏ qua đối số này đối với máy chủ không xác thực và OpenClaw sẽ lưu một dấu hiệu cục bộ không bí mật. --custom-api-key vẫn được chấp nhận để đảm bảo khả năng tương thích, nhưng ưu tiên --lmstudio-api-key.

Thao tác này ghi models.providers.lmstudio và đặt mô hình mặc định thành lmstudio/<custom-model-id>. Việc cung cấp khóa API cũng ghi hồ sơ xác thực lmstudio:default.

Thiết lập tương tác còn có thể nhắc chọn độ dài ngữ cảnh tải ưu tiên và áp dụng giá trị đó cho các mô hình được phát hiện mà thiết lập lưu vào cấu hình.

​

Cấu hình

​

Khả năng tương thích với mức sử dụng khi truyền phát

LM Studio không phải lúc nào cũng phát ra đối tượng usage theo cấu trúc OpenAI trong phản hồi truyền phát. OpenClaw thay vào đó khôi phục số lượng token từ siêu dữ liệu kiểu llama.cpp timings.prompt_n / timings.predicted_n. Mọi endpoint tương thích với OpenAI được phân giải là endpoint cục bộ (máy chủ loopback) đều sử dụng cùng cơ chế dự phòng này, bao gồm các backend cục bộ khác như vLLM, SGLang, llama.cpp, LocalAI, Jan, TabbyAPI và text-generation-webui.

​

Khả năng tương thích với chế độ suy luận

Khi hoạt động khám phá /api/v1/models của LM Studio báo cáo các tùy chọn suy luận dành riêng cho mô hình, OpenClaw hiển thị các giá trị reasoning_effort tương ứng (none, minimal, low, medium, high, xhigh) trong siêu dữ liệu tương thích của mô hình. Một số bản dựng LM Studio công bố tùy chọn UI nhị phân (allowed_options: ["off", "on"]) nhưng từ chối các giá trị nguyên văn đó trên /v1/chat/completions; OpenClaw chuẩn hóa dạng nhị phân này thành thang sáu mức trước khi gửi yêu cầu, kể cả với cấu hình cũ đã lưu vẫn có ánh xạ suy luận off/on.

​

Cấu hình tường minh

{
  models: {
    providers: {
      lmstudio: {
        baseUrl: "http://localhost:1234/v1",
        apiKey: "${LM_API_TOKEN}",
        api: "openai-completions",
        models: [
          {
            id: "qwen/qwen3-coder-next",
            name: "Qwen 3 Coder Next",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

​

Tắt tải trước

LM Studio hỗ trợ tải mô hình đúng lúc (JIT), tức là tải mô hình khi có yêu cầu đầu tiên. Theo mặc định, OpenClaw tải trước các mô hình thông qua endpoint tải gốc của LM Studio, giúp ích khi JIT bị tắt. Để LM Studio JIT, TTL khi không hoạt động và hành vi tự động loại bỏ tự quản lý vòng đời mô hình, hãy tắt bước tải trước của OpenClaw:

{
  models: {
    providers: {
      lmstudio: {
        baseUrl: "http://localhost:1234/v1",
        api: "openai-completions",
        params: { preload: false },
        models: [{ id: "qwen/qwen3.5-9b" }],
      },
    },
  },
}

​

Máy chủ LAN hoặc tailnet

Sử dụng địa chỉ có thể truy cập của máy chủ LM Studio, giữ nguyên /v1 và bảo đảm LM Studio được liên kết vượt ra ngoài loopback trên máy đó:

{
  models: {
    providers: {
      lmstudio: {
        baseUrl: "http://gpu-box.local:1234/v1",
        apiKey: "lmstudio",
        api: "openai-completions",
        models: [{ id: "qwen/qwen3.5-9b" }],
      },
    },
  },
}

lmstudio tự động tin cậy endpoint đã cấu hình cho các yêu cầu mô hình, bao gồm máy chủ loopback, LAN và tailnet (ngoại trừ các nguồn metadata/link-local). Mọi mục nhà cung cấp tùy chỉnh/cục bộ tương thích với OpenAI đều nhận cùng mức tin cậy theo nguồn chính xác. Các yêu cầu đến một máy chủ riêng tư hoặc cổng khác vẫn yêu cầu models.providers.<id>.request.allowPrivateNetwork: true; đặt thành false để từ chối mức tin cậy mặc định.

​

Khắc phục sự cố

​

Không phát hiện được LM Studio

Đảm bảo LM Studio đang chạy:

lms server start --port 1234

Nếu xác thực được bật, hãy đặt cả LM_API_TOKEN. Xác minh rằng API có thể truy cập được:

curl http://localhost:1234/api/v1/models

​

Lỗi xác thực (HTTP 401)

• Kiểm tra xem LM_API_TOKEN có khớp với khóa được cấu hình trong LM Studio hay không.
• Xem Xác thực LM Studio.
• Nếu máy chủ không yêu cầu xác thực, hãy để trống khóa trong quá trình thiết lập.

​

Liên quan

• Lựa chọn mô hình
• Ollama
• Mô hình cục bộ