SGLang

SGLang 透過與 OpenAI 相容的 HTTP API 提供開放權重模型。OpenClaw 使用 openai-completions 提供者系列連線至 SGLang，並自動探索可用模型。

屬性	值
提供者 ID	sglang
外掛	內建，enabledByDefault: true
驗證環境變數	SGLANG_API_KEY（若伺服器未設定驗證，可使用任何非空值）
初始設定旗標	--auth-choice sglang
API	與 OpenAI 相容（openai-completions）
預設基礎 URL	http://127.0.0.1:30000/v1
預設模型預留位置	sglang/Qwen/Qwen3-8B
串流用量	是（supportsStreamingUsage: true）
定價	標示為外部免費（modelPricing.external: false）

當你使用 SGLANG_API_KEY 選擇啟用時，OpenClaw 也會從 SGLang 自動探索可用模型。如果你也設定自訂 SGLang 基礎 URL，請在 agents.defaults.models 中使用 sglang/*，以維持動態探索。請參閱下方的模型探索（隱含提供者）。

​

開始使用

1. 啟動 SGLang

   使用與 OpenAI 相容的伺服器啟動 SGLang。你的基礎 URL 應公開 /v1 端點（例如 /v1/models、/v1/chat/completions）。SGLang 通常執行於：

   • http://127.0.0.1:30000/v1
2. 設定 API 金鑰

   如果你的伺服器未設定驗證，任何值皆可使用：

   export SGLANG_API_KEY="sglang-local"
   
3. 執行初始設定或直接設定模型

   openclaw onboard
   

   或手動設定模型：

   {
     agents: {
       defaults: {
         model: { primary: "sglang/your-model-id" },
       },
     },
   }
   

​

模型探索（隱含提供者）

設定 SGLANG_API_KEY（或存在驗證設定檔），且你未 定義 models.providers.sglang 時，OpenClaw 會查詢：

• GET http://127.0.0.1:30000/v1/models

並將傳回的 ID 轉換為模型項目。

如果你明確設定 models.providers.sglang，OpenClaw 預設會使用你宣告的 模型。若要讓 OpenClaw 查詢該已設定提供者的 /models 端點，並納入 所有公告的 SGLang 模型，請將 "sglang/*": {} 新增至 agents.defaults.models。

​

明確設定（手動模型）

在下列情況使用明確設定：

• SGLang 在不同的主機／連接埠上執行。
• 你想要固定 contextWindow/maxTokens 值。
• 你的伺服器需要真正的 API 金鑰（或你想要控制標頭）。

{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "Local SGLang Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

​

進階設定

代理式行為

SGLang 會被視為代理式、與 OpenAI 相容的 /v1 後端，而不是 原生 OpenAI 端點。

行為	SGLang
僅適用於 OpenAI 的請求塑形	不套用
service_tier、Responses store、提示快取提示	不傳送
推理相容承載資料塑形	不套用
隱藏歸屬標頭（originator、version、User-Agent）	不會注入自訂 SGLang 基礎 URL

疑難排解

無法連線至伺服器

確認伺服器正在執行且能夠回應：

curl http://127.0.0.1:30000/v1/models

驗證錯誤

如果請求因驗證錯誤而失敗，請設定符合 伺服器設定的有效 SGLANG_API_KEY，或在 models.providers.sglang 下明確設定提供者。

如果你執行 SGLang 時未啟用驗證，為 SGLANG_API_KEY 設定任何非空值，即足以選擇啟用模型探索。

​

相關內容

模型選擇

選擇提供者、模型參照與容錯移轉行為。

設定參考

完整的設定結構描述，包括提供者項目。