跳至主要內容

LM Studio：管理模型目录、运行时加载与本地 API Server

高谷深陵大约 5 分钟约 1525 字
LM Studio 模型目录、运行时和本地 API Server 知识海报
LM Studio 模型目录与 API Server 链高清原图

LM Studio 同时提供桌面模型管理、聊天、运行时加载和本地 API Server。GUI 让实验更直观，也增加了模型目录、应用设置、会话记录与后台服务等状态。项目接入不能只保存一张“服务器已启动”的截图。

应用版本、runtime 与模型是三层资产

从 LM Studio 官方下载页安装，记录应用版本与平台。LM Runtime 决定模型格式和推理后端，模型文件再决定权重、量化与许可证；三层需要分别盘点。模型搜索结果不等于来源已批准，下载前核对仓库、发布者、许可证、格式、量化和校验信息。

lms --version
lms ls
lms ps

CLI 命令以当前官方文档和实际版本为准。团队清单保存模型文件名、来源、大小、runtime 与用途，不用展示名称代替完整身份。模型目录包含巨量二进制，迁移时用可校验下载或受控离线包，不复制未知缓存。

模型加载参数决定资源与输出边界

加载模型时的上下文长度、GPU offload、并发与内存策略会改变延迟和容量。第一次加载先用保守参数，记录 RAM/VRAM、冷启动和每秒 token，再扩大上下文。GUI 中的选择也要导出或记录为项目配置，否则另一台机器无法复现。

lms load <model-key>
lms ps
lms unload <model-key>

具体参数随版本和 runtime 变化，不能把一次界面选项写成永久事实。显存不足、模型格式不兼容和 runtime 缺失应分别处理，不用降低所有质量参数掩盖安装问题。

本地 API Server 必须显式控制监听与认证

Developer 页面可以启动 API Server，lms server start 也能从终端启动。默认 localhost 适合单机项目；允许网络访问后，监听地址、认证 token、TLS、反向代理、限流和审计必须同时设计。官方当前文档区分 LM Studio 原生 REST API、SDK 与兼容端点，项目要明确选择哪一种。

lms server start
curl -s http://127.0.0.1:1234/api/v1/models

端口与路径以本机配置和当前文档为准。token 不写入仓库或终端录屏，健康检查不输出模型私有元数据。桌面应用退出是否会停止 server 要实测，不能假设关闭窗口等于关闭网络监听。

原生 API 与兼容 API 不能混成一个契约

LM Studio 原生 v1 API覆盖模型查询、加载、卸载与聊天等管理能力，OpenAI/Anthropic-compatible 入口面向已有客户端适配。兼容层只保证已声明的接口形状，不继承云服务的配额、错误、工具调用或计费语义。

curl --fail http://127.0.0.1:1234/api/v1/chat \
  -H 'Content-Type: application/json' \
  -H "Authorization: Bearer $LM_STUDIO_API_TOKEN" \
  -d '{"model":"<loaded-model>","input":"仅输出 OK"}'

项目适配层记录 endpoint 类型、模型身份、超时、流式格式与错误体。升级时分别回归原生和兼容入口，不因为一个 /v1/models 能返回就推断所有客户端功能一致。

正反实验验证服务、权限和模型状态

正向实验对已加载模型发送固定输入，验证状态码、结构、输出约束和时延。反向实验使用未加载模型、错误 token、非法请求和不可达端口，客户端应给出可区分错误。另做网络探测，确认非授权网段无法访问。

curl --fail --max-time 20 http://127.0.0.1:1234/api/v1/chat \
  -H 'Authorization: Bearer wrong-token' \
  -d '{"model":"missing-model","input":"test"}'

如果反例仍成功，说明认证或模型选择没有生效，应立即停止网络暴露。质量验证使用固定任务集和人工审查，模型能生成文本不等于代码正确；工具调用权限继续由代理与 MCP 层单独约束。

会话、日志和模型目录属于本地数据面

桌面聊天、prompt 历史、下载元数据、服务日志和模型文件都可能留下源码或内部名称。共享电脑使用独立系统账号，应用目录和模型目录限制访问。诊断时先脱敏再上传，远程支持不能默认获得完整会话。

容量按模型磁盘、runtime、RAM/VRAM、上下文、并发和保留会话核算。成功作业不需要保存完整对话；团队共享服务器设置模型 owner、磁盘水位、并发上限和卸载策略。模型许可证与来源也进入清单。

更新、清理与退出要覆盖 GUI 和后台状态

更新前记录应用/runtime 版本、模型列表、加载设置、server 配置和固定评测。新版并行比较 API、性能和质量，失败时恢复旧安装与配置，不直接覆盖模型目录。清理先停 server、卸载模型、确认项目 endpoint 已切换，再删除模型与会话。

lms server stop
lms unload --all
lms ps

实际命令以当前发行线为准。停用 LM Studio 后还要删除自动启动、token、代理配置和不再需要的模型副本，并验证端口关闭。迁移到新电脑时按来源重新下载应用/runtime/模型，用正向响应、拒绝错误 token 和不可达旧端点三类证据完成恢复。

跳到正文