Skip to main content
Models 页面用于管理作为训练起点的 Base Models,以及由 training runs 生成且可通过 Osmosis inference 部署的 LoRA Models checkpoints。

Base Models

Base models 从 Hugging Face 导入,并作为在 Osmosis 上训练的起点。

默认 Base Models

新 workspace 默认包含以下 base models:
您 workspace 中的 Models 页面是该 workspace 可用 base models 的权威来源。
如果 Models 页面显示 Add Model,您可以用它导入自己有权访问的 Hugging Face model repository。

列出 Base Models

Base model 列表会显示 model name、creation date 和 creator。

LoRA Models

LoRA models 是 training runs 产生的已训练 checkpoints。Models 页面会将它们与 base models 分开列出,并显示 training run、checkpoint step、training reward、creation date,以及您的账号可用 inference deployment 时的 deployment status。

查看 LoRA Models

列出 LoRA models:
显示单个 LoRA model 的详情:
Model 详情包含 base model、training run、checkpoint step、training reward、Hugging Face 发布状态,以及 deployment info 可用时的部署状态。您可以在详情页将 model 发布到 Hugging Face、下载其 artifacts、重命名或删除它。 重命名或删除 active LoRA model 前,请先 undeploy。删除的 models 及其 artifacts 会保留 30 天,之后永久删除。 并排列出 base models 和 LoRA models:
当 deployment info 可用时,LoRA 部分还会显示 workspace 的部署配额汇总(例如 2 of 5 inference deployments used)。

部署 LoRA Model

训练任务完成后,先列出其 LoRA models 以选择要部署的一个:
按名称部署 LoRA model:
对 inactive 的 LoRA model 执行 deploy 会重新激活它。对 already-active 的 LoRA model 再次执行 deploy 是 no-op。

调用 Inference Endpoint

已部署的 LoRA models 通过 OpenAI-compatible chat completions endpoint 提供服务:
使用您的 Osmosis API key,以及 model detail 页面或 osmosis model info 提供的 canonical model 值。该 model 值格式为 <base_model_path>:<lora-model-name>
如果您的账号不可用 inference deployment,deployment status、deployment quota 和 endpoint snippets 可能会被隐藏。

取消部署

将 LoRA model 的部署切换为 inactive:
该 LoRA model 仍会保留在训练任务历史中;undeploy 只会将 serving deployment 转为 inactive。undeploy 是幂等的 —— 对已处于 inactive 的 model 调用它是 no-op。 如果 active evaluation run 或 benchmark run 正在使用该 model,Osmosis 会阻止 undeploy,直至该 run 结束。

要求

  • 在 workspace directory 中运行 model 命令,以便 CLI 可以从 Git origin 解析连接的 workspace。
  • LoRA model 必须属于同一个 workspace 中的训练任务。
  • 您的账号必须可用 inference deployment。部署 models 还需要 workspace billing 处于良好状态 —— self-serve workspaces 需绑定有效的 payment method。
  • GitHub 设置必须健康,训练才能产出新的 LoRA models。

下一步

训练任务

提交训练任务并查看其 LoRA models。

命令参考

查看 model 和 deployment 命令及选项。
最后修改于 2026年8月10日