跳转到主要内容

Documentation Index

Fetch the complete documentation index at: https://docs.osmosis.ai/llms.txt

Use this file to discover all available pages before exploring further.

Deployment 让您在训练任务完成后 serve 已训练的 LoRA checkpoint。您可以从平台 UI 部署,也可以在 workspace directory 中使用 CLI 部署。

部署 Checkpoint

训练任务完成后,先查看可用 checkpoint:
osmosis train info <run-name>
通过 checkpoint name 或 ID 部署:
osmosis deploy <checkpoint-name>
如果您在交互式终端中运行不带参数的 osmosis deploy,CLI 会提示您选择训练任务和 checkpoint。

查看 Deployments

列出 deployments:
osmosis deployment list
查看 deployment 详情:
osmosis deployment info <checkpoint-name>
Deployment 详情包含 checkpoint、状态、base model、step、创建者和创建时间。

Undeploy

停用已部署 checkpoint:
osmosis undeploy <checkpoint-name>
该 checkpoint 仍会保留在训练任务历史中;undeploy 只会将 serving deployment 转为 inactive。

要求

  • 在 workspace directory 中运行 deployment 命令,以便 CLI 可以从 Git origin 解析连接的 workspace。
  • checkpoint 必须属于同一个 workspace 中的训练任务。
  • GitHub 设置必须健康,训练才能产出新的 checkpoint。

下一步

Training Runs

提交训练任务并查看 checkpoints。

Command Reference

查看 deployment 命令和选项。