跳转到内容

自有模型微调与本地推理——执行(规划中)

自有模型的故事——治理公司自行训练或自行托管的模型——分为两半,其中仍处于规划中的只有一半。

治理的那一半今天已经交付,即 模块 XXIII——模型运维:带版本管理的 自有模型注册表hostedfine_tunedimported)、签名模型的准入关卡、 数据集与微调作业的血缘记录、受治理的本地推理部署记录(vLLM、Ollama、llama.cpp 及其他)并在部署时重新校验 enforce-signed,以及带账本锚定封存的 AIBOM / 模型卡片生成。它的实体与端点均已声明,并在 beta 模块路由下提供 (/v1/m/models/owned-models/v1/m/models/model-versions/v1/m/models/finetune-jobs/v1/m/models/inference-deployments/v1/m/models/aiboms 等)——参见模块路由参考

本页跟踪的是执行的那一半,它处于规划中且有意尚未构建:即平台自身去执行这些工作。

今天已交付的部分(在另一页)

Section titled “今天已交付的部分(在另一页)”

自有模型的治理是真实存在的,并记录在 模型运维页面:

  • 带不可变版本的自有模型注册表——让微调或自托管的模型成为受治理的一等实体, 而不是无人管理的端点;
  • 作为血缘记录的微调作业——对在外部执行的训练工作及每个作业产出的模型版本的清单记录;
  • 作为受治理记录的本地推理部署——你所运维的服务运行时,被置于准入强制 (require_signed)与审计之下。
  • 执行微调作业。 已交付的模块记录在别处执行的微调工作的状态与血缘;平台从不启动、 取消或执行训练作业,也不存储权重或数据集内容。由平台执行微调的流水线是规划中的工作。
  • 提供本地推理服务。 部署是运维者所运行运行时的受治理记录;平台自身不托管、 不提供推理服务。由平台第一方提供本地推理服务是规划中的工作。

对于执行的这一半,没有声明任何作业模式、调度器契约或服务运行时契约,本页也有意不去发明任何一个。

该平台的构建方式使任何能力都能在不重构其余部分的情况下接入,因此执行能力可以日后叠加在 已交付的治理面之上。它被一个明确的产品决策放在了 v1 之后:第一个版本的优先事项是治理 组织已经在运行的模型与 agent,而执行训练/推理服务并不足以改变这一核心价值来争夺 v1 的投入。

当它被构建时,其自然的接缝已经交付:一次被执行的微调将在 模型运维的注册表中产出一个模型版本, 并像任何外部产出的工件一样通过同一个签名模型准入关卡;供应商栈的策略则仍留在 模型与提供方管理中。