自有模型微调与本地推理——执行(规划中)
自有模型的故事——治理公司自行训练或自行托管的模型——分为两半,其中仍处于规划中的只有一半。
治理的那一半今天已经交付,即
模块 XXIII——模型运维:带版本管理的
自有模型注册表(hosted、fine_tuned、imported)、签名模型的准入关卡、
数据集与微调作业的血缘记录、受治理的本地推理部署记录(vLLM、Ollama、llama.cpp
及其他)并在部署时重新校验 enforce-signed,以及带账本锚定封存的 AIBOM /
模型卡片生成。它的实体与端点均已声明,并在 beta 模块路由下提供
(/v1/m/models/owned-models、/v1/m/models/model-versions、
/v1/m/models/finetune-jobs、/v1/m/models/inference-deployments、
/v1/m/models/aiboms 等)——参见模块路由参考。
本页跟踪的是执行的那一半,它处于规划中且有意尚未构建:即平台自身去执行这些工作。
今天已交付的部分(在另一页)
Section titled “今天已交付的部分(在另一页)”自有模型的治理是真实存在的,并记录在 模型运维页面:
- 带不可变版本的自有模型注册表——让微调或自托管的模型成为受治理的一等实体, 而不是无人管理的端点;
- 作为血缘记录的微调作业——对在外部执行的训练工作及每个作业产出的模型版本的清单记录;
- 作为受治理记录的本地推理部署——你所运维的服务运行时,被置于准入强制
(
require_signed)与审计之下。
仍在规划中的部分
Section titled “仍在规划中的部分”- 执行微调作业。 已交付的模块记录在别处执行的微调工作的状态与血缘;平台从不启动、 取消或执行训练作业,也不存储权重或数据集内容。由平台执行微调的流水线是规划中的工作。
- 提供本地推理服务。 部署是运维者所运行运行时的受治理记录;平台自身不托管、 不提供推理服务。由平台第一方提供本地推理服务是规划中的工作。
对于执行的这一半,没有声明任何作业模式、调度器契约或服务运行时契约,本页也有意不去发明任何一个。
为什么是规划而非交付
Section titled “为什么是规划而非交付”该平台的构建方式使任何能力都能在不重构其余部分的情况下接入,因此执行能力可以日后叠加在 已交付的治理面之上。它被一个明确的产品决策放在了 v1 之后:第一个版本的优先事项是治理 组织已经在运行的模型与 agent,而执行训练/推理服务并不足以改变这一核心价值来争夺 v1 的投入。
当它被构建时,其自然的接缝已经交付:一次被执行的微调将在 模型运维的注册表中产出一个模型版本, 并像任何外部产出的工件一样通过同一个签名模型准入关卡;供应商栈的策略则仍留在 模型与提供方管理中。
- 模块 XXIII——模型运维——已交付的自有模型治理面:注册表、准入、血缘、部署、AIBOM。
- 模块目录——30 个已交付模块,以及自有模型工作所处的位置。
- 模块 X——模型与提供方管理——治理供应商模型栈的已交付近邻。
- 诚实声明与局限——“广泛观测 / 在子集上行动”的契约,以及”规划中”的含义。