コンテンツにスキップ

自社モデルのファインチューニングとローカル推論 — 実行 (計画中)

自社モデルの物語 — 会社が自ら訓練またはホストするモデルの統治 — は二つの半分に 分かれ、計画中のまま残っているのはそのうち一つだけです。

統治する側の半分は今日出荷されています。それが モジュール XXIII — モデルオペレーションです: バージョン管理された自社モデルのレジストリ(hostedfine_tunedimported)、 署名済みモデルのアドミッションゲート、データセットとファインチューニングジョブの リネージ記録、デプロイ時に enforce-signed を再チェックする統治された ローカル推論デプロイメント記録(vLLM、Ollama、llama.cpp、その他)、そして台帳に アンカーされた封印を備えた AIBOM / モデルカード生成。エンティティとエンドポイントは 宣言済みで、ベータのモジュールルート(/v1/m/models/owned-models/v1/m/models/model-versions/v1/m/models/finetune-jobs/v1/m/models/inference-deployments/v1/m/models/aiboms など)で提供されています — モジュールルートリファレンスを参照してください。

このページが扱うのは、計画中であり意図的にまだ構築されていない、実行する側の半分です: プラットフォーム自身がその作業を実行することです。

今日出荷されているもの(別ページ)

Section titled “今日出荷されているもの(別ページ)”

自社モデルの統治は実在し、 モデルオペレーションのページに 文書化されています:

  • 不変のバージョンを持つ自社モデルのレジストリ — ファインチューニング済みまたは セルフホストのモデルが、管理されないエンドポイントではなく、統治された第一級の エンティティになります;
  • リネージ記録としてのファインチューニングジョブ — 外部で実行された訓練作業と、 各ジョブが生み出したモデルバージョンのインベントリ;
  • 統治された記録としてのローカル推論デプロイメント — あなたが運用するサービング ランタイムを、アドミッション強制(require_signed)と監査の下に置きます。
  • ファインチューニングジョブの実行。 出荷済みモジュールは、他所で実行された ファインチューニング作業の状態とリネージを記録します。プラットフォームは訓練ジョブを 開始・キャンセル・実行することは決してなく、重みやデータセットの内容も保存しません。 プラットフォームからファインチューニングを実行するパイプラインは計画中の作業です。
  • ローカル推論の提供。 デプロイメントはオペレーターが運用するランタイムの統治された 記録です。プラットフォーム自身は推論をホストも提供もしません。ファーストパーティの ローカル推論サービングは計画中の作業です。

この実行する側の半分については、ジョブスキーマ、スケジューラ契約、サービングランタイム 契約は一切宣言されておらず、このページも意図的に何も発明しません。

このプラットフォームは、どの能力も残りを再設計せずに取り付けられるように構築されている ため、実行は出荷済みの統治面の上に後から追加できます。明示的なプロダクト判断により v1 のに置かれました:最初のリリースの優先事項は、組織がすでに動かしている モデルとエージェントを統治することであり、訓練/サービングの実行はその中核価値を v1 の労力を競うほどには変えないからです。

構築されるとき、その自然な継ぎ目はすでに出荷されています:実行されたファインチューニングは モデルオペレーションのレジストリにモデル バージョンを生み、外部で生成されたアーティファクトと同じ署名済みモデルの アドミッションゲートを通ります。ベンダースタックのポリシーは モデルとプロバイダーの管理に留まります。