Перейти к содержимому

Fine-tuning собственных моделей и локальный инференс — исполнение (планируется)

История собственных моделей — управление моделями, которые компания обучает или хостит сама — делится на две половины, и запланированной остаётся только одна.

Управляющая половина поставляется уже сегодня как Модуль XXIII — операции с моделями: версионированный реестр собственных моделей (hosted, fine_tuned, imported), шлюз допуска подписанных моделей, записи происхождения датасетов и заданий fine-tuning, управляемые записи развёртываний локального инференса (vLLM, Ollama, llama.cpp, другие) с повторной проверкой enforce-signed в момент развёртывания, и генерация AIBOM / карточки модели с запечатыванием, заякоренным в леджере. Его сущности и эндпоинты объявлены и обслуживаются по бета-маршрутам модулей (/v1/m/models/owned-models, /v1/m/models/model-versions, /v1/m/models/finetune-jobs, /v1/m/models/inference-deployments, /v1/m/models/aiboms, …) — см. справочник маршрутов модулей.

Эта страница отслеживает исполняющую половину, которая запланирована и сознательно не построена: чтобы платформа сама выполняла эту работу.

Что поставляется сегодня (на другой странице)

Заголовок раздела «Что поставляется сегодня (на другой странице)»

Управление собственными моделями реально и задокументировано на странице операций с моделями:

  • реестр собственных моделей с неизменяемыми версиями, чтобы дообученная или самостоятельно хостящаяся модель была первоклассной управляемой сущностью, а не неуправляемым эндпоинтом;
  • задания fine-tuning как записи происхождения — инвентаризация обучающей работы, выполненной вовне, и версии модели, которую произвело каждое задание;
  • развёртывания локального инференса как управляемые записи — среды обслуживания, которыми управляете вы, под контролем допуска (require_signed) и аудита.
  • Выполнение заданий fine-tuning. Поставляемый модуль записывает статус и происхождение работы fine-tuning, выполненной в другом месте; платформа никогда не запускает, не отменяет и не исполняет обучающее задание и не хранит ни весов, ни содержимого датасетов. Конвейер, исполняющий fine-tuning с платформы, — это запланированная работа.
  • Обслуживание локального инференса. Развёртывания — это управляемые записи сред, которые запускает оператор; платформа сама не хостит и не обслуживает инференс. Обслуживание локального инференса силами самой платформы — запланированная работа.

Для этой исполняющей половины не объявлено ни схемы задания, ни контракта планировщика, ни контракта среды обслуживания, и эта страница сознательно ничего не выдумывает.

Платформа построена так, чтобы любая возможность подключалась без переархитектуры остального, поэтому исполнение можно добавить позже поверх уже поставленных управляющих поверхностей. Оно было помещено после v1 явным продуктовым решением: приоритет первого релиза — управлять моделями и агентами, которые организация уже запускает, а исполнение обучения/обслуживания не меняет эту базовую ценность настолько, чтобы конкурировать за усилия v1.

Когда оно будет построено, его естественный шов уже поставлен: выполненный fine-tuning произвёл бы версию модели в реестре операций с моделями и прошёл бы тот же шлюз допуска подписанных моделей, что и любой произведённый вовне артефакт, а политика вендорского стека остаётся в управлении моделями и провайдерами.