コンテンツにスキップ

モジュール XI — コストと AI FinOps

モジュール XI は AI のためのコスト/FinOps レイヤーである。model および provider コネクタが 報告するものを計上し、支出を任意の attribution ディメンションでスライスでき、現在の期間を 予測し、budget を単なるフラグ付けではなく上限で支出を拒否する実際の強制(enforcement)へと 変える。本ページは、FinOps が今日何をし、その保証がどこで終わるかのリファレンスである。

FinOps はプロバイダー統合を再実装しない — model/provider のコストストリームを消費し、 コネクタが権威をもって導出または読み取ったものを計上する。金額は常に整数の micro-USD 値(1 ドルの 100 万分の 1)であり、float では決してないため、合計がドリフトすることは決して ない。これは Intelligence レイヤーのモジュールである。ingestion、budget、analytics を所有し、 コアやその隣接モジュールに触れることなく、独自の RBAC でゲートされた API 名前空間と UI ビュー を通じてそれらを公開する。

本モジュールは構成上minimal-data である。トークン数、導出されたコスト、attribution の 参照を保存する — プロンプト、completion、秘密情報は決して保存しない。コストは governance データであるため、読み取りは API でロールゲートされ、いかなる USD 金額もエンドユーザーに 公開されることは決してない(これは UI 設定ではなくワイヤーの特性である)。

cost.sampled イベント(CostSampleイベントバス 参照)は 2 通りに 記録される。

  • 正規化された規範的(canonical)な CostRecord ledger(id をキーとするコアエンティティ)。 これは自然キー(natural key)で重複排除される — バケットのidentity(provider/model/ session/instant に加え、すべての attribution ディメンションと provenance)であり、その value では決してない — したがって再取得されたオープンバケットや遅延確定された報告は、 at-least-once ストリーム上で二重計上するのではなくその場で upsert される
  • attribution の自然な名前(provider、model、agent、session、team、project)をキーとする 非正規化された FinOps read-model 行。これにより、provider の service_tier を含む それらのディメンションのいずれによっても支出が効率的に集計される。

budget は kind が budget のコア Policy である。ディメンション(global/model/provider/ agent/session/team/project)、limit、period、そして alert のしきい値から成る。その action は 3 つのうち 1 つ — alert(showback のみ、決して強制しない安全なデフォルト)、 throttle、または block。analytics は、任意のディメンションによる支出の内訳、合計、日次の トレンド系列、現在期間の run-rate とトレンド予測(明示的な confidence band 付き)、 prompt-cache 効率ビュー、そして最適化の推奨を提供する — それぞれが記録されたデータに根ざし、 その前提について正直である。

FinOps は イベントバス から cost.sampled消費し、2 つの効果を 生成する。ingest 時、消費がこの期間にまだ越えていない budget しきい値を越えると、alert を 記録し FindingReportfinding.reported)を発行するシグナルのみである。Slack/ SIEM/PagerDuty への配信は output-connector モジュールの役目であり、FinOps のものではない。

第二の効果は強制である。actionthrottle または block の budget は、各作用する モジュール自身の用語で宣言された BudgetGate シームを通じて上限で支出を拒否する (orchestration の fire、voice の open、model router の resolve)。FinOps を import する モジュールは無い。このゲートは**承認ゲートとは直交して(orthogonally)動作し — あるアクション は人間に承認されてもなお budget で拒否されうる — cap-effective な支出に対して金額フリーの 理由(money-free reason)**で応答する(read-only ルート上には USD も budget 名も無い)。 ハードな blockHTTP 402 で拒否し、ソフトな throttleHTTP 429 で拒否し、その 拒否は append-only な ledger に書き込まれ監査される。統制と承認 を参照。