生成AIでのコストの計算
OCI生成AIでは、オンデマンド推論または専用AIクラスタに対して支払うことができます。
- オンデマンド推論
-
- あなたは行った通りに金を払う。
- 推論コールの文字長ごとに支払います。
- 価格設定ページで、トランザクション数の価格を表示する場合、これは推論コールの文字数です。1つのトランザクションが1文字に等しい。
- 専用AIクラスタ
-
- 専用のGPUセットを取得します。
- 専用AIクラスタでカスタム・モデルを微調整できます。
- 専用AIクラスタで、基本モデルおよびファインチューニング・モデルのレプリカをホストできます。
- 専用AIクラスタの使用の特定の時間に事前にコミットします。価格については、価格のページを参照してください。
次のトピックと例を参照して、オンデマンド推論または専用AIクラスタの使用を決定し、各オプションのコストを計算する際に役立ちます。