生成AIでの専用AIクラスタのリスト
OCI生成AIのコンパートメント内のすべての専用AIクラスタを表示します。
- コンソールのナビゲーション・バーで、生成AIを使用するリージョン(米国中西部(シカゴ)や英国南部(ロンドン)など)を選択します。リージョンで提供されるモデルを参照してください。
- ナビゲーション・メニューを開き、「アナリティクスとAI」を選択します。「AIサービス」で、「生成AI」を選択します。
- 左側のナビゲーションで、専用AIクラスタを含むコンパートメントを選択します。
- 「専用AIクラスタ」をクリックします。
-
リストされた専用AIクラスタごとに、次のプロパティを表示します:
- 専用AIクラスタ名
- 状態
- 作成中
- アクティブ
- 更新中
- 削除中
- 削除済
- 失敗
- 作成日時
- タイプ
- ファインチューニング
- ホスティング
- 残りのエンドポイント容量
- ホスト・クラスタにのみ適用されます。
- 容量が50ユニットの場合、クラスタに追加できるユニット数を計算します。
- 各ユニットに1つのエンドポイントを追加できます。
- クラスタを微調整するための単位サイズ
- 大規模汎用(ベース・モデル
meta.llama-3-70b-instruct
およびmeta.llama-3.1-70b-instruct
の場合) - Small Cohere (ベース・モデルが
cohere.command-light
の場合) - Small Cohere V2 (ベース・モデル
cohere.command-r-16k
およびcohere.command-r-08-2024
の場合) - Large Cohere (ベース・モデルが
cohere.command
の場合)
- 大規模汎用(ベース・モデル
- クラスタをホストするための単位サイズ
- 小さい汎用V2(ベース・モデルが
meta.llama-3.2-11b-vision-instruct
の場合) - 大規模汎用(ベース・モデル
meta.llama-3.1-70b-instruct
およびmeta.llama-3-70b-instruct
の場合) - 大規模汎用V2(ベース・モデルが
meta.llama-3.2-90b-vision-instruct
の場合) - 大規模汎用4(ベース・モデルが
meta.llama-3.1-405b-instruct
の場合) - Llama2 70 (ベース・モデルが
meta.llama-2-70b-chat
の場合) - Small Cohere (ベース・モデルが
cohere.command-light
の場合) - Small Cohere V2 (ベース・モデルの場合)、
cohere.command-r-16k
およびcohere.command-r-08-2024
- Large Cohere (ベース・モデルが
cohere.command
の場合) - Large Cohere V2_2 (ベース・モデル
cohere.command-r-plus
およびcohere.command-r-plus-08-2024
の場合) - Embed Cohere (ベース・モデル
cohere.embed.english-light-v3.0
、cohere.embed.english-v3.0
、cohere.embed.multilingual-light-v3.0
およびcohere.embed.multilingual-v3.0
)
- 小さい汎用V2(ベース・モデルが
- ユニット数
- ベース・モデルが
cohere.command-r-16k
、cohere.command-r-08-2024
、その他の使用可能なファインチューニング・モデルの場合は2のファインチューニング・クラスタの場合は8 - クラスタをホストするための1つ以上
- ベース・モデルが
- 作成者
- 説明