モデル・デプロイメント

• コンソール
• CLI
• API

• 1. モデル・エクスプローラにナビゲートします。
  2. デプロイするモデルのモデル・カードを選択します。
  3. 「デプロイ」を選択して、モデルをデプロイします。
     「モデルのデプロイ」ページが表示されます。

     1. デプロイメントに名前を付けます。
     2. コンピュート・シェイプを選択します。
     3. オプション: ログ・グループを選択します。
     4. オプション: 予測およびアクセス・ログを選択します。
     5. オプション: プライベート・エンドポイントを選択します。
        ノート
        
        プライベート・エンドポイントは、モデル・デプロイメント・リソースの前提条件として作成する必要があります。

        モデル・デプロイメントのプライベート・エンドポイント機能は、OC1レルムでのみ有効です。その他のレルムの場合は、データ・サイエンスのサービス・リクエストを作成します。

     6. 「拡張オプションの表示」を選択します。
     7. インスタンス数を更新し、Load Balancerの帯域幅を更新します。
     8. オプション: 「推論コンテナ」で、推論コンテナを選択します。
     9. オプション: 「推論モード」を選択します。
     10. 「デプロイ」を選択します
  4. 「AIクイック処理」で、「デプロイメント」を選択します。
     モデル・デプロイメントのリストが表示されます。ステップ3で作成したデプロイメントの場合は、「ライフサイクルの状態」が「アクティブ」になるまで待ってから、それをクリックして使用します。
  5. スクロールして「推論ウィンドウ」を表示します。
  6. 「プロンプト」にテキストを入力して、モデルをテストします。
  7. (オプション)必要に応じてモデル・パラメータを調整します。
  8. 「生成」をクリックします。
     「レスポンス」に出力が表示されます。

• AIクイック処理CLIコマンドのパラメータおよび値の完全なリストは、AIクイック処理CLIを参照してください。

• このタスクはAPIを使用して実行できません。