生成AIでのテキストの生成

OCI生成AIでテキスト生成の大規模言語生成モデルを専用AIクラスタにホストして、テキストの生成やテキストからの情報の抽出を行います。かわりにチャット・モデルを使用することをお薦めします。

重要

  • オンデマンドで使用不可:テキスト生成および集計API (プレイグラウンドを含む)を使用するオンデマンド・サービング・モードでサポートされているすべてのOCI生成AI基礎事前トレーニング済モデルが廃止されました。かわりにチャット・モデルを使用することをお薦めします。
  • クラスタでホスト可能:専用AIクラスタ(専用サービス・モード)で集計またはcohere.commandなどの生成モデルをホストする場合、そのモデルが廃止されるまで引き続き使用できます。これらのモデルは、専用AIクラスタでホストされている場合、米国中西部(シカゴ)でのみ使用できます。廃止日と定義については、モデルの廃止を参照してください。
    1. コンソールのナビゲーション・バーで、「US Midwest (Chicago)」リージョンを選択します。
    2. ナビゲーション・メニューを開き、「アナリティクスとAI」をクリックします。「AIサービス」で、「生成AI」をクリックします。
    3. 作業する権限があるコンパートメントを選択します。プレイグラウンドが表示されない場合は、管理者に生成AIリソースへのアクセス権の付与を依頼して、次のステップに戻ります。
    4. 「プレイグラウンド」をクリックします。
    5. 「生成」をクリックします。
    6. 次のいずれかのアクションを実行して、テキスト生成のモデルを選択します。
      • 「モデル詳細の表示」をクリックし、モデルを選択して、「モデルの選択」をクリックします。
    7. プロンプトを入力するか、「例」リストから例を選択してベース・プロンプトとして使用するか、そこから学習します。
    8. (オプション)パラメータの新しい値を設定します。パラメータの詳細は、「生成モデル・パラメータ」を参照してください。
      ノート

      cohere.commandホスト・モデルの場合、「可能性の表示」を選択すると、モデルがレスポンスを生成した後、生成された単語の上にマウスを置くと、トークンとその可能性が表示されます。
    9. 「生成」をクリックします。
    10. (オプション)出力を変更するには、プロンプトとパラメータを更新し、「生成」をクリックします。出力に満足するまで、このステップを繰り返します。
      ノート

      フォローアップ質問の前のプロンプトのコンテキストを維持するには、「出力のコピー」をクリックして、次のプロンプトに出力を含めます。
    11. 生成された出力をコピーするには、「出力のコピー」をクリックします。

      出力がコンピュータのクリップボードにコピーされます。

    12. (オプション)出力を生成したコードをコピーするには、「コードの表示」をクリックし、プログラミング言語を選択して「コードのコピー」をクリックし、コードをファイルにペーストしてファイルを保存します。ファイルが、貼り付けられたコードの形式を保持します。
      ヒント

      アプリケーションでコードを使用している場合は、コードを認証していることを確認してください。
    13. (オプション)新しいプロンプトを開始するには、「入力」領域の下の「クリア」をクリックします。
      ノート

      「クリア」をクリックすると、モデル・パラメータがデフォルト値にリセットされます。
  • テキストを生成するには、generate-text-result操作を使用します。

    テキストを生成するオプションのリストを表示するには、次のコマンドを入力します。

    oci generative-ai-inference generate-text-result -h

    OCIGenerative AI CLIコマンドのパラメータおよび値の完全なリストは、生成AI推論CLIおよび生成AI管理CLIを参照してください。

  • GenerateText操作を実行してテキストを生成します。

    APIの使用およびリクエストの署名の詳細は、REST APIのドキュメントおよびセキュリティ資格証明を参照してください。SDKの詳細は、SDKおよびCLIを参照してください。