モデル・デプロイメントの環境変数
モデル・デプロイメント・リソースを作成するときに、デフォルト構成の一部としてカスタム環境変数を指定できます。これらの環境変数は、実行時にコンテナ内で使用できます。
書式制約
- キーは32文字未満にする必要があります。
- キーに使用できるのは、文字、数字およびアンダースコア(_)のみです。
- キーは文字で始まる必要があります。
- キーは2文字以上である必要があります。
- キーの末尾をアンダースコアにすることはできません。たとえば、TEST_です。
- キーを追加した場合、空にできません。値は空です。
- 値は任意の文字です。
- キーをサービス提供の環境変数にすることはできません。
- ポートが環境変数として渡される場合は、1024から65535の範囲に制限し、ポート24224、8446、8447も除外します。
サイズ制約
個々の値には特定のサイズ制限はありません。キー値のペアを含む環境変数全体は、2048バイトに制限されます。サイズが2048バイトを超える場合は、モデル・アーティファクトを使用して環境変数を指定するか、OCI Object Storageを使用してデータをプルします。
サービス提供の環境変数
サービスには、ロギングまたはその他の機能使用のために、実行時にコンテナ内に予約された環境変数があります。これらの環境変数はオーバーライドできません。
| 名前 | カスタム・コンテナ | デフォルト・コンテナ |
|---|---|---|
MODEL_DEPLOYMENT_OCID |
モデル・デプロイメント・リソースOCID。 | モデル・デプロイメント・リソースOCID。 |
MODEL_SERVING_PYTHON_VERSION |
ありません。 | モデル・サービングに使用されるruntime.yamlのPythonバージョン。 |
TENANCY_OCID |
テナントOCID | テナントOCID |
CONTAINER_CUSTOM_IMAGE |
API環境構成オブジェクトを介して提供されるコンテナ・イメージ・パス(タグまたはダイジェストあり)。 | ありません。 |
アプリケーション環境変数
これらの環境変数は、モデル・デプロイメントの作成方法を機能的に制御し、デフォルト構成を渡すことで顧客によってオーバーライドまたは構成できます。
| 名前 | カスタム・コンテナ | 管理対象コンテナ |
|---|---|---|
WEB_CONCURRENCY |
使用可能なメモリーとモデル・アーティファクトのサイズに基づいて、ヒューリスティック・メソッドは、カスタム・コンテナ内で実行するために必要なワーカーの数を計算します。また、必要に応じて、変数をオーバーライドしたり、カスタム同時実行変数を渡したりすることもできます。 | 使用可能なメモリーとモデル・アーティファクトのサイズに基づいて、ヒューリスティック・メソッドは、カスタム・コンテナ内で実行するために必要なワーカーの数を計算します。また、必要に応じて、変数をオーバーライドしたり、カスタム同時実行変数を渡したりすることもできます。 |
CONTAINER_TYPE |
コンテナViz TRITONのタイプ。TRITONのみがサポートされています。 | ありません。 |