Oracle Cloud Infrastructure-Dokumentation

Abfrage für generative KI-Metriken erstellen

Mit dem OCI Monitoring-Service können Sie benutzerdefinierte Abfragen erstellen und Alarme auslösen, um die dedizierten KI-Cluster und -Endpunkte von OCI Generative AI zu überwachen.

Hinweis

  • Um die Berechtigung für die Arbeit mit den Monitoring-Serviceressourcen zu erhalten, bitten Sie einen Administrator, die IAM-Policys in Monitoring sichern zu prüfen und Ihnen den richtigen Zugriff für Ihre Rolle zu erteilen.
  • Um die Berechtigung zum Arbeiten mit generativen KI-Ressourcen zu erhalten, bitten Sie einen Administrator, Ihnen Zugriff auf generative KI-Ressourcen zu erteilen.
Wichtig

Um im Monitoring-Service generative KI-Ressourcen zu Abfragen oder Alarmen hinzuzufügen, wählen Sie den Namespace oci_generativeai aus, und finden Sie die Abfragesyntax in der Monitoring Query Language-(MQL-)Referenz.
    1. Wählen Sie in der Navigationsleiste der Konsole eine Region mit generativer KI aus. Beispiel: US Midwest (Chicago) oder UK South (London). Siehe Welche Modelle in Ihrer Region angeboten werden.
    2. Öffnen Sie das Navigationsmenü , und wählen Sie Observability and Management aus. Wählen Sie unter Monitoring die Option Service Metrics aus.
    3. Wählen Sie ein Compartment mit den generativen KI-Ressourcen aus, die Sie überwachen möchten.
    4. Wählen Sie unter Metrik-Namespace die Option oci_generativeai aus.

      Ein Metrik-Namespace ist der Service oder die Anwendung, der die Metriken ausgibt. Der Metrik-Namespace für den OCI Generative AI-Service lautet oci_generativeai.

      Die Seite Servicemetriken wird dynamisch aktualisiert und zeigt Diagramme für den Metrik-Namespace oci_generativeai an. Informationen hierzu finden Sie unter Standardmetrikdiagramme für einen Metrik-Namespace anzeigen (mehrere Ressourcen).

    5. Um eine Abfrage zu erstellen, gehen Sie wie unter Abfrage erstellen beschrieben vor.
    6. (Optional) Um einen Alarm zu erstellen, führen Sie die Schritte unter Grundlegenden Alarm erstellen aus.

  • Verwenden Sie den Befehl oci monitoring Metric-data summary-metrics-data und die erforderlichen Parameter, um Metrikdaten abzufragen:

    oci monitoring metric-data summarize-metrics-data [OPTIONS]

    Wenn Sie einen Dimensionswert in der Abfrage (--query-text) angeben, setzen Sie ihn in doppelte Anführungszeichen, und maskieren Sie jedes doppelte Anführungszeichen mit einem umgekehrten Schrägstrich (\). Beispiel:

    oci monitoring metric-data summarize-metrics-data --compartment-id <compartment_OCID> --namespace oci_computeagent --query-text "CpuUtilization[1m]{resourceId = \"<instance_OCID>\"}.max()"

    Eine vollständige Liste der Parameter und Werte für CLI-Befehle finden Sie in der Befehlszeilenreferenz für Monitoring.

    Verwenden Sie den Befehl oci monitoring alarm create und die erforderlichen Parameter, um einen Alarm zu erstellen:

    oci monitoring alarm create --compartment-id <compartment_OCID> --destinations <file_or_text> --display-name <name> --is-enabled <true_or_false> --metric-compartment-id <compartment_OCID> --namespace <metric_namespace> --query-text <mql_expression> --severity <level>

    Eine vollständige Liste der Parameter und Werte für CLI-Befehle finden Sie in der Befehlszeilenreferenz für Monitoring.

  • Informationen zur Verwendung der Monitoring-Service-APIs finden Sie in der Monitoring-API.

    Beispiel: Führen Sie den Vorgang SummarizeMetricsDataDetails aus, um Metrikdaten abzufragen, und CreateAlarm, um einen Alarm zu erstellen.

    Informationen zur Verwendung der API und zu Signieranforderungen finden Sie unter REST-API-Dokumentation und Sicherheitszugangsdaten. Informationen zu SDKs finden Sie unter SDKs und die CLI.