Oracle Cloud Infrastructure-Dokumentation

Text in generativer KI generieren

Hosten Sie ein Modell zur Generierung großer Sprachen in OCI Generative AI in einem dedizierten KI-Cluster, um Text zu generieren oder Informationen aus Text zu extrahieren. Wir empfehlen, stattdessen die chat-modelle zu verwenden.

Wichtig

  • Auf Anforderung nicht verfügbar: Alle vortrainierten OCI Generative AI-Grundmodelle, die für den On-Demand-Serving-Modus unterstützt werden und die Textgenerierungs- und Zusammenfassungs-APIs (einschließlich Playground) verwenden, werden jetzt eingestellt. Wir empfehlen, stattdessen die chat-modelle zu verwenden.
  • Kann auf Clustern gehostet werden: Wenn Sie eine Zusammenfassung oder ein Generierungsmodell wie cohere.command in einem dedizierten KI-Cluster (dedizierter Bereitstellungsmodus) hosten, können Sie dieses Modell weiter verwenden, bis es abgelaufen ist. Diese Modelle, wenn sie in einem dedizierten KI-Cluster gehostet werden, sind nur in US Midwest (Chicago) verfügbar. Informationen zu Ablaufdaten und Definitionen finden Sie unter Modelle in den Ruhestand versetzen.
    1. Wählen Sie in der Navigationsleiste der Konsole die Region US Midwest (Chicago) aus.
    2. Öffnen Sie das Navigationsmenü , und wählen Sie Analysen und KI aus. Wählen Sie unter KI-Services die Option Generative KI aus.
    3. Wählen Sie ein Compartment aus, für das Sie berechtigt sind. Wenn der Playground nicht angezeigt wird, bitten Sie einen Administrator, Ihnen Zugriff auf generative KI-Ressourcen zu erteilen, und kehren Sie dann zu den folgenden Schritten zurück.
    4. Klicken Sie auf Playground.
    5. Klicken Sie auf Generation.
    6. Wählen Sie ein Modell für die Texterstellung aus, indem Sie eine der folgenden Aktionen ausführen:
      • Klicken Sie auf Modelldetails anzeigen, wählen Sie ein Modell aus, und klicken Sie auf Modell auswählen.
    7. Geben Sie entweder einen Prompt ein, oder wählen Sie ein Beispiel aus der Liste Beispiel aus, das Sie als Basis-Prompt verwenden oder aus dem Sie lernen möchten.
    8. (Optional) Legen Sie neue Werte für die Parameter fest. Parameterdetails finden Sie in den Parameterdefinitionen unter Pretrained Foundational Models in Generative AI.
      Hinweis

      Wenn Sie für die gehosteten cohere.command-Modelle die Option Wahrscheinlichkeiten anzeigen auswählen, können Sie nach der Generierung einer Antwort durch das Modell mit der Maus auf die generierten Wörter zeigen, um die Token und deren Wahrscheinlichkeit anzuzeigen.
    9. Klicken Sie auf Generieren.
    10. (Optional) Um die Ausgabe zu ändern, aktualisieren Sie die Prompts und Parameter, und klicken Sie auf Generieren. Wiederholen Sie diesen Schritt, bis Sie mit der Ausgabe zufrieden sind.
      Hinweis

      Um den Kontext vorheriger Prompts für Nachfassfragen beizubehalten, klicken Sie auf Ausgabe kopieren, und nehmen Sie die Ausgabe in den nächsten Prompt auf.
    11. Um die generierte Ausgabe zu kopieren, klicken Sie auf Ausgabe kopieren.

      Die Ausgabe wird in die Zwischenablage des Computers kopiert.

    12. (Optional) Um den Code zu kopieren, der die Ausgabe generiert hat, klicken Sie auf Code anzeigen. Wählen Sie eine Programmiersprache aus, klicken Sie auf Code kopieren. Fügen Sie den Code in eine Datei ein, und speichern Sie die Datei. Stellen Sie sicher, dass die Datei das Format des eingegebenen Codes beibehält.
      Tipp

      Wenn Sie den Code in einer Anwendung verwenden, stellen Sie sicher, dass Sie Ihren Code authentifizieren.
    13. (Optional) Um einen neuen Prompt zu starten, klicken Sie im Bereich Eingabe auf Löschen.
      Hinweis

      Wenn Sie auf Löschen klicken, werden die Modellparameter auf ihre Standardwerte zurückgesetzt.

  • Um Text zu generieren, verwenden Sie den Vorgang generate-text-result.

    Geben Sie den folgenden Befehl ein, um eine Liste mit Optionen zum Generieren von Text anzuzeigen.

    oci generative-ai-inference generate-text-result -h

    Eine vollständige Liste der Parameter und Werte für die OCI Generative AI-CLI-Befehle finden Sie unter Generative AI Inference CLI und Generative AI Management CLI.

  • Führen Sie den Vorgang GenerateText aus, um Text zu generieren.

    Informationen zur Verwendung der API und zu Signieranforderungen finden Sie unter REST-API-Dokumentation und Sicherheitszugangsdaten. Informationen zu SDKs finden Sie unter SDKs und die CLI.