Oracle Cloud Infrastructure-Dokumentation

Dediziertes KI-Cluster für die Optimierung benutzerdefinierter Modelle erstellen

Erstellen Sie eine dedizierte KI-Clusterressource in OCI Generative AI, die Sie zur Optimierung benutzerdefinierter Modelle verwenden können.

Wichtig

Einige vortrainierte Basismodelle von OCI Generative AI, die für den dedizierten Bereitstellungsmodus unterstützt werden, sind jetzt veraltet und werden spätestens 6 Monate nach dem Release des 1. Ersatzmodells in den Ruhestand versetzt. Sie können ein Basismodell hosten oder ein Basismodell optimieren und das fein abgestimmte Modell in einem dedizierten KI-Cluster (dedizierter Bereitstellungsmodus) hosten, bis das Basismodell deaktiviert wird. Informationen zu den Ruhestandsdaten im dedizierten Bereitstellungsmodus finden Sie unter Modelle in den Ruhestand versetzen.
    1. Wählen Sie auf der Listenseite Dedizierte KI-Cluster die Option Dediziertes KI-Cluster erstellen aus. Wenn Sie Hilfe beim Suchen der Listenseite benötigen, finden Sie weitere Informationen unter Dedizierte KI-Cluster auflisten.
    2. Wählen Sie ein Compartment aus, in dem das dedizierte KI-Cluster erstellt werden soll. Das Standard-Compartment ist mit der Listenseite identisch. Sie können jedoch jedes Compartment auswählen, für das Sie die Berechtigung zur Arbeit haben.
    3. (Optional) Geben Sie einen Namen und eine Beschreibung für das Cluster ein. Wenn Sie keinen Namen eingeben, generiert das System einen Namen, den Sie später ändern können.

      Der generierte Name hat das Format generativeaidedicatedaicluster<timestamp>. Beispiel: generativeaidedicatedaicluster20250922181431

    4. Wählen Sie unter Clustertyp die Option Fine-tuning aus.
    5. Wählen Sie unter Basismodell das grundlegende Basismodell für das benutzerdefinierte Modell aus, das Sie für dieses Cluster optimieren möchten.
      Wichtig

      Die Anzahl der Einheiten in einem Fine-Tuning-Cluster ist voreingestellt und hängt vom Basismodell ab, das für die Feinabstimmung ausgewählt wurde. Die Feinabstimmung von Clustern erfordert mehr Ressourcen als das Hosting von Clustern, da sie mehr GPUs verwenden. Sie können mehrere Modelle auf demselben Cluster optimieren, solange die benutzerdefinierten Modelle auf demselben Basismodell trainieren.
    6. Lesen Sie die Stunden der Verpflichtungseinheit für das Fine-Tuning-Cluster, und aktivieren Sie das Kontrollkästchen, um der Verpflichtung zuzustimmen.
    7. (Optional) Wählen Sie Tag hinzufügen aus, und weisen Sie diesem Cluster Tags zu.
    8. Wählen Sie Erstellen aus.
    Hinweis

    Das Erstellen von Optimierungsclustern nimmt einige Zeit in Anspruch. Wenn sich ein Fine-Tuning-Cluster in einem aktiven Status befindet, können Sie damit benutzerdefinierte Modelle optimieren. Sie können ein Cluster zur Feinabstimmung auswählen, wenn Sie ein benutzerdefiniertes Modell erstellen.

  • Verwenden Sie den Befehl dedicated-AI-cluster create und die erforderlichen Parameter, um ein dediziertes KI-Cluster zu erstellen:

    oci generative-ai dedicated-ai-cluster create 
--compartment-id <compartment-OCID>
--type FINE_TUNING
--unit-count [integer]
--unit-shape [text]
[OPTIONS]

    Eine vollständige Liste der Parameter und Werte für CLI-Befehle finden Sie in der CLI-Befehlsreferenz.

  • Führen Sie den Vorgang CreateDedicatedAiCluster aus, um ein dediziertes Cluster zu erstellen.