Erstellen Sie eine dedizierte KI-Clusterressource in OCI Generative AI, die Sie zur Optimierung benutzerdefinierter Modelle verwenden können.
Wichtig Einige vortrainierte Basismodelle von OCI Generative AI, die für den
dedizierten Bereitstellungsmodus unterstützt werden, sind jetzt veraltet und werden spätestens 6 Monate nach dem Release des 1.
Ersatzmodells in den Ruhestand versetzt. Sie können ein Basismodell hosten oder ein Basismodell optimieren und das fein abgestimmte Modell in einem dedizierten KI-Cluster (
dedizierter Bereitstellungsmodus) hosten, bis das Basismodell
deaktiviert wird. Informationen zu den Ruhestandsdaten im dedizierten Bereitstellungsmodus finden Sie unter
Modelle in den Ruhestand versetzen.
-
Wählen Sie in der Navigationsleiste der Konsole eine Region mit generativer KI aus. Beispiel: US Midwest (Chicago) oder UK South (London). Siehe Welche Modelle in Ihrer Region angeboten werden.
-
Öffnen Sie das Navigationsmenü , und wählen Sie Analysen und KI aus. Wählen Sie unter KI-Services die Option Generative KI aus.
-
Wählen Sie ein Compartment aus, für das Sie berechtigt sind.
-
Klicken Sie auf Dedizierte KI-Cluster.
-
Klicken Sie auf Dediziertes KI-Cluster erstellen.
-
Wählen Sie ein Compartment aus, in dem das dedizierte KI-Cluster erstellt werden soll. Das Standard-Compartment ist das in Schritt 3 ausgewählte Compartment. Sie können jedoch jedes Compartment auswählen, für das Sie die erforderliche Berechtigung haben.
- (Optional) Geben Sie einen Namen und eine Beschreibung für das Cluster ein. Wenn Sie keinen Namen eingeben, generiert das System einen Namen, den Sie später ändern können.
Der generierte Name hat das Format generativeaidedicatedaicluster<timestamp>.
Beispiel: generativeaidedicatedaicluster20240601202357
-
Wählen Sie unter Clustertyp die Option Fine-tuning aus.
-
Wählen Sie unter Basismodell das grundlegende Basismodell für das benutzerdefinierte Modell aus, das Sie für dieses Cluster optimieren möchten.
Wichtig Die
Anzahl der Einheiten in einem Feinabstimmungscluster ist voreingestellt und hängt vom Basismodell ab, das für die Feinabstimmung ausgewählt wurde. Die Feinabstimmung von Clustern erfordert mehr Ressourcen als das Hosting von Clustern, da sie mehr GPUs verwenden. Sie können mehrere Modelle auf demselben Cluster optimieren, solange die benutzerdefinierten Modelle auf demselben Basismodell trainieren.
-
Lesen Sie die Stunden der Verpflichtungseinheit für das Fine-Tuning-Cluster, und aktivieren Sie das Kontrollkästchen, um der Verpflichtung zuzustimmen.
- (Optional) Klicken Sie auf Erweiterte Optionen anzeigen, und weisen Sie diesem dedizierten AI-Cluster Tags zu.
-
Klicken Sie auf Erstellen.
Hinweis
Das Erstellen von Optimierungsclustern nimmt einige Zeit in Anspruch. Wenn sich ein Fine-Tuning-Cluster in einem aktiven Status befindet, können Sie damit benutzerdefinierte Modelle optimieren. Sie können ein Cluster zur Feinabstimmung auswählen, wenn Sie ein benutzerdefiniertes Modell erstellen.