xAI Grok 4 Fast (Nouveau)
Le modèle xAI Grok 4 Fast est une version du modèle xAI Grok 4 optimisée pour la vitesse et le coût. Comme Grok 4, ce modèle excelle dans les cas d'utilisation d'entreprise tels que l'extraction de données, le codage et la synthèse de texte, et possède une connaissance approfondie du domaine de la finance, des soins de santé, du droit et de la science.
Grok 4 Fast est plus rapide que Grok 4, avec un délai de réception du premier jeton et une vitesse de sortie élevée. Cette hiérarchisation de la vitesse rend ce modèle idéal pour les applications en temps réel.
Disponible dans ces régions
- Est des Etats-Unis (Ashburn) (à la demande uniquement)
- Midwest des Etats-Unis (Chicago) (à la demande uniquement)
- Ouest des Etats-Unis (Phoenix) (à la demande uniquement)
Appels externes
Les modèles xAI Grok sont hébergés dans un centre de données OCI, dans une location provisionnée pour xAI. Les modèles xAI Grok, accessibles via le service OCI Generative AI, sont gérés par xAI.
Accéder à ce modèle
Généralités
Le modèle xAI Grok 4 Fast est disponible dans deux modes proposés dans deux modèles distincts. Un modèle de raisonnement et un modèle de non-raisonnement. Reportez-vous au tableau suivant pour déterminer le modèle à sélectionner.
Mode | Nom du modèle | Fonctionnement | Utilisation |
---|---|---|---|
Raisonnement | xai.grok-4-fast-reasoning |
Génère des jetons de pensée pour une analyse étape par étape de la chaîne de pensée, fournissant un raisonnement logique plus profond avec plus de latence (moins que les modèles de raisonnement précédents). | Des problèmes complexes en plusieurs étapes qui nécessitent des solutions analytiques et prudentes. |
Non-raisonnement | xai.grok-4-fast-non-reasoning |
Ignore la phase de pensée des jetons et renvoie des réponses instantanées correspondant au modèle. | Requêtes simples et simples où la vitesse est la priorité. |
Principales fonctionnalités
- Noms de modèle dans OCI Generative AI :
xai.grok-4-fast-reasoning
xai.grok-4-fast-non-reasoning
- Disponible à la demande : accédez à ce modèle à la demande, via le playground de test de la console ou l'API.
- Prise en charge multimodale : saisissez du texte et des images et obtenez une sortie texte.
- Connaissances : possède une connaissance approfondie du domaine de la finance, des soins de santé, du droit et de la science.
- Longueur de contexte : 2 millions de jetons (la longueur maximale de l'invite + de la réponse est de 2 millions de jetons pour conserver le contexte). Dans le terrain de jeu, la longueur de la réponse est plafonnée à 16 000 jetons pour chaque course, mais le contexte reste de 2 millions.
- Modes : fonctionne selon deux modes : "raisonnement" pour les tâches complexes et "non-raisonnement" pour les demandes simples et critiques en termes de vitesse.
- Appel de fonction : Oui, via l'API.
- Sorties structurées : Oui.
-
Jetons d'entrée en cache : Oui
- Nombre de jetons : reportez-vous à l'attribut
cachedTokens
dans l'API de référence PromptTokensDetails. - Tarification : Voir la page Tarification.
Remarque importante : La fonctionnalité d'entrée en cache est disponible à la fois dans le playground de test et dans l'API. Cependant, ces informations ne peuvent être extraites que via l'API.
- Nombre de jetons : reportez-vous à l'attribut
- Limite de connaissance : Non disponible
Limites
- Entrées d'image
-
- Console : téléchargez des images
.png
ou.jpg
, de 5 Mo ou moins. - API : seuls les formats de fichier JPG/JPEG et PNG sont pris en charge. Soumettez une version codée
base64
d'une image, en veillant à ce que chaque image convertie soit supérieure à 256 et inférieure à 1 792 jetons. Par exemple, une image 512 x 512 convertit généralement en environ 1 610 jetons. Il n'y a pas de nombre maximum d'images pouvant être téléchargées. Le nombre combiné de jetons pour le texte et les images doit se trouver dans la fenêtre de contexte globale du modèle de 2 millions de jetons.
- Console : téléchargez des images
Mode à la demande
Les modèles Grok sont disponibles uniquement en mode à la demande.
Nom du modèle | Nom du modèle OCI | Nom du produit de la page de tarification |
---|---|---|
xAI Grok 4 Fast |
|
xAI - Grok 4 Fast Les prix sont indiqués pour :
|
-
Vous payez au fur et à mesure pour chaque appel d'inférence lorsque vous utilisez les modèles dans le playground de test ou lorsque vous appelez les modèles via l'API.
- Faible barrière pour commencer à utiliser l'IA générative.
- Idéal pour l'expérimentation, la preuve de concept et l'évaluation de modèle.
- Disponible pour les modèles préentraînés dans les régions non répertoriées en tant que (cluster d'IA dédié uniquement).
Date de lancement
Modèle | Date de publication de la disponibilité générale | Date de sortie à la demande | Date de retrait du mode dédié |
---|---|---|---|
xai.grok-4-fast-reasoning |
2025-10-10 | Provisoire | Ce modèle n'est pas disponible pour le mode dédié. |
xai.grok-4-fast-non-reasoning |
2025-10-10 | Provisoire | Ce modèle n'est pas disponible pour le mode dédié. |
Pour obtenir la liste de toutes les lignes de temps du modèle et des détails de sortie, voir Mettre hors service les modèles.
Paramètres de modèle
Pour modifier les réponses du modèle, vous pouvez modifier les valeurs des paramètres suivants dans le playground de test ou l'API.
- Nombre maximal de sèmes de sortie
-
Nombre maximal de sèmes que le modèle doit générer pour chaque réponse. Estimez quatre caractères par jeton. Comme vous demandez un modèle de discussion, la réponse dépend de l'invite et chaque réponse n'utilise pas nécessairement le nombre maximal de jetons alloués.
Conseil
Pour les entrées volumineuses présentant des problèmes difficiles, définissez une valeur élevée pour le paramètre de jetons de sortie maximum. Reportez-vous à Dépannage. - Température
-
Niveau de randomité utilisé pour générer le texte de sortie. Min : 0, Max : 2
Conseil
Commencez par définir la température sur 0 et augmentez-la à mesure que vous régénérez les invitations pour affiner les sorties. Les températures élevées peuvent introduire des hallucinations et des informations factuellement incorrectes. - Valeur Top p
-
Méthode d'échantillonnage qui contrôle la probabilité cumulée des jetons supérieurs à prendre en compte pour le jeton suivant. Affectez à
p
un nombre décimal compris entre 0 et 1 pour la probabilité. Par exemple, entrez 0,75 pour les 75 % les plus importants à prendre en compte. Définissezp
sur 1 pour prendre en compte tous les jetons.
Dépannage
Problème : le modèle Grok 4 Fast ne répond pas.
Cause : le paramètre Nombre maximal de jetons de sortie dans la zone de lecture ou le paramètre max_tokens
dans l'API est probablement trop faible. Par exemple, par défaut, ce paramètre est défini sur 600 jetons dans le terrain de jeu, qui peuvent être faibles pour les tâches complexes.
Action : augmentez le paramètre de jetons de sortie maximum.