Cálculo del costo en IA generativa
En OCI Generative AI, puedes pagar por la inferencia bajo demanda o los clusters de IA dedicados:
- Inferencia a petición
-
- Usted paga a medida que avanza.
- Usted paga por la longitud de caracteres de cada llamada de inferencia.
- En la página de precios, cuando ve el precio del número de transacciones, es el número de caracteres en las llamadas de inferencia. Una transacción equivale a un carácter.
- Clusters de IA dedicados
-
- Obtendrá un conjunto dedicado de GPU.
- Puede ajustar modelos personalizados en los clusters de IA dedicados.
- Puede alojar réplicas de modelos básicos y ajustados en los clusters de AI dedicados.
- Se compromete con antelación a determinadas horas de uso de los clusters de IA dedicados. Para ver los precios, consulte la página de precios.
Revise los siguientes temas y ejemplos para ayudarle a decidir entre la inferencia bajo demanda o el uso de clusters de IA dedicados, y para calcular el costo de cada opción.