Documentación de Oracle Cloud Infrastructure

Uso de GPU

Para trabajar con GPU en Data Science, el arrendamiento necesita un límite para esa unidad y la unidad debe estar disponible en la región en la que desea utilizarla.

Si no es un cliente empresarial, debe crear un aumento del límite de servicio para utilizar la GPU porque, por defecto, su arrendamiento no tiene límite.
Nota

El límite de servicio no es el mismo que la capacidad de la unidad. El límite de GPU de Data Science es el número máximo de GPU que puede utilizar su arrendamiento si la unidad está disponible. Si todas las unidades de la región están en uso, puede que reciba un error de falta de capacidad incluso si tiene un límite de Data Science.

Solicitud de una GPU

  1. Compruebe si tiene límite para la unidad que desea utilizar en Data Science.
  2. Abra la consola.
  3. (Opcional) Cambie la región si no está definida en la región en cuestión.
  4. Seleccione Gobernanza y administración.
  5. En Gestión de arrendamiento, seleccione Límites, cuotas y uso.
  6. En Service, seleccione Data Science.
  7. Para Ámbito, seleccione la región en cuestión,
  8. En Recurso, seleccione la unidad de GPU que desea utilizar.
  9. En Compartment, seleccione el compartimento raíz.
  10. Asegúrese de que el recuento disponible tenga suficiente límite.
  11. Para aumentar el límite, seleccione Solicitar un aumento del límite de servicio.

    Asegúrese de que la categoría de servicio de la solicitud de límite de servicio esté definida en Data Science.

    Para obtener más información sobre la solicitud de un aumento del límite de servicio, consulte el tutorial Aumento de los límites del servicio de Data Science.

Uso de la capacidad de GPU reservada

Compute ofrece una función de reserva de capacidad que ofrece a los inquilinos la capacidad de reservar unidades de GPU. Si ha reservado capacidad de GPU con Compute, puede transferir las GPU que se utilizarán en Data Science. Cree un ticket de solicitud de soporte y especifique la unidad, el recuento, la región, el arrendamiento y el ID de reserva de la reserva de GPU que se transferirá a Data Science.
Importante

Por el momento, no se pueden aceptar las reservas de capacidad A10 y las reservas de capacidad A100 solo se pueden aceptar en determinadas regiones.
Cuando Data Science haya completado la reserva, se factura al arrendamiento por la unidad tanto si está en uso como si no.
Nota

Después de transferir la GPU reservada a Data Science, Data Science comienza a facturar la unidad de GPU tanto si se utiliza la GPU como si no.

Consejos para usar GPU con acciones rápidas de IA

Si ha aumentado el límite de servicio en Data Science para utilizar una unidad de GPU específica para el despliegue de modelos o el ajuste fino en acciones rápidas de IA, no cree una sesión de bloc de notas con esa unidad para acceder a acciones rápidas de IA. Si lo hace, la GPU para la sesión de bloc de notas se cuenta para el límite de servicio, por lo que la unidad no se puede utilizar para el despliegue de modelos ni para el ajuste fino. Seleccione una unidad diferente (CPU o GPU) para crear un bloc de notas para acceder a AI Quick Actions.

Solución de problemas

Si tiene algún problema con el uso de GPU, consulte la sección de solución de problemas de GPU para obtener ayuda.