Despliegues de modelo

Después de crear un nuevo despliegue o de actualizar un empleo existente, es posible que aparezca un fallo. En estos pasos se muestra cómo depurar la incidencia:

1. En la página inicial del proyecto, seleccione Despliegues de modelo.
2. Seleccione el nombre de despliegue de modelo o seleccione el menú Acciones (tres puntos) para el despliegue de modelo y seleccione Ver detalles. A continuación, compruebe las solicitudes de trabajo
3. En Recursos, seleccione Solicitud de trabajo.

   Las solicitudes de trabajo aparecen en la parte inferior de la página.

4. En la página Información de solicitudes de trabajo, seleccione Mensajes de log.
5. Si se producen fallos en los pasos de creación, en Recursos, seleccione Mensajes de error.
6. Si la solicitud de trabajo muestra que se ha realizado correctamente, revise los logs de predicción de OCI para identificar los errores.

   Los Logs se asocian al despliegue del modelo cuando este se crea.

7. Si los registros están asociados, seleccione el nombre del registro de predicción para ver el registro.
8. Seleccione Explorar con búsqueda de log.
9. Cambie el tiempo del filtro para aumentar el período.

Asegúrese de que la ruta del entorno conda sea válida y de que ha configurado la política adecuada para un entorno conda publicado. La ruta del entorno conda debe seguir siendo válida y mantenerse accesible durante todo el ciclo de vida del despliegue del modelo para garantizar la disponibilidad y el funcionamiento adecuado del modelo desplegado.

Active los logs de predicción de despliegue de modelo para ayudarle a depurar los errores. Por lo general, esto sucede cuando el código presenta incidencias o le faltan dependencias necesarias.

Cuando un despliegue de modelo está en un lifecycleState activo, se puede llamar al punto final predictivo o de flujo. La respuesta de predicción puede devolver un fallo por muchos motivos. Utilice las siguientes sugerencias para intentar resolver estos errores:

1. Asegúrese de que la entrada transferida en la solicitud tenga un formato JSON válido y coincida con la entrada que espera el modelo.

2. Revise los logs de acceso asociados para comprobar si hay errores.

3. Asegúrese de que el usuario tenga los derechos de acceso correctos.

4. Asegúrese de que score.py file no contenga errores.

5. Si las predicciones devuelven resultados diferentes (correctos, incorrectos) cada vez que se llama a la predicción para la misma entrada, es posible que los recursos asignados no sean suficientes para proporcionar la predicción del modelo. Puede editar el ancho de banda del equilibrador de carga para aumentarlo, así como el recuento de núcleos informáticos para servir más solicitudes en paralelo.

Si recibe este error al llamar al punto final de inferencia, significa que las solicitudes se están limitando.

La solución depende del tipo de error: