Esta página ha sido traducida por una máquina.

Documentación de Oracle Cloud Infrastructure
Probar cuenta gratuita

Creación de un punto final en IA generativa

Cree un punto final para un modelo personalizado o preentrenado en un cluster de IA dedicado de alojamiento en OCI Generative AI.

Para obtener reglas sobre la creación de puntos finales para los modelos alojados en clusters, consulte Adición de puntos finales a clusters de alojamiento.
  1. En la barra de navegación de la consola, seleccione una región con IA generativa, por ejemplo, Medio Oeste de EE. UU. (Chicago) o Sur de Reino Unido (Londres). Consulte Qué modelos se ofrecen en la región.
  2. Abra el menú de navegación y seleccione Análisis e IA. En Servicios de IA, seleccione IA generativa.
  3. Seleccione el compartimento que contiene el modelo personalizado al que desea agregar un punto final.
  4. Realice una de las siguientes acciones:
    • Para crear un punto final para un modelo personalizado con el nombre del modelo y la versión rellenados previamente:
      1. Seleccione Modelos personalizados.
      2. Seleccione el nombre del modelo personalizado para el que desea agregar un punto final.
      3. Busque el modelo base fundamental para el modelo personalizado. Seleccione el modelo base al hacer coincidir el modelo con un cluster en los siguientes pasos.
      4. En Recursos, seleccione Puntos finales.
      5. Seleccione Crear punto final.
    • Para crear un punto final para un modelo básico preentrenado listo para usar o un modelo personalizado:
      1. Seleccione Puntos Finales.
      2. Seleccione Crear punto final.
  5. (Opcional) Introduzca un nombre para el punto final. Inicie el nombre con una letra o guion bajo, seguido de letras, números, guiones o caracteres de subrayado. La longitud puede abarcar entre 1 y 255 caracteres. Si no introduce un nombre, el sistema generará un nombre que podrá cambiar posteriormente.

    El nombre generado tiene el formato generativeaiendpoint<timestamp>.

    generativeaiendpoint20240531235319

  6. Si no se selecciona, seleccione el nombre y la versión del modelo para los que desea agregar un punto final.
    Consejo

    • Si el modelo está en un compartimento diferente al actual, seleccione Cambiar compartimento y seleccione el compartimento que aloja el modelo. Recomendamos que cree el punto final en el mismo compartimento que el modelo.
    • Si el modelo personalizado que está buscando no aparece en la lista, seleccione Cancelar. A continuación, en IA generativa, seleccione Modelos personalizados y asegúrese de que el modelo personalizado tenga el estado activo.
  7. Seleccione un cluster de AI dedicado de hosting realizando una de las siguientes acciones:
    • Si ya tiene un cluster, seleccione un cluster de IA dedicado de la lista desplegable. Si acaba de crear un cluster, espere a que ese cluster se active. Asegúrese de que el modelo base asociado a este cluster coincida con el modelo base del modelo personalizado.
    • Para crear un cluster, en la lista desplegable Cluster de IA dedicada, seleccione Crear nuevo cluster de IA dedicado y realice los siguientes pasos:
      1. (Opcional) Introduzca un nombre y una descripción.
      2. Seleccione un modelo base que coincida con el modelo base del modelo que desea alojar.
      3. Agregue 1 réplica de modelo al punto final. Al crear un cluster, necesita al menos una unidad para un punto final. Para un cluster existente, puede utilizar esa misma unidad para alojar nuevos puntos finales. Cada instancia aloja todos los puntos finales activos. Al aumentar el recuento de instancias en un cluster, aumenta el número de RPM soportados para todos los puntos finales activos alojados en un cluster.
      4. Lea las horas de unidad de compromiso para el cluster de AI dedicado de hosting y seleccione la casilla de control para aceptar el compromiso.
      5. Seleccione Crear y espere a que el cluster se active.
      6. En la lista desplegable Cluster de IA dedicado, seleccione el cluster de IA dedicado que ha creado.
  8. Seleccione si desea activar las siguientes guías.
    • Moderación de contenido
      • Desactivado: no aplica la moderación de contenido ni genera contenido explícito.
      • Bloquear: ayuda a identificar y aplicar la moderación del contenido.
      • Informar: no aplique la moderación de contenido, pero tenga como objetivo informar al usuario si el modelo detecta contenido que necesita moderación.
    • Protección frente a la inyección de prompts (PI)
      • Desactivado: no aplique la protección de PI y permita entradas sin restricciones.
      • Bloquear: ayuda a identificar y proteger contra la inyección de peticiones de datos.
      • Informar: no aplique la protección de PI, pero tenga como objetivo informar al usuario si el modelo detecta contenido que necesita protección de PI.
    • Protección de información de identificación personal (PII)
      • Desactivado: no aplique protección de PII, sino contenido de salida sin restricciones de exposición de datos.
      • Bloquear: ayuda a identificar y proteger la PII, como, por ejemplo, ayuda a eliminar datos personales de las respuestas.
      • Informar: no aplique la protección de PII, pero tenga como objetivo informar al usuario si el modelo detecta contenido que necesita protección de PII.
  9. (Opcional) Seleccione Mostrar opciones avanzadas y asigne etiquetas al punto final.
  10. Seleccione Crear punto final.
    Se le dirige a la página de detalles del punto final, donde puede realizar un seguimiento del estado del punto final.
  11. Una vez que el punto final esté activo, seleccione Ver en patio de recreo y empiece a utilizar el modelo de este punto final.

¿Le ha resultado útil este artículo?