Uso de los comandos R y R+ de Cohere 08-2024 en OCI Generative AI

OCI Generative AI ahora admite las últimas actualizaciones de los modelos Command R y Command R+ de Cohere (08-2024). Estos grandes modelos de lenguaje aportan capacidades mejoradas y eficiencia a las ofertas de IA empresarial de OCI.

Aspectos importantes

• Ambos modelos cuentan con mejoras significativas en el rendimiento y la latencia.
• Ambos modelos se ofrecen con una longitud de contexto de token de 128 000 en unidades existentes.
• Command R 08-2024 rivaliza con la versión anterior de R+ en matemáticas, codificación y razonamiento.
• Ambos modelos están disponibles para la inferencia bajo demanda y el alojamiento de un solo inquilino.
• El ajuste fino del comando R 08-2024 se admite con los métodos de entrenamiento LoRA (adaptación de rango bajo) y T-Few.

Regiones disponibles

Medio oeste de EE. UU. (Chicago), centro de Alemania (Fráncfort), sur de Reino Unido (Londres) y este de Brasil (São Paulo).

Nuevas funciones y mejoras

• Función mejorada de generación aumentada de recuperación multilingüe (RAG) con opciones de citación personalizables
• Avances significativos en capacidades de codificación, matemáticas y razonamiento
• Análisis de datos estructurados mejorado para finanzas, software como servicio (SaaS) y casos de uso de consultoría
• Nueva función de salidas estructuradas para la generación de JSON definida por el usuario

Las versiones 08-2024 ofrecen un mejor rendimiento con el Comando R 08-2024 que muestra ganancias notables en todos los puntos de referencia.

Ahora puede aprovechar estos últimos modelos sin problemas de gestión de la infraestructura. El acceso está disponible a través de interfaces de chat, API y puntos finales dedicados, con soporte de ajuste para el comando R 08-2024.

Los modelos Cohere Command R (cohere.command-r-16k) y Cohere Command R+ (cohere.command-r-plus) ahora están en desuso en OCI Generative AI. Para conocer las fechas de baja, consulte Baja de los modelos.

Para obtener una lista de los modelos ofrecidos, consulte Pretrained Foundational Models in Generative AI. Para obtener información sobre el servicio, consulte la documentación de IA generativa.