Descripción
Instrucción de Vista Previa Solar Pro es un modelo de lenguaje grande (LLM) de vanguardia desarrollado para ajustarse a una sola GPU con 22 mil millones de parámetros. Este modelo demuestra un rendimiento excepcional, superando a modelos con menos de 30 mil millones de parámetros y compitiendo con aquellos más de tres veces su tamaño, como Llama 3.1 con 70 mil millones de parámetros. El modelo se construye utilizando una versión mejorada del método de escalado en profundidad, escalando un modelo Phi-3-medio de 14 mil millones a 22 mil millones de parámetros, optimizado para una GPU con 80GB de VRAM.
Leer más
La estrategia de entrenamiento y el conjunto de datos para la Vista Previa Solar Pro han sido meticulosamente seleccionados, resultando en mejoras significativas de rendimiento sobre el modelo Phi-3-medio, especialmente en benchmarks como MMLU-Pro e IFEval, que evalúan el conocimiento y las capacidades de seguimiento de instrucciones de un modelo. Aunque esta es una versión previa al lanzamiento, ya se destaca por su eficiencia y capacidad, con planes para el lanzamiento oficial de Solar Pro en noviembre de 2024, que incluirá soporte de idiomas ampliado y ventanas de contexto más largas.
La Vista Previa Solar Pro está diseñada específicamente para tareas de seguimiento de instrucciones y compromisos conversacionales, utilizando la plantilla ChatML para un rendimiento óptimo. Este modelo está disponible como una API en la Consola Upstage, proporcionando varios métodos para la integración. A pesar de sus limitaciones actuales en cobertura de idiomas y longitud de contexto, la Vista Previa Solar Pro está lista para un mayor desarrollo y mejora.
- CategoríaModelos de IA y LLM
- ImplementaciónNube
- PlataformasWeb
Aspectos destacados de Instrucción de Vista Previa Solar Pro
22 mil millones de parámetros
Compatibilidad con una sola GPU
Rendimiento superior a modelos con menos de 30B parámetros
Comparable a modelos con más de 70B parámetros
Método de escalado en profundidad mejorado
Optimizado para 80GB de VRAM
Ajustado para tareas conversacionales
Disponible como API en la Consola Upstage
Primeros pasos con Instrucción de Vista Previa Solar Pro
Acceder a la página: Visitar la página del modelo en Hugging Face
Cargar modelo: Usar el código de inferencia proporcionado
Configurar entorno: Configurar GPU con 80GB de VRAM
Integrar: Usar API en la Consola Upstage
Ajustar: Aplicar la plantilla ChatML para tareas
Casos de uso de Instrucción de Vista Previa Solar Pro
- IA Conversacional
- Seguimiento de Instrucciones
- Pruebas de Benchmark
- Integración de API
- Investigación de Modelos de Lenguaje
