Descripción
HuggingFaceH4/zephyr-7b-beta es un modelo de lenguaje de 7 mil millones de parámetros, una versión ajustada de mistralai/Mistral-7B-v0.1. Ha sido entrenado utilizando Direct Preference Optimization (DPO) sobre una mezcla de conjuntos de datos sintéticos y disponibles públicamente. Este enfoque, que implica eliminar la alineación inherente del conjunto de datos, ha llevado a un rendimiento mejorado en benchmarks como MT-Bench y AlpacaEval, posicionando a Zephyr-7B-β como una IA conversacional altamente capaz.
Leer más
El modelo está diseñado principalmente para tareas en idioma inglés y se publica bajo la licencia MIT. Su arquitectura es similar a GPT y ha sido ajustado en diversos diálogos sintéticos generados por ChatGPT y alineado adicionalmente utilizando la biblioteca 🤗 TRL con DPOTrainer sobre el conjunto de datos openbmb/UltraFeedback. Este conjunto de datos comprende 64.000 prompts y sus correspondientes completaciones de modelo clasificadas por GPT-4, lo que contribuye a la utilidad del modelo.
Zephyr-7B-β demuestra un rendimiento sólido, clasificándose como el modelo de chat 7B más alto en MT-Bench y AlpacaEval en el momento de su lanzamiento. Muestra resultados competitivos frente a modelos abiertos más grandes como Llama2-Chat-70B en varias categorías de MT-Bench. Sin embargo, el rendimiento del modelo en tareas complejas como codificación y matemáticas puede rezagarse respecto a los modelos propietarios, lo que indica áreas para futuras investigaciones y desarrollo.
Si bien Zephyr-7B-β es experto en aplicaciones de chat, es importante tener en cuenta sus limitaciones. No ha sido sometido a la misma alineación de seguridad o filtrado en bucle que modelos como ChatGPT, lo que significa que puede generar texto problemático si se le solicita. Los usuarios deben ser conscientes de este potencial para generar resultados indeseables. La base del modelo, mistralai/Mistral-7B-v0.1, probablemente entrenada en una mezcla de datos web, libros y código, contribuye a sus amplias capacidades.
La integración con Zephyr-7B-β se puede lograr utilizando la función `pipeline()` de la biblioteca 🤗 Transformers. El modelo admite plantillas de chat para la entrada conversacional estructurada. El ejemplo proporcionado demuestra cómo configurar el modelo para la generación de texto, incluyendo mensajes del sistema y del usuario, y cómo formatear el prompt para una interacción óptima.
- CategoríaModelos de IA y LLM
- Modelo de preciosCódigo abierto
- ImplementaciónNube
- PlataformasWeb
Aspectos destacados de HuggingFaceH4/zephyr-7b-beta
Ajustado a partir de Mistral-7B-v0.1
Entrenado utilizando Direct Preference Optimization (DPO)
Soporte principal para el idioma inglés
7 mil millones de parámetros
Alto rendimiento en los benchmarks MT-Bench y AlpacaEval
Adecuado para aplicaciones de chat
Lanzamiento de código abierto bajo licencia MIT
Puede generar texto problemático cuando se le solicita
Soporta plantillas de chat para entrada conversacional
Primeros pasos con HuggingFaceH4/zephyr-7b-beta
Acceder al modelo: Cargar el modelo HuggingFaceH4/zephyr-7b-beta utilizando la biblioteca Transformers.
Configurar el entorno: Instalar las bibliotecas necesarias como transformers y accelerate.
Integrar vía API: Utilizar la función `pipeline()` para tareas de generación de texto.
Formatear la entrada: Usar la plantilla de chat del tokenizador del modelo para estructurar mensajes conversacionales.
Generar texto: Proporcionar prompts formateados al pipeline para obtener respuestas del modelo.
Optimizar la salida: Ajustar parámetros de generación como `max_new_tokens`, `temperature`, `top_k` y `top_p`.
Casos de uso de HuggingFaceH4/zephyr-7b-beta
- IA Conversacional
- Desarrollo de Chatbots
- Generación de Texto
- Asistencia Lingüística
- Evaluación de Benchmarks
