Descripción
Kolibri 1, desarrollado por Aleph Alpha, es un modelo de lenguaje grande multilingüe de última generación diseñado para manejar tareas complejas con precisión y eficiencia. Soporta tanto los idiomas alemán como inglés, lo que lo hace versátil para una amplia gama de aplicaciones. El modelo se basa en una arquitectura de Mezcla de Expertos, con 78 mil millones de parámetros en total y 3.46 mil millones de parámetros activos por token. Esta arquitectura permite que Kolibri 1 sobresalga en razonamiento en múltiples pasos, generación aumentada por recuperación y llamadas a herramientas, lo que lo hace adecuado para tareas de codificación y asistencia lingüística.
Leer más
Kolibri 1 está optimizado para una longitud de contexto de hasta 1,048,576 tokens, aunque se recomienda un límite de 262,144 tokens para una eficiencia en el servicio. El modelo opera con precisión bfloat16 y es más adecuado para entornos que requieren altas capacidades de razonamiento. Se lanza bajo la licencia Apache 2.0, asegurando acceso abierto y flexibilidad para desarrolladores e investigadores.
El entrenamiento del modelo involucró un conjunto de datos integral de 20 billones de tokens, con un enfoque en datos web en inglés y alemán, tareas de instrucción y razonamiento, y código. El proceso de entrenamiento incluyó una fase de entrenamiento intermedio y una etapa de adaptación a contextos largos, mejorando la capacidad del modelo para manejar ventanas de contexto extendidas. Kolibri 1 también incorpora características avanzadas de seguridad, incluyendo mecanismos para rechazar solicitudes dañinas y proteger información personal identificable.
Kolibri 1 está diseñado para su uso en diversas industrias, incluyendo legal, electrónica, hardware y aviación, proporcionando robustas capacidades de respuesta a preguntas aumentadas por recuperación. La arquitectura del modelo soporta llamadas a herramientas eficientes e interacciones en terminal, convirtiéndolo en un activo valioso para la ingeniería de software y entornos de terminal. Con sus amplias capacidades y disponibilidad de código abierto, Kolibri 1 es una herramienta poderosa para desarrolladores e investigadores que buscan aprovechar la IA avanzada para tareas lingüísticas complejas.
- CategoríaModelos de IA y LLM
- Modelo de preciosCódigo abierto
- ImplementaciónNube
- PlataformasWeb
Aspectos destacados de Kolibri 1
Arquitectura de Mezcla de Expertos
78 mil millones de parámetros en total
3.46 mil millones de parámetros activos por token
Soporta los idiomas alemán e inglés
Longitud de contexto de hasta 1,048,576 tokens
Precisión bfloat16
Licencia Apache 2.0
Optimizado para razonamiento en múltiples pasos
Primeros pasos con Kolibri 1
Acceder a la página del modelo: Visita el sitio web de Hugging Face
Autenticarse: Inicia sesión en tu cuenta
Configurar: Establece los parámetros del modelo
Enviar solicitudes: Ingresa tus consultas
Ajustar: Modifica el modelo para tareas específicas
Casos de uso de Kolibri 1
- Asistencia Multilingüe
- Razonamiento Complejo
- Generación Aumentada por Recuperación
- Soporte de Codificación
- Llamada a Herramientas









