Description
Kolibri 1, développé par Aleph Alpha, est un modèle de langage multilingue de pointe conçu pour gérer des tâches complexes avec précision et efficacité. Il prend en charge les langues allemande et anglaise, ce qui le rend polyvalent pour une large gamme d'applications. Le modèle est construit sur une architecture Mixture-of-Experts, avec 78 milliards de paramètres au total et 3,46 milliards de paramètres actifs par jeton. Cette architecture permet à Kolibri 1 d'exceller dans le raisonnement en plusieurs étapes, la génération augmentée par récupération et l'appel d'outils agentiques, le rendant adapté aux tâches d'assistance en codage et en langage.
Lire la suite
Kolibri 1 est optimisé pour une longueur de contexte allant jusqu'à 1 048 576 jetons, bien qu'une limite recommandée de 262 144 jetons soit conseillée pour l'efficacité du service. Le modèle fonctionne avec une précision bfloat16 et est le mieux adapté aux environnements nécessitant de hautes capacités de raisonnement. Il est publié sous la licence Apache 2.0, garantissant un accès ouvert et une flexibilité pour les développeurs et les chercheurs.
L'entraînement du modèle a impliqué un ensemble de données complet de 20 trillions de jetons, avec un accent sur les données web en anglais et en allemand, les tâches d'instruction et de raisonnement, ainsi que le code. Le processus d'entraînement a inclus une phase de mi-formation et une étape d'adaptation à un contexte long, améliorant la capacité du modèle à gérer des fenêtres de contexte étendues. Kolibri 1 intègre également des fonctionnalités de sécurité avancées, y compris des mécanismes pour refuser les demandes nuisibles et protéger les informations personnellement identifiables.
Kolibri 1 est conçu pour être utilisé dans diverses industries, y compris le droit, l'électronique, le matériel et l'aviation, offrant des capacités robustes de réponse à des questions augmentées par récupération. L'architecture du modèle prend en charge des appels d'outils efficaces et des interactions terminales, en faisant un atout précieux pour l'ingénierie logicielle et les environnements de terminal. Avec ses capacités étendues et sa disponibilité en open source, Kolibri 1 est un outil puissant pour les développeurs et les chercheurs cherchant à tirer parti de l'IA avancée pour des tâches linguistiques complexes.
- CatégorieModèles d'IA et LLM
- Modèle tarifaireOpen source
- DéploiementCloud
- PlateformesWeb
Points forts de Kolibri 1
Architecture Mixture-of-Experts
78 milliards de paramètres au total
3,46 milliards de paramètres actifs par jeton
Prend en charge les langues allemande et anglaise
Longueur de contexte allant jusqu'à 1 048 576 jetons
Précision bfloat16
Licence Apache 2.0
Optimisé pour le raisonnement en plusieurs étapes
Premiers pas avec Kolibri 1
Accéder à la page du modèle : Visitez le site web de Hugging Face
S'authentifier : Connectez-vous à votre compte
Configurer : Définissez les paramètres du modèle
Envoyer des invites : Saisissez vos requêtes
Affiner : Ajustez le modèle pour des tâches spécifiques
Cas d'utilisation de Kolibri 1
- Assistance Multilingue
- Raisonnement Complexe
- Génération Augmentée par Récupération
- Support au Codage
- Appel d'Outils
