Description
BgGPT-Gemma-2-27B-IT-v1.0 est un modèle de langue bulgare à la pointe de la technologie créé par INSAIT, faisant partie de l'Université de Sofia St. Kliment Ohridski. Basé sur les modèles Gemma 2 27B de Google, il a été pré-entraîné sur environ 100 milliards de tokens, dont 85 milliards en bulgare. Ce pré-entraînement extensif, utilisant la stratégie Branch-and-Merge, améliore ses capacités culturelles et linguistiques en bulgare tout en maintenant des performances en anglais.
Lire la suite
Le modèle a été affiné par instruction en utilisant un ensemble de données d'instructions bulgares dérivées de conversations réelles. Il a été évalué sur divers benchmarks, y compris Winogrande, Hellaswag, ARC Easy/Challenge, TriviaQA, GSM-8k et les examens MON, démontrant des performances supérieures en raisonnement logique, en mathématiques et en compréhension du langage.
BgGPT-Gemma-2-27B-IT-v1.0 surpasse des modèles plus grands comme Qwen 2.5 72B d'Alibaba et Llama3.1 70B de Meta dans les tâches bulgares. Il excelle également dans les performances de chat, surpassant les variantes plus petites de modèles commerciaux tels que Claude Haiku d'Anthropic et GPT-4o-mini d'OpenAI, et égalant les meilleurs modèles commerciaux en performance de chat bulgare.
Le modèle est disponible pour utilisation avec la bibliothèque 🤗 Transformers et prend en charge l'intégration avec les formats vLLM et GGML/llama.cpp. Il est distribué sous les Conditions d'utilisation de Gemma et accueille les retours de la communauté pour optimiser encore ses performances.
- CatégorieModèles d'IA et LLM
- Modèle tarifaireOpen source
- DéploiementCloud
- PlateformesWeb
Points forts de BgGPT-Gemma-2-27B-IT-v1.0
Modèle de langue bulgare à la pointe de la technologie
Basé sur Gemma 2 27B de Google
Pré-entraîné sur 100 milliards de tokens
Affiné par instruction avec des conversations réelles
Performances supérieures dans les tâches bulgares
Surpasse des modèles plus grands
Prend en charge l'intégration avec 🤗 Transformers
Distribué sous les Conditions d'utilisation de Gemma
Premiers pas avec BgGPT-Gemma-2-27B-IT-v1.0
Accéder à la page : Visitez la page du modèle Hugging Face
Charger le modèle : Utilisez la bibliothèque 🤗 Transformers
Configurer l'environnement : Définissez les paramètres recommandés
Intégrer : Utilisez avec vLLM ou GGML/llama.cpp
Affiner : Appliquez le format d'instruction
Cas d'utilisation de BgGPT-Gemma-2-27B-IT-v1.0
- Traduction de langue
- Analyse culturelle
- Applications de chat
- Outils éducatifs
- Création de contenu
