Описание
BgGPT-Gemma-2-27B-IT-v1.0 — это современная болгарская языковая модель, созданная INSAIT, частью Софийского университета Святого Климента Охридского. Она построена на моделях Gemma 2 27B от Google и была предварительно обучена на примерно 100 миллиардах токенов, из которых 85 миллиардов на болгарском языке. Это обширное предварительное обучение с использованием стратегии Branch-and-Merge улучшает ее культурные и языковые способности на болгарском, сохраняя при этом производительность на английском.
Читать далее
Модель была дообучена с использованием набора данных инструкций на болгарском языке, полученного из реальных разговоров. Она была оценена по различным бенчмаркам, включая Winogrande, Hellaswag, ARC Easy/Challenge, TriviaQA, GSM-8k и экзамены MON, демонстрируя превосходные результаты в логическом мышлении, математике и понимании языка.
BgGPT-Gemma-2-27B-IT-v1.0 превосходит более крупные модели, такие как Qwen 2.5 72B от Alibaba и Llama3.1 70B от Meta, в болгарских задачах. Она также демонстрирует отличные результаты в чатах, превосходя меньшие варианты коммерческих моделей, такие как Claude Haiku от Anthropic и GPT-4o-mini от OpenAI, и сопоставляется с лучшими коммерческими моделями по производительности в болгарских чатах.
Модель доступна для использования с библиотекой 🤗 Transformers и поддерживает интеграцию с форматами vLLM и GGML/llama.cpp. Она распространяется на условиях Gemma Terms of Use и приветствует отзывы сообщества для дальнейшей оптимизации своей производительности.
- КатегорияИИ-модели и LLM
- Модель ценообразованияОткрытый код
- РазвёртываниеОблако
- ПлатформыВеб
Главное о BgGPT-Gemma-2-27B-IT-v1.0
Современная болгарская языковая модель
Основана на Gemma 2 27B от Google
Предварительно обучена на 100 миллиардах токенов
Дообучена с использованием реальных разговоров
Превосходные результаты в болгарских задачах
Превосходит более крупные модели
Поддерживает интеграцию с 🤗 Transformers
Распространяется на условиях Gemma Terms of Use
Начало работы с BgGPT-Gemma-2-27B-IT-v1.0
Доступ к странице: Посетите страницу модели Hugging Face
Загрузите модель: Используйте библиотеку 🤗 Transformers
Настройте окружение: Установите рекомендуемые параметры
Интеграция: Используйте с vLLM или GGML/llama.cpp
Дообучение: Примените формат инструкций
Варианты использования BgGPT-Gemma-2-27B-IT-v1.0
- Перевод языка
- Культурный анализ
- Чат-приложения
- Образовательные инструменты
- Создание контента
