Описание
Kolibri 1, разработанная Aleph Alpha, является передовой многоязычной большой языковой моделью, предназначенной для выполнения сложных задач с точностью и эффективностью. Она поддерживает как немецкий, так и английский языки, что делает её универсальной для широкого спектра приложений. Модель построена на архитектуре Mixture-of-Experts, имеющей 78 миллиардов параметров и 3,46 миллиарда активных параметров на токен. Эта архитектура позволяет Kolibri 1 превосходно справляться с многоступенчатыми рассуждениями, генерацией с использованием извлечений и вызовом инструментов, что делает её подходящей для задач программирования и языковой помощи.
Читать далее
Kolibri 1 оптимизирована для длины контекста до 1,048,576 токенов, хотя рекомендуется ограничение в 262,144 токена для повышения эффективности обслуживания. Модель работает с точностью bfloat16 и лучше всего подходит для сред, требующих высоких возможностей рассуждения. Она выпущена под лицензией Apache 2.0, что обеспечивает открытый доступ и гибкость для разработчиков и исследователей.
Обучение модели включало обширный набор данных из 20 триллионов токенов, с акцентом на веб-данные на английском и немецком языках, задачи инструкций и рассуждений, а также код. Процесс обучения включал промежуточный этап и стадию адаптации к длинному контексту, что улучшает способность модели обрабатывать расширенные контекстные окна. Kolibri 1 также включает в себя современные функции безопасности, включая механизмы для отклонения вредоносных запросов и защиты личной информации.
Kolibri 1 предназначена для использования в различных отраслях, включая юриспруденцию, электронику, аппаратное обеспечение и авиацию, предоставляя надежные возможности ответов на вопросы с использованием извлечений. Архитектура модели поддерживает эффективный вызов инструментов и взаимодействие с терминалом, что делает её ценным активом для программной инженерии и терминальных сред. С её обширными возможностями и открытым исходным кодом, Kolibri 1 является мощным инструментом для разработчиков и исследователей, стремящихся использовать передовой ИИ для сложных языковых задач.
- КатегорияИИ-модели и LLM
- Модель ценообразованияОткрытый код
- РазвёртываниеОблако
- ПлатформыВеб
Главное о Kolibri 1
Архитектура Mixture-of-Experts
78 миллиардов параметров
3,46 миллиарда активных параметров на токен
Поддержка немецкого и английского языков
Длина контекста до 1,048,576 токенов
Точность bfloat16
Лицензия Apache 2.0
Оптимизирована для многоступенчатых рассуждений
Начало работы с Kolibri 1
Доступ к странице модели: посетите сайт Hugging Face
Аутентификация: войдите в свою учетную запись
Настройка: установите параметры модели
Отправка запросов: введите ваши запросы
Тонкая настройка: настройте модель для конкретных задач
Варианты использования Kolibri 1
- Многоязычная помощь
- Сложные рассуждения
- Генерация с использованием извлечений
- Поддержка программирования
- Вызов инструментов









