Описание
Kimi K3.1 Pro представляет собой значительный шаг вперед в области мультимодальных агентных моделей, предлагая решение с открытыми весами и огромным количеством параметров — 2,8 триллиона. Как первая модель в серии K3.1, она основана на архитектуре Kimi K3, улучшенной благодаря обширному совместному обучению с подкреплением в сотнях прикладных областей. Это тщательное обучение привело к созданию модели, которая превосходно справляется с различными сложными задачами.
Читать далее
Ключевым преимуществом Kimi K3.1 Pro является его впечатляющее контекстное окно на 1 миллион токенов, что позволяет ему обрабатывать и понимать исключительно длинные и сложные входные данные. Эта расширенная способность контекста имеет решающее значение для требовательных приложений, таких как продвинутое кодирование, где важно понимать большие кодовые базы, и детальные финансовые исследования, которые часто включают анализ обширных документов и наборов данных. Модель также демонстрирует значительные улучшения в создании 3D и общей фактической точности, что делает ее универсальным инструментом для разработчиков и исследователей.
Внутри Kimi K3.1 Pro использует архитектуру Mixture-of-Experts (MoE) с 104 миллиардами активированных параметров и 93 слоями, включая 69 слоев KDA и 24 слоя Gated DSA для эффективного моделирования длинного контекста. Ее визуальный кодировщик, MoonViT-V2, вносит 401 миллион параметров, способствуя ее нативным мультимодальным возможностям, обрабатывая как текстовые, так и изображенческие входные данные. Модель поддерживает веса MXFP4 и активации MXFP8 через обучение с учетом квантования, оптимизируя производительность.
Kimi K3.1 Pro прошла обширную оценку по множеству бенчмарков, демонстрируя конкурентоспособные результаты по сравнению с другими ведущими моделями в таких категориях, как кодирование (например, Terminal-Bench 4.0, SWE Marathon), агентные задачи (например, HLE-Full с инструментами, BrowseComp), рассуждения и знания (например, GPQA-Diamond, MMMU-Pro) и кибербезопасность (например, ExploitBench, ExploitGym). Эти оценки подчеркивают ее надежные возможности в решении сложных задач и обработке информации.
Развертывание и доступность упрощены, API Kimi K3.1 Pro доступен на платформе platform.kimi.ai, предлагая доступ к API, совместимому с OpenAI/Anthropic. Рекомендуется использовать с движками вывода, такими как vLLM, SGLang и TokenSpeed. Пользователи могут настраивать усилия модели по мышлению через поле запроса `reasoning_effort`, с опциями «низкий», «высокий» и «максимум». Модель выпущена под лицензией Kimi K3.1 Pro, а поддержка доступна по адресу [email protected].
- КатегорияИИ-модели и LLM
- РазвёртываниеОблако
- ПлатформыВеб
Главное о Kimi K3.1 Pro
Открытая модель с нативной мультимодальностью
2,8 триллиона параметров
Контекстное окно на 1 миллион токенов
Архитектура Mixture-of-Experts (MoE)
Улучшенные возможности кодирования
Повышенные способности создания 3D
Поддержка продвинутых финансовых исследований
Высокая фактическая точность
Поддержка изображений и текста
Обучение с учетом квантования (веса MXFP4 / активации MXFP8)
API доступен с совместимостью OpenAI/Anthropic
Настраиваемые усилия рассуждения (низкий, высокий, максимум)
Поддержка многоповоротных разговоров и вызовов инструментов
Оценена по обширным бенчмаркам кодирования и агентных задач
Выпущена под лицензией Kimi K3.1 Pro
Начало работы с Kimi K3.1 Pro
Доступ к API модели: Перейдите на platform.kimi.ai и выберите 'kimi-k3.1-pro' для доступа к API.
Настройка движка вывода: Запустите модель на рекомендуемых движках вывода, таких как vLLM, SGLang или TokenSpeed.
Установите усилия рассуждения: Настройте поле запроса 'reasoning_effort' на 'низкий', 'высокий' или 'максимум' в зависимости от требований задачи.
Отправка подсказок: Используйте API для отправки текстовых и изображенческих входных данных для обработки.
Обработка многоповоротных разговоров: Передавайте полное сообщение помощника, включая 'reasoning_content' и 'tool_calls', обратно в сообщения для непрерывного взаимодействия.
Изучение продвинутых функций: Обратитесь к Kimi K3.1 Pro Quickstart для получения руководств по вводу изображений, структурированному выводу и динамической загрузке инструментов.
Варианты использования Kimi K3.1 Pro
- Продвинутое кодирование
- Создание 3D-контента
- Финансовые исследования
- Улучшение фактической точности
- Мультимодальные агентные задачи
- Понимание длинного контекста
- Анализ кибербезопасности
- Общие рассуждения и знания
