Description
Kimi K3.1 Pro représente une avancée significative dans les modèles agentiques multimodaux, offrant une solution à poids ouvert avec un impressionnant total de 2,8 trillions de paramètres. En tant que modèle inaugural de la série K3.1, il s'appuie sur l'architecture Kimi K3, améliorée grâce à un apprentissage par renforcement conjoint étendu à des centaines de domaines en aval. Cet entraînement rigoureux a abouti à un modèle qui excelle dans une variété de tâches complexes.
Lire la suite
Une force essentielle de Kimi K3.1 Pro est sa fenêtre de contexte impressionnante d'un million de tokens, lui permettant de traiter et de comprendre des entrées exceptionnellement longues et complexes. Cette capacité de contexte étendu est cruciale pour des applications exigeantes telles que le codage avancé, où la compréhension de grandes bases de code est essentielle, et la recherche financière détaillée, qui implique souvent l'analyse de documents et de jeux de données étendus. Le modèle montre également des améliorations substantielles dans la création 3D et l'exactitude factuelle globale, en faisant un outil polyvalent pour les développeurs et les chercheurs.
Sous le capot, Kimi K3.1 Pro utilise une architecture Mixture-of-Experts (MoE), avec 104 milliards de paramètres activés et 93 couches, dont 69 KDA et 24 couches d'attention Gated DSA pour un modélisation efficace du long contexte. Son encodeur de vision, MoonViT-V2, contribue avec 401 millions de paramètres, facilitant ses capacités multimodales nativement, en traitant à la fois des entrées textuelles et d'image. Le modèle prend en charge les poids MXFP4 et les activations MXFP8 grâce à un entraînement conscient de la quantification, optimisant ainsi les performances.
Kimi K3.1 Pro a été soumis à une évaluation approfondie à travers de nombreux benchmarks, démontrant des performances compétitives par rapport à d'autres modèles leaders dans des catégories telles que le codage (par exemple, Terminal-Bench 4.0, SWE Marathon), les tâches agentiques (par exemple, HLE-Full w/ tools, BrowseComp), le raisonnement et la connaissance (par exemple, GPQA-Diamond, MMMU-Pro), et la cybersécurité (par exemple, ExploitBench, ExploitGym). Ces évaluations mettent en évidence ses capacités robustes en matière de résolution de problèmes complexes et de traitement de l'information.
Le déploiement et l'accessibilité sont simplifiés, avec l'API de Kimi K3.1 Pro disponible sur platform.kimi.ai, offrant un accès API compatible avec OpenAI/Anthropic. Il est recommandé de l'utiliser avec des moteurs d'inférence tels que vLLM, SGLang et TokenSpeed. Les utilisateurs peuvent configurer l'effort de réflexion du modèle via le champ de requête `reasoning_effort`, avec des options pour « faible », « élevé » et « maximum ». Le modèle est publié sous la licence Kimi K3.1 Pro, et le support est disponible via [email protected].
- CatégorieModèles d'IA et LLM
- DéploiementCloud
- PlateformesWeb
Points forts de Kimi K3.1 Pro
Modèle agentique multimodal à poids ouvert
2,8 trillions de paramètres au total
Fenêtre de contexte d'un million de tokens
Architecture Mixture-of-Experts (MoE)
Capacités de codage améliorées
Améliorations des capacités de création 3D
Support avancé pour la recherche financière
Haute exactitude factuelle
Support des modalités d'image et de texte
Entraînement conscient de la quantification (poids MXFP4 / activations MXFP8)
API disponible avec compatibilité OpenAI/Anthropic
Effort de raisonnement configurable (faible, élevé, maximum)
Prend en charge les conversations multi-tours et les appels d'outils
Évalué à travers de nombreux benchmarks de codage et agentiques
Publié sous la licence Kimi K3.1 Pro
Premiers pas avec Kimi K3.1 Pro
Accéder à l'API du modèle : Naviguez vers platform.kimi.ai et sélectionnez 'kimi-k3.1-pro' pour accéder à l'API.
Configurer le moteur d'inférence : Exécutez le modèle sur des moteurs d'inférence recommandés tels que vLLM, SGLang ou TokenSpeed.
Définir l'effort de raisonnement : Configurez le champ de requête 'reasoning_effort' sur 'faible', 'élevé' ou 'maximum' en fonction des exigences de la tâche.
Envoyer des invites : Utilisez l'API pour envoyer des entrées textuelles et d'image pour traitement.
Gérer les conversations multi-tours : Passez le message complet de l'assistant, y compris 'reasoning_content' et 'tool_calls', de nouveau aux messages pour une interaction continue.
Explorer les fonctionnalités avancées : Consultez le guide de démarrage rapide de Kimi K3.1 Pro pour des instructions sur l'entrée visuelle, la sortie structurée et le chargement dynamique d'outils.
Cas d'utilisation de Kimi K3.1 Pro
- Codage Avancé
- Création de Contenu 3D
- Recherche Financière
- Amélioration de l'Exactitude Factuelle
- Tâches Agentiques Multimodales
- Compréhension du Long Contexte
- Analyse de Cybersécurité
- Raisonnement Général & Connaissance
