Description
MiniCPM-V-4.7-35B-A3B-DSpark est un modèle de point de contrôle DSpark sophistiqué développé pour une intégration transparente avec MiniCPM-V-4.7-35B-A3B et son tokenizer. Ce modèle est conçu pour gérer une variété de tâches dans différents domaines, y compris la vision, le texte, les mathématiques et le code. Il est entraîné à l'aide d'un mélange d'invites visuelles et textuelles, garantissant une polyvalence d'application.
Lire la suite
Le modèle comprend cinq couches de brouillon et 389 223 169 paramètres de brouillon, avec une capacité de jeton de brouillon de 15 par passage avant. Il est conçu avec des couches d'état caché cibles à des intervalles spécifiques, améliorant ses capacités de traitement. La précision du point de contrôle est fixée à BF16, optimisant les performances et l'efficacité.
L'entraînement a impliqué la génération de réponses à partir de MiniCPM-V-4.7-35B-A3B en utilisant une recette d'entraînement complète qui comprend 2 millions de séquences d'entraînement sur six époques. L'optimiseur utilisé est AdamW, avec des objectifs axés sur CE, L1 et la perte de confiance.
L'évaluation du modèle est effectuée dans divers domaines, tels que MathVista et OCRBench, avec des longueurs d'acceptation allant de 3,501 à 7,387. Cela garantit la robustesse et l'adaptabilité du modèle à différentes tâches.
Malgré ses capacités avancées, le modèle présente des limitations. Il manque d'intention autonome et ses sorties sont basées sur des modèles statistiques, ce qui peut entraîner des inexactitudes ou des biais. Les utilisateurs sont conseillés d'utiliser le modèle de manière éthique et de configurer des mesures de protection appropriées.
- CatégorieModèles d'IA et LLM
- Modèle tarifaireOpen source
- DéploiementCloud
- PlateformesWeb
Points forts de MiniCPM-V-4.7-35B-A3B-DSpark
Modèle de point de contrôle DSpark
Intégration avec MiniCPM-V-4.7-35B-A3B
Prise en charge des invites visuelles et textuelles
Cinq couches de brouillon
389 223 169 paramètres de brouillon
Précision du point de contrôle BF16
2 millions de séquences d'entraînement
Évaluation dans plusieurs domaines
Premiers pas avec MiniCPM-V-4.7-35B-A3B-DSpark
Accéder à la page du modèle : Visitez le site Web de Hugging Face
S'authentifier : Connectez-vous à votre compte Hugging Face
Configurer : Configurez les paramètres du modèle selon vos besoins
Envoyer des invites : Saisissez des invites visuelles ou textuelles
Affiner : Ajustez les paramètres du modèle pour des tâches spécifiques
Cas d'utilisation de MiniCPM-V-4.7-35B-A3B-DSpark
- Traitement de la vision
- Analyse de texte
- Calcul mathématique
- Génération de code
- Intégration multimodale











