Description
Hy-Memory-30B-A3B est un modèle d'écriture à mémoire à long terme sophistiqué créé par Tencent Hunyuan. Conçu pour fonctionner au sein de cadres de mémoire externe, il remplace les LLMs à usage général afin d'améliorer l'efficacité de la rétention et de la représentation de l'information. Le modèle est particulièrement efficace dans les scénarios de Chat, de Travail et de Codage, où il décide quelles informations conserver et comment les représenter avec précision. Il est entraîné en deux étapes : Distillation On-Policy de Mémoire (OPD) et Apprentissage par Renforcement de Mémoire Attribuée. Cet entraînement lui permet de se transférer efficacement vers des cadres de mémoire non vus tels qu'EverMemOS.
Lire la suite
La performance du modèle est évaluée à l'aide d'une matrice de référence fixe de 20 %, où il démontre des capacités supérieures à travers divers indicateurs. Il obtient des scores élevés dans des environnements tels que Mem0, Hy-Memory, MemOS et EverMemOS, indiquant sa robustesse et son adaptabilité. Le processus d'évaluation garantit que l'efficacité de l'écrivain de mémoire est maximisée en fixant la version de l'environnement, les invites et la configuration de récupération tout en maintenant les autres composants côté cadre constants.
L'entraînement de Hy-Memory-30B-A3B implique une supervision dense des enseignants sur les chaînes d'état écrites par les étudiants pendant la phase OPD, suivie d'un apprentissage par renforcement qui attribue un crédit au niveau des morceaux et transporte les banques sélectionnées à travers les fenêtres. Ce processus d'entraînement en deux étapes garantit que le modèle peut s'adapter efficacement à différents scénarios et cadres.
Le modèle est disponible pour déploiement avec vLLM et peut être accessible via une API compatible avec OpenAI. Cela le rend accessible aux développeurs cherchant à intégrer des capacités avancées d'écriture de mémoire dans leurs applications. Les poids, la configuration et le rapport technique du modèle sont disponibles sur Hugging Face, fournissant des ressources complètes pour une exploration et une utilisation ultérieures.
- CatégorieModèles d'IA et LLM
- Modèle tarifaireOpen source
- DéploiementvLLM
- PlateformesWeb
Points forts de Hy-Memory-30B-A3B
Modèle d'écriture à mémoire à long terme compact
Développé par Tencent Hunyuan
Remplace les LLMs à usage général
Fonctionne dans les scénarios de Chat, de Travail et de Codage
Entraînement en deux étapes : OPD et apprentissage par renforcement
Se transfère vers des cadres de mémoire non vus
Évalué sur une matrice de référence fixe de 20 %
Disponible via une API compatible avec OpenAI
Premiers pas avec Hy-Memory-30B-A3B
Accéder à la page du modèle : Visitez la page du modèle Hugging Face
Authentifier : Assurez-vous d'avoir les identifiants nécessaires
Configurer : Configurez les paramètres du modèle selon vos besoins
Envoyer des invites : Utilisez l'API pour envoyer des invites au modèle
Ajuster : Ajustez le modèle pour des cas d'utilisation spécifiques si nécessaire
Cas d'utilisation de Hy-Memory-30B-A3B
- Optimisation de Chat
- Assistance à la Programmation
- Rétention d'Information
- Adaptation aux Cadres
- Évaluation de Benchmark
