Descripción
Hy-Memory-30B-A3B es un sofisticado modelo de escritura de memoria a largo plazo creado por Tencent Hunyuan. Diseñado para operar dentro de marcos de memoria externa, reemplaza a los LLM de propósito general para mejorar la eficiencia de la retención y representación de información. El modelo es particularmente efectivo en escenarios de Chat, Trabajo y Programación, donde decide qué información retener y cómo representarla con precisión. Se entrena en dos etapas: Destilación de Memoria On-Policy (OPD) y Aprendizaje por Refuerzo de Memoria Atribuida. Este entrenamiento le permite transferirse de manera efectiva a marcos de memoria no vistos como EverMemOS.
Leer más
El rendimiento del modelo se evalúa utilizando una matriz de referencia fija del 20%, donde demuestra capacidades superiores en varias métricas. Logra altas puntuaciones en arneses como Mem0, Hy-Memory, MemOS y EverMemOS, lo que indica su robustez y adaptabilidad. El proceso de evaluación asegura que la eficiencia del escritor de memoria se maximice al fijar la versión del arnés, los prompts y la configuración de recuperación, manteniendo constantes otros componentes del lado del marco.
El entrenamiento de Hy-Memory-30B-A3B implica supervisión densa del profesor sobre cadenas de estado escritas por estudiantes durante la etapa OPD, seguida de un aprendizaje por refuerzo que asigna crédito a nivel de fragmento y transporta bancos seleccionados a través de ventanas. Este proceso de entrenamiento en dos etapas asegura que el modelo pueda adaptarse a diferentes escenarios y marcos de manera efectiva.
El modelo está disponible para implementación con vLLM y se puede acceder a través de una API compatible con OpenAI. Esto lo hace accesible para desarrolladores que buscan integrar capacidades avanzadas de escritura de memoria en sus aplicaciones. Los pesos, la configuración y el informe técnico del modelo están disponibles en Hugging Face, proporcionando recursos completos para una mayor exploración y utilización.
- CategoríaModelos de IA y LLM
- Modelo de preciosCódigo abierto
- ImplementaciónvLLM
- PlataformasWeb
Aspectos destacados de Hy-Memory-30B-A3B
Modelo compacto de escritura de memoria a largo plazo
Desarrollado por Tencent Hunyuan
Reemplaza a los LLM de propósito general
Opera en escenarios de Chat, Trabajo y Programación
Entrenamiento en dos etapas: OPD y aprendizaje por refuerzo
Se transfiere a marcos de memoria no vistos
Evaluado en una matriz de referencia fija del 20%
Disponible a través de una API compatible con OpenAI
Primeros pasos con Hy-Memory-30B-A3B
Acceder a la página del modelo: Visita la página del modelo en Hugging Face
Autenticarse: Asegúrate de tener las credenciales necesarias
Configurar: Establece los parámetros del modelo según sea necesario
Enviar prompts: Usa la API para enviar prompts al modelo
Ajustar: Modifica el modelo para casos de uso específicos si es necesario
Casos de uso de Hy-Memory-30B-A3B
- Optimización de Chat
- Asistencia en Programación
- Retención de Información
- Adaptación de Marcos
- Evaluación de Benchmark
