Descrição
Hy-Memory-30B-A3B é um sofisticado modelo de escritor de memória de longo prazo criado pela Tencent Hunyuan. Projetado para operar dentro de estruturas de memória externa, ele substitui LLMs de uso geral para aumentar a eficiência da retenção e representação de informações. O modelo é particularmente eficaz em cenários de Chat, Trabalho e Programação, onde decide quais informações reter e como representá-las com precisão. Ele é treinado em duas etapas: Destilação de Política de Memória (OPD) e Aprendizado por Reforço de Memória Atribuída.
Ler mais
Esse treinamento permite que ele se transfira efetivamente para estruturas de memória não vistas, como o EverMemOS.
O desempenho do modelo é avaliado usando uma matriz de referência fixa de 20%, onde demonstra capacidades superiores em várias métricas. Ele alcança altas pontuações em harnesses como Mem0, Hy-Memory, MemOS e EverMemOS, indicando sua robustez e adaptabilidade. O processo de avaliação garante que a eficiência do escritor de memória seja maximizada ao fixar a versão do harness, prompts e configuração de recuperação, mantendo outros componentes do lado da estrutura constantes.
O treinamento do Hy-Memory-30B-A3B envolve supervisão densa de professores sobre cadeias de estado escritas por alunos durante a fase OPD, seguido de aprendizado por reforço que atribui crédito em nível de bloco e carrega bancos selecionados através de janelas. Esse processo de treinamento em duas etapas garante que o modelo possa se adaptar a diferentes cenários e estruturas de forma eficaz.
O modelo está disponível para implantação com vLLM e pode ser acessado via uma API compatível com OpenAI. Isso o torna acessível para desenvolvedores que buscam integrar capacidades avançadas de escrita de memória em suas aplicações. Os pesos, configuração e relatório técnico do modelo estão disponíveis no Hugging Face, fornecendo recursos abrangentes para exploração e utilização adicionais.
- CategoriaModelos de IA e LLMs
- Modelo de preçosCódigo aberto
- ImplantaçãovLLM
- PlataformasWeb
Destaques de Hy-Memory-30B-A3B
Modelo compacto de escritor de memória de longo prazo
Desenvolvido pela Tencent Hunyuan
Substitui LLMs de uso geral
Opera em cenários de Chat, Trabalho e Programação
Treinamento em duas etapas: OPD e aprendizado por reforço
Transfere-se para estruturas de memória não vistas
Avaliado em matriz de referência fixa de 20%
Disponível via API compatível com OpenAI
Primeiros passos com Hy-Memory-30B-A3B
Acesse a página do modelo: Visite a página do modelo no Hugging Face
Autentique-se: Certifique-se de ter as credenciais necessárias
Configure: Configure os parâmetros do modelo conforme necessário
Envie prompts: Use a API para enviar prompts ao modelo
Ajuste: Ajuste o modelo para casos de uso específicos, se necessário
Casos de uso de Hy-Memory-30B-A3B
- Otimização de Chat
- Assistência em Programação
- Retenção de Informação
- Adaptação de Estruturas
- Avaliação de Benchmark
