Описание
Hy-Memory-30B-A3B — это сложная модель писателя долгосрочной памяти, созданная Tencent Hunyuan. Она предназначена для работы в рамках внешней памяти и заменяет универсальные LLM, чтобы повысить эффективность сохранения и представления информации. Модель особенно эффективна в сценариях Чата, Работы и Кодирования, где она решает, какую информацию сохранить и как точно ее представить. Она обучается в два этапа: Дистилляция памяти по политике (OPD) и Обучение с подкреплением на основе атрибутов. Это обучение позволяет ей эффективно переноситься на невидимые рамки памяти, такие как EverMemOS.
Читать далее
Эффективность модели оценивается с использованием фиксированной матрицы бенчмарка 20%, где она демонстрирует превосходные возможности по различным метрикам. Она достигает высоких оценок в системах, таких как Mem0, Hy-Memory, MemOS и EverMemOS, что указывает на ее надежность и адаптивность. Процесс оценки гарантирует, что эффективность писателя памяти максимизируется за счет фиксирования версии системы, подсказок и конфигурации извлечения, при этом другие компоненты со стороны рамки остаются постоянными.
Обучение Hy-Memory-30B-A3B включает плотное преподавание со стороны учителя на цепочках состояний, написанных студентами, на этапе OPD, за которым следует обучение с подкреплением, которое присваивает кредит на уровне чанков и переносит выбранные банки через окна. Этот двухэтапный процесс обучения гарантирует, что модель может эффективно адаптироваться к различным сценариям и рамкам.
Модель доступна для развертывания с vLLM и может быть доступна через совместимый с OpenAI API. Это делает ее доступной для разработчиков, стремящихся интегрировать передовые возможности написания памяти в свои приложения. Веса модели, конфигурация и технический отчет доступны на Hugging Face, предоставляя исчерпывающие ресурсы для дальнейшего изучения и использования.
- КатегорияИИ-модели и LLM
- Модель ценообразованияОткрытый код
- РазвёртываниеvLLM
- ПлатформыВеб
Главное о Hy-Memory-30B-A3B
Компактная модель писателя долгосрочной памяти
Разработана Tencent Hunyuan
Заменяет универсальные LLM
Работает в сценариях Чата, Работы и Кодирования
Двухэтапное обучение: OPD и обучение с подкреплением
Переносится на невидимые рамки памяти
Оценивается по фиксированной матрице бенчмарка 20%
Доступна через совместимый с OpenAI API
Начало работы с Hy-Memory-30B-A3B
Доступ к странице модели: посетите страницу модели Hugging Face
Аутентификация: убедитесь, что у вас есть необходимые учетные данные
Конфигурация: настройте параметры модели по мере необходимости
Отправка подсказок: используйте API для отправки подсказок модели
Тонкая настройка: при необходимости настройте модель для конкретных случаев использования
Варианты использования Hy-Memory-30B-A3B
- Оптимизация Чата
- Помощь в Кодировании
- Сохранение Информации
- Адаптация Рамок
- Оценка Бенчмарков
