설명
Hy-Memory-30B-A3B는 Tencent Hunyuan이 만든 정교한 장기 기억 작가 모델입니다. 외부 메모리 프레임워크 내에서 작동하도록 설계되어 있으며, 정보의 보존 및 표현 효율성을 향상시키기 위해 일반적인 LLM을 대체합니다. 이 모델은 정보 보존 및 정확한 표현을 결정하는 Chat, Working, Coding 시나리오에서 특히 효과적입니다. 이 모델은 두 단계로 훈련됩니다: 메모리 온-정책 증류(Memory On-Policy Distillation, OPD)와 속성 메모리 강화 학습(Attributed Memory Reinforcement Learning). 이러한 훈련을 통해 EverMemOS와 같은 보지 못한 메모리 프레임워크로 효과적으로 전이할 수 있습니다.
더 읽기
모델의 성능은 고정된 20% 벤치마크 매트릭스를 사용하여 평가되며, 다양한 메트릭에서 우수한 능력을 보여줍니다. Mem0, Hy-Memory, MemOS 및 EverMemOS와 같은 하네스에서 높은 점수를 달성하여 강력함과 적응성을 나타냅니다. 평가 과정은 메모리 작가의 효율성을 극대화하기 위해 하네스 버전, 프롬프트 및 검색 구성을 고정하고 다른 프레임워크 측 구성 요소를 일정하게 유지합니다.
Hy-Memory-30B-A3B의 훈련은 OPD 단계에서 학생이 작성한 상태 체인에 대한 밀집 교사 감독을 포함하며, 그 후 청크 수준의 크레딧을 할당하고 선택된 뱅크를 창(window) 간에 전달하는 강화 학습이 이어집니다. 이 두 단계의 훈련 과정은 모델이 다양한 시나리오와 프레임워크에 효과적으로 적응할 수 있도록 보장합니다.
이 모델은 vLLM과 함께 배포할 수 있으며 OpenAI 호환 API를 통해 접근할 수 있습니다. 이는 개발자들이 애플리케이션에 고급 메모리 작성 기능을 통합할 수 있도록 합니다. 모델의 가중치, 구성 및 기술 보고서는 Hugging Face에서 제공되어 추가 탐색 및 활용을 위한 포괄적인 리소스를 제공합니다.
- 카테고리AI 모델 및 LLM
- 요금제오픈소스
- 배포vLLM
- 플랫폼웹
Hy-Memory-30B-A3B 하이라이트
컴팩트한 장기 기억 작가 모델
Tencent Hunyuan이 개발
일반적인 LLM 대체
Chat, Working, Coding 시나리오에서 작동
두 단계 훈련: OPD 및 강화 학습
보지 못한 메모리 프레임워크로 전이 가능
고정된 20% 벤치마크 매트릭스에서 평가
OpenAI 호환 API를 통해 사용 가능
Hy-Memory-30B-A3B 시작하기
모델 페이지 접근: Hugging Face 모델 페이지 방문
인증: 필요한 자격 증명 확인
구성: 필요에 따라 모델 매개변수 설정
프롬프트 전송: API를 사용하여 모델에 프롬프트 전송
미세 조정: 필요 시 특정 사용 사례에 맞게 모델 조정
Hy-Memory-30B-A3B의 사용 사례
- 채팅 최적화
- 코딩 지원
- 정보 보존
- 프레임워크 적응
- 벤치마크 평가
