설명
LiquidAI LFM3-1.7B는 로컬 에이전트 및 전문 애플리케이션을 위해 개발된 정교한 텍스트 모델입니다. 이 모델은 게이티드 숏 컨볼루션, 슬라이딩 윈도우 어텐션, 글로벌 어텐션의 조합으로 구성된 24개의 레이어를 포함하는 트라이 하이브리드 아키텍처를 기반으로 구축되었습니다. 이 모델은 Hermes Agent, Pi, OpenClaw와 같은 에이전틱 하네스를 위해 후속 훈련되어 256K 토큰의 컨텍스트 윈도우를 제공합니다.
더 읽기
이 모델은 엣지 장치에서 효율적으로 작동하도록 설계되었으며, 약 1GB의 메모리에 맞도록 4비트 정밀도를 활용하여 대부분의 전화기와 노트북과 호환됩니다. 이 모델은 영어, 아랍어, 중국어, 프랑스어, 독일어 등 다양한 언어를 지원하여 다양한 언어적 맥락에서의 응용이 가능합니다.
LFM3-1.7B는 구조화된 출력 및 도메인별 파인 튜닝이 필요한 작업에 특히 적합합니다. 이 모델은 빠른 단일 GPU 파인 튜닝을 통해 다양한 도메인, 형식 및 도구에 적응할 수 있습니다. 이 모델은 BF16, FP8, NVFP4, GGUF, MLX 및 ONNX를 포함한 여러 추론 프레임워크 및 하드웨어 구성을 지원하여 배포의 유연성을 제공합니다.
그 능력에도 불구하고 LFM3-1.7B는 상대적으로 작은 크기로 인해 에이전틱 코딩이나 복잡한 다단계 추론에는 권장되지 않습니다. 그러나 이 모델은 이전에 더 큰 모델이 필요했던 에이전틱 애플리케이션을 구동하는 데 뛰어납니다. 이 모델의 성능은 다양한 벤치마크를 통해 검증되어 에이전틱 애플리케이션, 도구 사용 및 지침 따르기에서의 효율성을 입증합니다.
모델을 사용자 정의하는 데 관심이 있는 분들을 위해 LFM3-1.7B는 감독된 파인 튜닝(SFT), 혼합 강화 학습 및 다중 도메인 온 정책 증류(MOPD)와 같은 방법을 통해 파인 튜닝 지원을 제공합니다. 이러한 훈련 방법은 대화, 추론 및 도구 사용 작업에서 모델의 능력을 향상시킵니다.
- 카테고리AI 모델 및 LLM
- 요금제오픈소스
- 배포클라우드, 셀프 호스팅
- 플랫폼웹
LiquidAI LFM3-1.7B 하이라이트
트라이 하이브리드 아키텍처
256K 토큰 컨텍스트 윈도우
엣지 장치를 위한 4비트 정밀도
다양한 언어 지원
에이전틱 하네스를 위한 후속 훈련
도메인별 파인 튜닝
여러 추론 프레임워크 지원
전화기 및 노트북에서 효율적
LiquidAI LFM3-1.7B 시작하기
모델 페이지 접근: Hugging Face에서 LiquidAI LFM3-1.7B 페이지를 방문하세요.
인증: Hugging Face 계정에 로그인하세요.
구성: 적절한 추론 프레임워크와 하드웨어를 선택하세요.
프롬프트 전송: 텍스트 생성 작업에 모델을 사용하세요.
파인 튜닝: 특정 도메인이나 애플리케이션에 모델을 적응하세요.
LiquidAI LFM3-1.7B의 사용 사례
- 로컬 에이전트
- 전문 애플리케이션
- 도구 호출
- 다국어 작업
- 파인 튜닝
