설명
HuggingFaceH4/zephyr-7b-beta는 70억 개의 매개변수를 가진 언어 모델로, mistralai/Mistral-7B-v0.1을 미세 조정한 버전입니다. 공개적으로 사용 가능한 데이터셋과 합성 데이터셋의 혼합본에 대해 Direct Preference Optimization(DPO)을 사용하여 학습되었습니다. 이 접근 방식은 데이터셋의 고유한 정렬을 제거하여 MT-Bench 및 AlpacaEval과 같은 벤치마크에서 성능을 향상시켰으며, Zephyr-7B-β를 매우 유능한 대화형 AI로 자리매김하게 했습니다.
이 모델은 주로 영어 언어 작업을 위해 설계되었으며 MIT 라이선스 하에 배포됩니다. GPT와 유사한 아키텍처를 가지고 있으며, ChatGPT에서 생성된 다양한 합성 대화 데이터셋으로 미세 조정되었고, 🤗 TRL 라이브러리의 DPOTrainer를 사용하여 openbmb/UltraFeedback 데이터셋으로 추가 정렬되었습니다. 이 데이터셋은 GPT-4에 의해 순위가 매겨진 64,000개의 프롬프트와 해당 모델 완료본으로 구성되어 모델의 유용성에 기여합니다.
Zephyr-7B-β는 출시 당시 MT-Bench 및 AlpacaEval에서 가장 높은 7B 채팅 모델로 순위를 기록하며 강력한 성능을 보여줍니다. Llama2-Chat-70B와 같은 더 큰 오픈 소스 모델과 비교했을 때 여러 MT-Bench 카테고리에서 경쟁력 있는 결과를 보여줍니다. 그러나 코딩 및 수학과 같은 복잡한 작업에서의 모델 성능은 독점 모델에 비해 뒤처질 수 있으며, 이는 향후 연구 및 개발 영역을 나타냅니다.
Zephyr-7B-β는 채팅 애플리케이션에 능숙하지만, 그 한계를 인지하는 것이 중요합니다. ChatGPT와 같은 모델과 동일한 안전 정렬 또는 인-루프 필터링을 거치지 않았으므로, 요청 시 문제가 될 수 있는 텍스트를 생성할 수 있습니다. 사용자는 바람직하지 않은 출력을 생성할 수 있는 가능성을 인지해야 합니다. 모델의 기반인 mistralai/Mistral-7B-v0.1은 웹 데이터, 책, 코드의 혼합본으로 학습되었을 가능성이 높으며, 이는 모델의 광범위한 기능에 기여합니다.
Zephyr-7B-β와의 통합은 🤗 Transformers 라이브러리의 `pipeline()` 함수를 사용하여 달성할 수 있습니다. 이 모델은 구조화된 대화형 입력을 위해 채팅 템플릿을 지원합니다. 제공된 예시는 시스템 및 사용자 메시지를 포함한 텍스트 생성을 위해 모델을 설정하는 방법과 최적의 상호 작용을 위해 프롬프트를 형식화하는 방법을 보여줍니다.
HuggingFaceH4/zephyr-7b-beta 하이라이트
Mistral-7B-v0.1에서 미세 조정됨
Direct Preference Optimization (DPO)을 사용하여 학습됨
주로 영어 지원
70억 개의 매개변수
MT-Bench 및 AlpacaEval 벤치마크에서 높은 성능
채팅 애플리케이션에 적합
MIT 라이선스 하에 오픈 소스로 배포됨
요청 시 문제가 될 수 있는 텍스트 생성 가능
대화형 입력을 위한 채팅 템플릿 지원
HuggingFaceH4/zephyr-7b-beta 시작하기
모델 액세스: Transformers 라이브러리를 사용하여 HuggingFaceH4/zephyr-7b-beta 모델을 로드합니다.
환경 설정: transformers 및 accelerate와 같은 필요한 라이브러리를 설치합니다.
API를 통한 통합: 텍스트 생성 작업을 위해 `pipeline()` 함수를 활용합니다.
입력 형식 지정: 모델의 토크나이저 채팅 템플릿을 사용하여 대화 메시지를 구조화합니다.
텍스트 생성: 형식화된 프롬프트를 파이프라인에 제공하여 모델 응답을 얻습니다.
출력 최적화: `max_new_tokens`, `temperature`, `top_k`, `top_p`와 같은 생성 매개변수를 조정합니다.
HuggingFaceH4/zephyr-7b-beta의 사용 사례
- 대화형 AI
- 챗봇 개발
- 텍스트 생성
- 언어 지원
- 벤치마크 평가
