説明
HuggingFaceH4/zephyr-7b-betaは、mistralai/Mistral-7B-v0.1をファインチューニングした70億パラメータの言語モデルです。公開されているデータセットと合成データセットの混合データを用いて、Direct Preference Optimization（DPO）により学習されました。このアプローチは、データセット固有のアライメントを除去することで、MT-BenchやAlpacaEvalのようなベンチマークでの性能向上につながり、Zephyr-7B-βを非常に有能な対話型AIとして位置づけています。
このモデルは主に英語のタスク向けに設計されており、MITライセンスの下で公開されています。そのアーキテクチャはGPTライクであり、ChatGPTによって生成された多様な合成対話データでファインチューニングされ、さらに🤗 TRLライブラリのDPOTrainerを用いてopenbmb/UltraFeedbackデータセットでアライメントされています。このデータセットは、GPT-4によってランク付けされた64,000件のプロンプトとそれに対応するモデルの応答を含んでおり、モデルの有用性に貢献しています。
Zephyr-7B-βは高い性能を示し、リリース時点ではMT-BenchおよびAlpacaEvalにおいて最高の7Bチャットモデルとしてランク付けされています。Llama2-Chat-70Bのようなより大きなオープンモデルと比較しても、いくつかのMT-Benchカテゴリで競争力のある結果を示しています。しかし、コーディングや数学のような複雑なタスクにおけるモデルの性能は、プロプライエタリモデルに劣る可能性があり、今後の研究開発の領域を示唆しています。
Zephyr-7B-βはチャットアプリケーションに長けていますが、その限界に注意することが重要です。ChatGPTのようなモデルと同等の安全性アライメントやインザループフィルタリングを受けていないため、指示されれば問題のあるテキストを生成する可能性があります。ユーザーは、望ましくない出力を生成する可能性を認識しておく必要があります。モデルのベースであるmistralai/Mistral-7B-v0.1は、ウェブデータ、書籍、コードの混合データで学習されている可能性が高く、その広範な能力に寄与しています。
Zephyr-7B-βとの統合は、🤗 Transformersライブラリの`pipeline()`関数を使用して実現できます。モデルは構造化された対話入力のためにチャットテンプレートをサポートしています。提供されている例は、システムメッセージとユーザーメッセージを含め、テキスト生成のためにモデルを設定する方法と、最適な対話のためにプロンプトをフォーマットする方法を示しています。
HuggingFaceH4/zephyr-7b-betaのハイライト
Mistral-7B-v0.1からファインチューニング
Direct Preference Optimization (DPO) を用いて学習
主に英語をサポート
70億パラメータ
MT-BenchおよびAlpacaEvalベンチマークで高パフォーマンス
チャットアプリケーションに適している
MITライセンスでオープンソースリリース
指示されると問題のあるテキストを生成する可能性がある
対話入力のためのチャットテンプレートをサポート
HuggingFaceH4/zephyr-7b-betaをはじめる
モデルへのアクセス: Transformersライブラリを使用してHuggingFaceH4/zephyr-7b-betaモデルをロードします。
環境設定: transformersやaccelerateなどの必要なライブラリをインストールします。
API経由での統合: テキスト生成タスクには`pipeline()`関数を利用します。
入力フォーマット: モデルのトークナイザーのチャットテンプレートを使用して、対話メッセージを構造化します。
テキスト生成: フォーマットされたプロンプトをパイプラインに提供してモデルの応答を得ます。
出力の最適化: `max_new_tokens`、`temperature`、`top_k`、`top_p`などの生成パラメータを調整します。
HuggingFaceH4/zephyr-7b-betaの使用例
- 対話型AI
- チャットボット開発
- テキスト生成
- 言語アシスタンス
- ベンチマーク評価
