説明
Kolibri 1は、Aleph Alphaによって開発された最先端の多言語大規模言語モデルで、精度と効率を持って複雑なタスクを処理するように設計されています。ドイツ語と英語の両方をサポートしており、幅広いアプリケーションに対応できる柔軟性を持っています。このモデルは、78億の総パラメータとトークンごとに34.6億のアクティブパラメータを持つMixture-of-Expertsアーキテクチャに基づいて構築されています。このアーキテクチャにより、Kolibri 1は多段階の推論、検索強化生成、エージェントツール呼び出しに優れ、コーディングや言語支援タスクに適しています。
続きを読む
Kolibri 1は、最大1,048,576トークンのコンテキスト長に最適化されており、効率のために推奨される制限は262,144トークンです。このモデルはbfloat16精度で動作し、高い推論能力を必要とする環境に最適です。Apache 2.0ライセンスの下でリリースされており、開発者や研究者にオープンアクセスと柔軟性を提供します。
このモデルのトレーニングには、20兆トークンの包括的なデータセットが使用され、英語とドイツ語のウェブデータ、指示および推論タスク、コードに焦点を当てています。トレーニングプロセスには、中間トレーニングフェーズと長コンテキスト適応段階が含まれ、モデルの拡張コンテキストウィンドウを処理する能力が向上しました。Kolibri 1は、有害なリクエストを拒否し、個人を特定できる情報を保護するメカニズムを含む高度な安全機能も備えています。
Kolibri 1は、法務、電子機器、ハードウェア、航空などのさまざまな業界での使用を目的としており、堅牢な検索強化質問応答機能を提供します。このモデルのアーキテクチャは、効率的なツール呼び出しと端末インタラクションをサポートしており、ソフトウェアエンジニアリングや端末環境にとって貴重な資産となります。広範な機能とオープンソースの可用性を持つKolibri 1は、複雑な言語タスクのために高度なAIを活用しようとする開発者や研究者にとって強力なツールです。
- カテゴリーAIモデルとLLM
- 料金モデルオープンソース
- デプロイクラウド
- プラットフォームWeb
Kolibri 1のハイライト
Mixture-of-Expertsアーキテクチャ
78億の総パラメータ
トークンごとに3.46億のアクティブパラメータ
ドイツ語と英語の両方をサポート
最大1,048,576トークンのコンテキスト長
bfloat16精度
Apache 2.0ライセンス
多段階の推論に最適化
Kolibri 1をはじめる
モデルページにアクセス: Hugging Faceのウェブサイトを訪問
認証: アカウントにログイン
設定: モデルパラメータを設定
プロンプトを送信: クエリを入力
ファインチューニング: 特定のタスクにモデルを調整
Kolibri 1の使用例
- 多言語支援
- 複雑な推論
- 検索強化生成
- コーディングサポート
- ツール呼び出し









