Deskripsi
Kolibri 1, yang dikembangkan oleh Aleph Alpha, adalah model bahasa besar multibahasa yang canggih, dirancang untuk menangani tugas kompleks dengan presisi dan efisiensi. Model ini mendukung bahasa Jerman dan Inggris, menjadikannya serbaguna untuk berbagai aplikasi. Model ini dibangun di atas arsitektur Mixture-of-Experts, dengan total 78 miliar parameter dan 3,46 miliar parameter aktif per token. Arsitektur ini memungkinkan Kolibri 1 unggul dalam penalaran multi-langkah, generasi yang ditingkatkan dengan pengambilan, dan pemanggilan alat agentic, menjadikannya cocok untuk tugas pemrograman dan bantuan bahasa.
Baca Selengkapnya
Kolibri 1 dioptimalkan untuk panjang konteks hingga 1.048.576 token, meskipun batas yang disarankan adalah 262.144 token untuk efisiensi penyajian. Model ini beroperasi dengan presisi bfloat16 dan paling cocok untuk lingkungan yang memerlukan kemampuan penalaran tinggi. Model ini dirilis di bawah lisensi Apache 2.0, memastikan akses terbuka dan fleksibilitas bagi pengembang dan peneliti.
Pelatihan model ini melibatkan dataset komprehensif sebanyak 20 triliun token, dengan fokus pada data web bahasa Inggris dan Jerman, tugas instruksi dan penalaran, serta kode. Proses pelatihan mencakup fase pelatihan tengah dan tahap adaptasi konteks panjang, meningkatkan kemampuan model untuk menangani jendela konteks yang diperpanjang. Kolibri 1 juga mengintegrasikan fitur keselamatan canggih, termasuk mekanisme untuk menolak permintaan berbahaya dan melindungi informasi yang dapat diidentifikasi secara pribadi.
Kolibri 1 dirancang untuk digunakan di berbagai industri, termasuk hukum, elektronik, perangkat keras, dan penerbangan, menyediakan kemampuan menjawab pertanyaan yang kuat dengan pengambilan yang ditingkatkan. Arsitektur model ini mendukung pemanggilan alat yang efisien dan interaksi terminal, menjadikannya aset berharga untuk rekayasa perangkat lunak dan lingkungan terminal. Dengan kemampuannya yang luas dan ketersediaan sumber terbuka, Kolibri 1 adalah alat yang kuat bagi pengembang dan peneliti yang ingin memanfaatkan AI canggih untuk tugas bahasa yang kompleks.
- KategoriModel AI & LLM
- Model HargaOpen source
- PenerapanCloud
- PlatformWeb
Sorotan Kolibri 1
Arsitektur Mixture-of-Experts
78 miliar total parameter
3,46 miliar parameter aktif per token
Mendukung bahasa Jerman dan Inggris
Panjang konteks hingga 1.048.576 token
Presisi bfloat16
Lisensi Apache 2.0
Dioptimalkan untuk penalaran multi-langkah
Memulai dengan Kolibri 1
Akses halaman model: Kunjungi situs web Hugging Face
Autentikasi: Masuk ke akun Anda
Konfigurasi: Atur parameter model
Kirim prompt: Masukkan pertanyaan Anda
Fine-tune: Sesuaikan model untuk tugas tertentu
Kasus Penggunaan Kolibri 1
- Bantuan Multibahasa
- Penalaran Kompleks
- Generasi yang Ditingkatkan dengan Pengambilan
- Dukungan Pemrograman
- Pemanggilan Alat
