Deskripsi
Solar Pro Preview Instruct adalah model bahasa besar (LLM) mutakhir yang dikembangkan untuk muat dalam satu GPU dengan 22 miliar parameter. Model ini menunjukkan kinerja yang luar biasa, melampaui model dengan kurang dari 30 miliar parameter dan bersaing dengan model yang lebih dari tiga kali ukurannya, seperti Llama 3.1 dengan 70 miliar parameter. Model ini dibangun menggunakan versi yang ditingkatkan dari metode peningkatan kedalaman, meningkatkan model Phi-3-medium dari 14 miliar menjadi 22 miliar parameter, dioptimalkan untuk GPU dengan 80GB VRAM.
Baca Selengkapnya
Strategi pelatihan dan dataset untuk Solar Pro Preview telah disusun dengan cermat, menghasilkan peningkatan kinerja yang signifikan dibandingkan model Phi-3-medium, terutama pada tolok ukur seperti MMLU-Pro dan IFEval, yang menilai pengetahuan dan kemampuan mengikuti instruksi model. Meskipun ini adalah versi pra-rilis, model ini sudah menonjol karena efisiensi dan kemampuannya, dengan rencana untuk rilis resmi Solar Pro pada November 2024, yang akan mencakup dukungan bahasa yang lebih luas dan jendela konteks yang lebih panjang.
Solar Pro Preview dirancang khusus untuk tugas mengikuti instruksi dan keterlibatan percakapan, memanfaatkan template ChatML untuk kinerja optimal. Model ini tersedia sebagai API di Upstage Console, menyediakan berbagai metode untuk integrasi. Meskipun saat ini memiliki keterbatasan dalam cakupan bahasa dan panjang konteks, Solar Pro Preview siap untuk pengembangan dan peningkatan lebih lanjut.
- KategoriModel AI & LLM
- PenerapanCloud
- PlatformWeb
Sorotan Solar Pro Preview Instruct
22 miliar parameter
Kompatibilitas GPU tunggal
Kinerja superior dibandingkan model di bawah 30B parameter
Sebanding dengan model di atas 70B parameter
Metode peningkatan kedalaman yang ditingkatkan
Dioptimalkan untuk 80GB VRAM
Disetel untuk tugas percakapan
Tersedia sebagai API di Upstage Console
Memulai dengan Solar Pro Preview Instruct
Akses halaman: Kunjungi halaman model Hugging Face
Muat model: Gunakan kode inferensi yang disediakan
Konfigurasi lingkungan: Siapkan GPU dengan 80GB VRAM
Integrasi: Gunakan API di Upstage Console
Fine-tune: Terapkan template ChatML untuk tugas
Kasus Penggunaan Solar Pro Preview Instruct
- AI Percakapan
- Mengikuti Instruksi
- Pengujian Tolok Ukur
- Integrasi API
- Penelitian Model Bahasa
