Deskripsi
GLiDE 27B adalah model keputusan canggih dengan 27 miliar parameter yang dikembangkan oleh Fastino, dirancang untuk memberikan jawaban probabilistik terhadap pertanyaan yang diketik berdasarkan berbagai keadaan input. Model ini unggul dalam skenario yang memerlukan klasifikasi, pengalihan, dan penilaian yang tepat, bukan generasi teks. Model ini memproses keadaan input yang dapat mencakup teks, JSON, dan gambar, menawarkan kemampuan multimodal untuk analisis keputusan yang komprehensif.
Baca Selengkapnya
Pengguna dapat berinteraksi dengan GLiDE 27B melalui API yang dihosting oleh Fastino, yang mendukung permintaan keputusan melalui endpoint POST. API ini memungkinkan berbagai jenis pertanyaan, termasuk 'pilihan' (memilih satu dari hingga 255 opsi bernama), 'noul' (pertanyaan ya/tidak yang mengembalikan P(ya)), dan 'skor' (menetapkan tingkat terurut). Untuk setiap pertanyaan, GLiDE 27B mengembalikan probabilitas untuk setiap opsi yang mungkin, yang diambil dari pembacaan keputusan 255 arah, memastikan tidak ada teks generatif yang dihasilkan.
Model ini dirancang untuk efisiensi, melakukan satu proses maju per pertanyaan dan menilai semua pertanyaan dalam satu permintaan, serta permintaan bersamaan, bersama-sama dalam mikro-batch. Model ini mendukung konteks panjang, menampung hingga 40.000 token per prompt pertanyaan secara default, yang mencakup keadaan, pertanyaan, opsi, dan token gambar. Antarmuka tersedia melalui API Python dan server HTTP yang berkomunikasi menggunakan format System One.
GLiDE 27B beroperasi dengan bobot bf16, memerlukan GPU dengan memori 80 GB atau lebih, seperti NVIDIA RTX PRO 6000 Blackwell Server Edition. Model ini telah menunjukkan latensi median 112 ms per permintaan pada perangkat keras ini. Arsitektur model mencakup model bahasa 51,2 GB, pengkode visi 0,92 GB, dan pembacaan 2,6 MB. Fastino menyediakan sistem kunci API dan dokumentasi untuk integrasi dan penerapan yang mudah. Model ini dilisensikan di bawah Fastino Community License, dengan komponen pihak ketiga mempertahankan lisensi aslinya.
- KategoriModel AI & LLM
- Model HargaHubungi tim penjualan
- PenerapanCloud
- PlatformWeb
Sorotan GLiDE 27B
27 Miliar Parameter
Model Keputusan Gambar-Teks-ke-Teks
Pertanyaan Keputusan yang Diketik (Pilihan, Noul, Skor)
Output Probabilistik untuk Setiap Opsi
Tanpa Generasi Teks (Non-Generatif)
Input Multimodal (Teks, JSON, Gambar)
Dukungan Konteks Panjang (Hingga 40.000 Token)
Antarmuka API Python dan Server HTTP
Pemrosesan Mikro-Batch untuk Efisiensi
Bobot dan Komputasi bf16
Memerlukan Memori GPU 80 GB+
API yang Dihosting oleh Fastino Tersedia
Autentikasi Kunci API
Mendukung Gambar Inline (Data URLs, Base64)
Batching dan Konkruensi yang Dapat Dikonfigurasi
Memulai dengan GLiDE 27B
Dapatkan Kunci API: Dapatkan kunci API dari Fastino untuk mengakses API GLiDE yang dihosting.
Siapkan Permintaan: Format permintaan keputusan Anda dengan keadaan (teks, JSON, atau multimodal dengan gambar) dan satu atau lebih pertanyaan yang diketik.
Kirim Permintaan: Gunakan endpoint API Fastino (POST https://api.fastino.ai/v1/systemone) dengan model `fastino/GLiDE`.
Terima Respons: Dapatkan respons yang berisi pilihan yang paling mungkin, probabilitas noul, atau skor, bersama dengan probabilitas untuk semua opsi.
Integrasi Secara Lokal (Opsional): Ikuti instruksi repositori untuk menjalankan GLiDE 27B secara lokal menggunakan Python atau server HTTP.
Kasus Penggunaan GLiDE 27B
- Tugas Klasifikasi
- Pengalihan Keputusan
- Sistem Penilaian
- Analisis Multimodal
- Analisis Sentimen
- Moderasi Konten
- Triage Dukungan Pelanggan
- Analisis Survei
