Deskripsi
IQ berfungsi sebagai dasbor komprehensif yang dirancang untuk memusatkan manajemen dan kontrol penggunaan AI tim. Ini menawarkan satu antarmuka untuk mengawasi pengeluaran AI, menetapkan anggaran dan batas, serta mengelola kunci API dan penyedia. Fitur inti adalah kemampuan routing bawaan, yang secara cerdas mengarahkan permintaan ke model dan penyedia yang paling hemat biaya, dengan tujuan untuk secara signifikan mengurangi biaya operasional. Mekanisme routing ini, berdasarkan loop LangChain lima langkah, memanfaatkan lineup model dan harga terkini untuk memastikan alokasi sumber daya yang optimal.
Baca Selengkapnya
Platform ini memungkinkan pengguna untuk menghubungkan akun penyedia mereka sendiri menggunakan kunci yang ada, mendukung berbagai penyedia AI utama seperti OpenAI, Anthropic, Google, Mistral, xAI, dan DeepSeek, di antara lainnya. Permintaan dapat dilakukan ke IQ melalui endpoint berbentuk OpenAI atau Anthropic dari satu URL dasar, menyederhanakan integrasi dengan SDK yang ada. Keamanan adalah hal yang utama, dengan kunci penyedia yang dienkripsi saat tidak aktif dan mekanisme otentikasi yang kuat.
IQ memberikan kontrol granular atas konsumsi AI melalui fitur seperti batas per kunci, memungkinkan administrator untuk menetapkan permintaan per menit, token per menit, dan batas dolar harian untuk aplikasi atau rekan tim individu. Anggaran harian dan bulanan tingkat tim ditegakkan pada setiap permintaan, mencegah pengeluaran yang tidak terduga. Sistem ini juga mencakup mekanisme peringatan untuk pengeluaran, tingkat kesalahan, latensi, dan tingkat cache hit, yang disampaikan melalui email atau webhook, memastikan tim diberitahu dengan cepat tentang peristiwa kritis.
Untuk transparansi dan akuntabilitas, IQ menawarkan log audit terperinci yang mencatat siapa yang mengubah apa dan kapan, lengkap dengan filter dan kemampuan ekspor CSV. Peran anggota (Pemilik, Admin, Anggota) memungkinkan kontrol akses yang terstruktur dalam ruang kerja. Dasbor memberikan gambaran yang jelas tentang penggunaan, dibagi berdasarkan total anggota individu dan tim, termasuk permintaan, token, dan pengeluaran, tanpa mengekspos konten prompt atau jawaban secara default.
Penambahan terbaru pada IQ termasuk IQ Steward, pengawas pengeluaran AI yang menandai pemborosan dan kesalahan pengaturan, dan IQ Vexla (akses awal), yang membantu melindungi dari penurunan model dengan memungkinkan pengguna menguji perubahan model pada contoh mereka sendiri sebelum beralih. IQ juga menawarkan opsi penyebaran yang fleksibel, termasuk cloud, on-prem, atau VPC untuk klien perusahaan, dan pilihan retensi data yang kuat, termasuk Zero Data Retention (ZDR) untuk memastikan privasi dan kepatuhan.
- KategoriAlat DevOps & Cloud AI
- Model HargaFreemium
- PenerapanCloud, On-prem, VPC
- PlatformWeb
Fitur Inti IQ
Dasbor terpadu untuk penggunaan dan pengeluaran AI
Batas anggaran dan pengeluaran per tim dan kunci
Manajemen kunci API dengan rotasi dan pencabutan
Routing bawaan untuk optimasi biaya di berbagai penyedia
Dukungan untuk berbagai penyedia AI (OpenAI, Anthropic, Google, Mistral, xAI, DeepSeek, AWS Bedrock, Cohere, dll.)
Peringatan untuk pengeluaran, tingkat kesalahan, latensi, dan tingkat cache hit
Log audit komprehensif dengan filter dan ekspor CSV
Peran anggota untuk kontrol akses (Pemilik, Admin, Anggota)
Opsi Zero Data Retention (ZDR) untuk privasi
IQ Steward untuk pemantauan pengeluaran AI dan deteksi pemborosan
IQ Vexla untuk menguji perubahan model dan mencegah penurunan
Endpoint API berbentuk OpenAI dan Anthropic
Kunci penyedia yang dienkripsi saat tidak aktif
Dukungan endpoint kustom untuk rencana Tim dan Perusahaan
Pembuatan paket bukti SOC2 untuk pengguna Perusahaan
Cara menggunakan IQ?
Hubungkan Penyedia: Tautkan akun penyedia AI Anda yang ada (misalnya, OpenAI, Anthropic) menggunakan kunci API Anda sendiri di dasbor IQ.
Buat Kunci IQ: Hasilkan kunci API IQ untuk aplikasi atau rekan tim yang berbeda, menetapkan batas spesifik untuk permintaan, token, dan pengeluaran harian.
Konfigurasi Anggaran: Tetapkan anggaran pengeluaran harian dan bulanan untuk tim Anda untuk mengontrol total pengeluaran AI.
Terapkan Routing: Manfaatkan routing bawaan IQ untuk secara otomatis mengarahkan permintaan AI ke model dan penyedia yang paling hemat biaya.
Pantau Penggunaan: Gunakan dasbor untuk melacak penggunaan AI, pengeluaran, dan metrik kinerja di seluruh individu dan tim.
Tetapkan Peringatan: Konfigurasikan peringatan untuk ambang pengeluaran, tingkat kesalahan, dan latensi untuk tetap mendapatkan informasi tentang peristiwa kritis.
Kelola Akses: Tetapkan peran anggota (Pemilik, Admin, Anggota) untuk mengontrol akses dan izin tim dalam platform.
Optimalkan Biaya: Tinjau keputusan routing dan manfaatkan alat seperti IQ Steward untuk mengidentifikasi dan memperbaiki pola penggunaan AI yang boros.
Kasus Penggunaan IQ
- Optimasi Biaya
- Penegakan Anggaran
- Pemantauan Penggunaan
- Manajemen Kunci API
- Kolaborasi Tim
- Peringatan Kinerja
- Audit dan Kepatuhan
- Eksperimen Model
- Kontrol Privasi Data
- Pengawas Pengeluaran AI
