Deskripsi
AI21 membangun infrastruktur untuk perusahaan yang menjalankan agen AI dalam produksi, daripada mengirimkan aplikasi pengguna akhir sendiri. Penawaran utamanya adalah bahwa sebagian besar tim membayar untuk jauh lebih banyak token daripada yang sebenarnya dibutuhkan oleh agen mereka, dan bahwa pertukaran model generik saja tidak dapat memperbaiki itu tanpa mengurangi kualitas.
Baca Selengkapnya
Produk utamanya, AI21 Gateway, yang saat ini dalam versi beta, adalah endpoint yang dapat dipasang yang berada di antara agen dan model-modelnya. Integrasi adalah perubahan satu baris, mengarahkan URL dasar API agen ke gateway, dan berfungsi dengan alat seperti Claude Code, Codex, LangChain atau harness kustom tanpa perubahan kode lebih lanjut. Gateway membangun profil biaya dari lalu lintas agen itu sendiri, kemudian memangkas dan menyusun ulang konteks yang berlebihan, mengarahkan setiap giliran ke model yang tepat berdasarkan kesulitan tugas, dan menyesuaikan caching, mempertimbangkan seluruh jalannya daripada mengoptimalkan panggilan tunggal secara terpisah. AI21 melaporkan pengurangan biaya sebesar 68% pada agen tinjauan kode otonom dan mengiklankan tagihan token yang dipotong hingga 40% lebih luas, dengan setiap rekomendasi penghematan diperiksa terhadap tolok ukur pengkodean sebelum mencapai produksi. AI21 Gateway gratis digunakan selama pratinjau beta; fitur perusahaan seperti akses ruang kerja bersama memerlukan kontak langsung dengan AI21.
Produk kedua, Post-Training, membuat AI21 bekerja bersama tim pelanggan untuk melatih model khusus pada data mereka, kemudian menyerahkan resep pelatihan sehingga tim dapat menjalankan putaran lebih lanjut sendiri. AI21 menawarkan ini sebagai jalur yang lebih murah setelah tagihan inferensi perusahaan sudah melebihi biaya untuk menghosting dan melatih model mereka sendiri.
AI21 telah melatih model bahasa sejak 2021, ketika merilis Jurassic-1, dan mengatakan bahwa mereka adalah perusahaan kedua di dunia yang mengirimkan model bahasa besar. Pekerjaan mereka mencakup keluarga model Jamba sumber terbuka dan 11 makalah penelitian yang diterbitkan tentang campuran data, arsitektur, dan penskalaan. Dipimpin oleh CEO Ori Goshen dan ketua Prof. Yoav Shoham, seorang profesor emeritus Stanford dan mantan ilmuwan utama Google.
Alat AI21 dibangun untuk tim teknik dan ML yang mengoperasikan agen AI dalam skala besar yang ingin menurunkan biaya inferensi atau model yang disesuaikan dengan data mereka sendiri, bukan untuk pengembang individu yang membangun prototipe pertama.
- KategoriPlatform Machine Learning
- Model HargaFreemium
- PenerapanCloud
- PlatformWeb
Fitur Inti AI21
AI21 Gateway: endpoint yang dapat dipasang yang mengurangi biaya token pada lalu lintas agen AI
Integrasi satu baris; bekerja dengan Claude Code, Codex, LangChain atau harness kustom
Membangun profil biaya per agen dari lalu lintas langsung daripada heuristik generik
Penghematan yang memperhatikan trajektori yang mempertimbangkan seluruh jalannya agen, bukan panggilan tunggal secara terpisah
Kompaksi konteks dan caching adaptif untuk mengurangi pengeluaran token yang berlebihan
Rekomendasi penghematan yang divalidasi terhadap tolok ukur pengkodean sebelum mencapai produksi
Post-Training: pelatihan model kustom pada data perusahaan sendiri, dengan resep diserahkan setelahnya
Tumpukan penelitian pra-pelatihan internal, termasuk keluarga model Jamba sumber terbuka
Cara menggunakan AI21?
Hubungkan: arahkan URL dasar API agen Anda ke AI21 Gateway
Jalankan lalu lintas: biarkan Gateway membangun profil biaya dari penggunaan nyata agen Anda
Tinjau: periksa rekomendasi penghematan yang disajikan Gateway untuk agen Anda
Setujui: konfirmasi perubahan mana yang akan diterapkan sebelum mencapai produksi
Dapatkan model kustom: bekerja dengan tim Post-Training AI21 untuk melatih model khusus pada data Anda sendiri
Kasus Penggunaan AI21
- Pengurangan biaya agen
- Agen pengkodean
- Model perusahaan kustom
- Agen multi-kerangka kerja
