Langsung ke konten utama
ToolPotion
Penasihat AI
Kirim (Gratis)

Granite Switch 4.1 30B

LLMModel AI & LLMOpen source · Web

Granite Switch 4.1 30B adalah model bahasa besar modular (LLM) yang dirancang untuk berbagai aplikasi AI. Model ini mengintegrasikan model dasar dengan beberapa adaptor dan encoder, memungkinkan satu titik akhir yang dihosting untuk menangani respons bahasa alami, keputusan umum dan khusus, serta transkripsi suara ke teks multibahasa. Model ini menawarkan fleksibilitas dan kemampuan komprehensif bagi pengembang.

Kunjungi URL
Bagikan
Tangkapan layar Granite Switch 4.1 30B
Tangkapan layar Granite Switch 4.1 30B

Granite Switch 4.1 30B adalah model bahasa besar modular (LLM) yang canggih yang dikembangkan oleh IBM, tersedia di Hugging Face. Model ini dirancang untuk memberikan solusi yang serbaguna untuk berbagai tugas AI dengan menggabungkan model dasar dengan 30 miliar parameter, adaptor khusus, dan encoder suara-ke-teks yang tertanam. Arsitektur ini memungkinkan satu titik akhir yang dihosting untuk beralih dengan mulus antara berbagai fungsionalitas, termasuk menghasilkan bahasa alami, membuat keputusan umum dan khusus, serta mentranskripsikan suara menjadi teks.

Baca Selengkapnya

Inti dari Granite Switch 4.1 30B adalah model dasar ibm-granite/granite-4.1-30b, yang memiliki jendela konteks 128K. Model ini dilengkapi dengan dua adaptor utama: aLoRA 'keputusan' untuk pengambilan keputusan umum dan aLoRA 'guardian-core' untuk mendeteksi risiko keselamatan seperti bahaya, jailbreak, kata kasar, kekerasan, konten seksual, bias sosial, dan perilaku tidak etis. Adaptor ini diaktifkan sesuai permintaan menggunakan token kontrol dalam template obrolan, memberikan fungsionalitas dinamis.

Fitur kunci dari model ini adalah kemampuannya untuk mentranskripsikan suara yang tertanam, didukung oleh ibm-granite/granite-speech-5.0-470m-turboctc. Encoder ini mendukung transkripsi dalam tujuh bahasa: Inggris, Prancis, Jerman, Spanyol, Portugis, Italia, dan Jepang, menghasilkan transkrip yang dipenuhi tanda baca dan kapitalisasi. Ini berarti bahwa input audio dapat diproses langsung pada titik akhir yang sama dengan tugas obrolan dan keputusan, menghilangkan kebutuhan akan server suara terpisah.

Granite Switch 4.1 30B dilisensikan di bawah Apache 2.0 dan mendukung backend seperti HuggingFace Transformers dan vLLM. Model ini dirancang untuk pengembang dan organisasi yang ingin mengintegrasikan pemrosesan bahasa, keputusan, dan suara yang canggih ke dalam aplikasi mereka. Model ini juga tersedia dalam konfigurasi lain, termasuk versi dasar 8B dan paket lengkap Granite Libraries. Pertimbangan etis menekankan perlunya pengujian dan pemantauan keselamatan di tingkat aplikasi, karena adaptor guardian-core yang tertanam memberikan lapisan keselamatan tambahan tetapi tidak menggantikan langkah-langkah perlindungan penyebaran yang komprehensif.

  • KategoriModel AI & LLM
  • Model HargaOpen source
  • PenerapanCloud
  • PlatformWeb

  • Arsitektur LLM modular dengan model dasar dan adaptor

  • 30 miliar parameter untuk model dasar

  • Jendela konteks 128K token

  • Adaptor pengambilan keputusan (aLoRA) untuk keputusan umum

  • Adaptor guardian-core (aLoRA) untuk deteksi risiko keselamatan

  • Encoder suara-ke-teks multibahasa (ASR) yang tertanam

  • Mendukung bahasa Inggris, Prancis, Jerman, Spanyol, Portugis, Italia, Jepang untuk ASR

  • Deteksi bahasa otomatis untuk input audio

  • Satu titik akhir yang dihosting untuk obrolan, keputusan, dan suara-ke-teks

  • Adaptor diaktifkan sesuai permintaan melalui token kontrol

  • Kompatibel dengan backend HuggingFace Transformers dan vLLM

  • Lisensi Apache 2.0

  • Normalisasi cache KV untuk adaptor

  • Tidak ada pelatihan bersama adaptor, memungkinkan pengembangan independen

  • Satu checkpoint untuk HuggingFace dan vLLM tanpa konversi

  1. Akses Model: Arahkan ke halaman ibm-granite/granite-switch-4.1-30b di Hugging Face.

  2. Instal Ketergantungan: Pastikan Python (>=3.11, <3.14), granite-switch (>=0.1.1), PyTorch (>=2.11.0), dan Transformers (>=5.16, <=5.17.0) terinstal.

  3. Muat Model: Gunakan pustaka HuggingFace Transformers untuk memuat model, dengan menentukan revisi yang diinginkan jika bukan yang terbaru.

  4. Aktifkan Adaptor: Kirim nama adaptor (misalnya, 'guardian-core', 'decision') ke template obrolan melalui `chat_template_kwargs` dalam permintaan Anda.

  5. Proses Input Audio: Atur `asr_enabled: true` dalam `config.json` untuk mengaktifkan transkripsi suara-ke-teks untuk input audio.

  6. Kirim Prompt: Buat prompt untuk generasi teks, pengambilan keputusan, atau transkripsi suara, memanfaatkan adaptor yang diaktifkan.

  7. Interpretasikan Output: Untuk adaptor keputusan, baca probabilitas yang dikalibrasi di atas label opsi; untuk guardian-core, analisis keputusan JSON.

  • Chatbot Multibahasa
  • Sistem Keputusan Otomatis
  • Moderasi Konten
  • Layanan Transkripsi Suara
  • Asisten Virtual Cerdas
  • Pemahaman Bahasa
  • Dukungan Pelanggan Berbasis AI

Alat AI Populer Seperti Granite Switch 4.1 30B

Granite Switch 4.1 8B adalah LLM modular yang mengintegrasikan model dasar, beberapa adaptor, dan pengkode untuk memberikan respons bahasa alami, pengambilan keputusan, dan…

Model AI & LLM

Peringkat 18 di LLM

Lihat Alat

LLM modular yang mengintegrasikan model dasar, beberapa adaptor, dan pengkode untuk memberikan respons bahasa alami, pengambilan keputusan, dan…Granite Switch 4.1 8B adalah LLM modular yang mengintegrasikan model dasar, beberapa adaptor, dan pengkode untuk memberikan respons bahasa alami, pengambilan keputusan, dan…

Model AI & LLM
Peringkat 18 di LLM

Apertus 1.5 adalah keluarga model bahasa multibahasa dan multimodal yang dirancang untuk mendukung berbagai bahasa dan konteks. Ini menawarkan akses sumber terbuka dan kemampuan…

Model AI & LLM

Peringkat 72 di LLM

Lihat Alat

Keluarga model bahasa multibahasa dan multimodal yang dirancang untuk mendukung berbagai bahasa dan konteks. Ini menawarkan akses sumber terbuka dan kemampuan…Apertus 1.5 adalah keluarga model bahasa multibahasa dan multimodal yang dirancang untuk mendukung berbagai bahasa dan konteks. Ini menawarkan akses sumber terbuka dan kemampuan…

Model AI & LLM
Peringkat 72 di LLM

LiquidAI LFM3-1.7B adalah model teks yang dirancang untuk agen lokal dan aplikasi khusus. Model ini memiliki arsitektur tri-hybrid dan mendukung jendela konteks 256K-token,…

Model AI & LLM

Peringkat 91 di LLM

Lihat Alat

Model teks yang dirancang untuk agen lokal dan aplikasi khusus. Model ini memiliki arsitektur tri-hybrid dan mendukung jendela konteks 256K-token,…LiquidAI LFM3-1.7B adalah model teks yang dirancang untuk agen lokal dan aplikasi khusus. Model ini memiliki arsitektur tri-hybrid dan mendukung jendela konteks 256K-token,…

Model AI & LLM
Peringkat 91 di LLM

DeepSeek adalah perusahaan riset AI yang didedikasikan untuk mengembangkan kecerdasan buatan umum. Ini menawarkan LLM frontier sumber terbuka seperti DeepSeek-V4, DeepSeek-R1, dan…

Model AI & LLM

Peringkat 2 di LLM

Lihat Alat

Perusahaan riset AI yang didedikasikan untuk mengembangkan kecerdasan buatan umum. Ini menawarkan LLM frontier sumber terbuka seperti DeepSeek-V4, DeepSeek-R1, dan…DeepSeek adalah perusahaan riset AI yang didedikasikan untuk mengembangkan kecerdasan buatan umum. Ini menawarkan LLM frontier sumber terbuka seperti DeepSeek-V4, DeepSeek-R1, dan…

UnggulanModel AI & LLM
Peringkat 2 di LLM

Olmo dari Ai2 adalah model bahasa terbuka sepenuhnya yang dirancang untuk penelitian dan aplikasi AI tingkat lanjut. Ini menawarkan berbagai varian model yang dioptimalkan untuk…

Model AI & LLM

Peringkat 100 di LLM

Lihat Alat

Model bahasa terbuka sepenuhnya yang dirancang untuk penelitian dan aplikasi AI tingkat lanjut. Ini menawarkan berbagai varian model yang dioptimalkan untuk…Olmo dari Ai2 adalah model bahasa terbuka sepenuhnya yang dirancang untuk penelitian dan aplikasi AI tingkat lanjut. Ini menawarkan berbagai varian model yang dioptimalkan untuk…

UnggulanModel AI & LLM
Peringkat 100 di LLM

Mixtral-8x22B-Instruct-v0.1 adalah model bahasa besar yang disesuaikan untuk tugas instruksional. Model ini mendukung pemanggilan fungsi dan terintegrasi dengan transformer…

Model AI & LLM

Peringkat 68 di LLM

Lihat Alat

Model bahasa besar yang disesuaikan untuk tugas instruksional. Model ini mendukung pemanggilan fungsi dan terintegrasi dengan transformer…Mixtral-8x22B-Instruct-v0.1 adalah model bahasa besar yang disesuaikan untuk tugas instruksional. Model ini mendukung pemanggilan fungsi dan terintegrasi dengan transformer…

Model AI & LLM
Peringkat 68 di LLM

AliceAI-Foundation-80B-A3B-Base adalah model bahasa dasar dengan arsitektur hibrida dan lapisan MoE, yang memiliki 80 miliar parameter. Model ini unggul dalam tugas pengetahuan…

Model AI & LLM

Peringkat 29 di LLM

Lihat Alat

Model bahasa dasar dengan arsitektur hibrida dan lapisan MoE, yang memiliki 80 miliar parameter. Model ini unggul dalam tugas pengetahuan…AliceAI-Foundation-80B-A3B-Base adalah model bahasa dasar dengan arsitektur hibrida dan lapisan MoE, yang memiliki 80 miliar parameter. Model ini unggul dalam tugas pengetahuan…

Model AI & LLM
Peringkat 29 di LLM

Falcon3-10B-Instruct adalah model bahasa mutakhir yang dirancang untuk tugas penalaran, pemahaman bahasa, dan mengikuti instruksi. Model ini mendukung berbagai bahasa dan…

Model AI & LLM

Peringkat 67 di LLM

Lihat Alat

Falcon3-10B-Instruct adalah model bahasa mutakhir yang dirancang untuk tugas penalaran, pemahaman bahasa, dan mengikuti instruksi. Model ini mendukung berbagai bahasa dan…

Model AI & LLM
Peringkat 67 di LLM
1 dari 8