Langsung ke konten utama
ToolPotion
Penasihat AI
Kirim (Gratis)

Inkling 2 Mini

LLM#39Model AI & LLMOpen source · Web

Inkling 2 Mini adalah model multimodal serbaguna yang dikembangkan oleh Thinking Machines Lab, Inc. Model ini menerima input teks dan gambar untuk menghasilkan output teks, mendukung bahasa Inggris dan bahasa lainnya. Dirancang untuk pengembang, model ini memfasilitasi pembangunan aplikasi AI seperti sistem agen, asisten pengkodean, chatbot, dan sistem generasi yang diperkuat pengambilan, serta menawarkan bobot terbuka untuk penelitian dan integrasi.

Kunjungi URL
Bagikan
Tangkapan layar Inkling 2 Mini
Tangkapan layar Inkling 2 Mini

Inkling 2 Mini adalah model multimodal yang dirancang untuk memproses input teks dan gambar, kemudian menghasilkan output teks. Dikembangkan oleh Thinking Machines Lab, Inc., model ini dirancang untuk aplikasi yang luas, mendukung bahasa Inggris dan bahasa lainnya, serta berbagai bahasa pemrograman. Model ini sangat cocok untuk pengembang yang terlibat dalam menciptakan aplikasi bertenaga AI, termasuk sistem agen dan penggunaan alat, asisten pengkodean, chatbot, dan sistem generasi yang diperkuat pengambilan (RAG). Selain itu, model ini mampu digunakan untuk percakapan umum, mengikuti instruksi, dan berbagai tugas bahasa alami serta visual.

Baca Selengkapnya

Model ini dirilis dengan bobot terbuka di bawah lisensi Apache 2.0, mendorong penelitian, fine-tuning, dan integrasi ke dalam produk pihak ketiga oleh pengembang hilir. Model ini didistribusikan sebagai satu checkpoint dengan ukuran sekitar 20GB, menggunakan presisi campuran NVFP4 dan MXFP8. Ukuran yang kompak ini memungkinkan inferensi lokal pada perangkat keras yang kompatibel, termasuk 1x NVIDIA DGX Spark, perangkat Apple silicon dengan memori 32GB atau lebih (MacBook, Mac mini, Studio), dan GPU lainnya dengan rekomendasi VRAM 32GB atau lebih.

Inkling 2 Mini mendukung inferensi lokal melalui beberapa kerangka kerja, termasuk Hugging Face, SGLang, vLLM, TokenSpeed, NVIDIA Dynamo, Unsloth (termasuk versi GGUF yang terkuantisasi), llama.cpp (untuk versi GGUF yang terkuantisasi), Llama App, Ollama, dan Exo Labs (pada Apple silicon). Model ini juga dapat dilatih ulang dengan Miles dan SkyRL. Model ini memiliki arsitektur transformer hanya dekoder dengan 24 lapisan dan lapisan feed-forward Mixture-of-Experts (MoE) yang jarang. Dua belas lapisan tengahnya berjalan tiga kali dengan bobot yang dibagikan, secara efektif memberikan 48 aplikasi lapisan per token dari 24 lapisan bobot. Setiap lapisan mengarahkan token ke 8 dari 128 ahli, dan perhatian adalah hibrida dari lapisan lokal dan global. Gambar dikodekan melalui transformer visi, dengan input gambar dan teks diproyeksikan ke dalam ruang tersembunyi bersama untuk pemrosesan bersama oleh dekoder. Model ini memiliki 26,4 miliar parameter, dengan 3,4 miliar parameter aktif, dan mendukung jendela konteks hingga 1 juta token.

Data pelatihan untuk Inkling 2 Mini mencakup berbagai jenis konten, termasuk teks, gambar, dan video, yang bersumber dari repositori yang tersedia untuk umum, akuisisi pihak ketiga, generasi internal, dan augmentasi sintetis. Kurasi data melibatkan pembersihan, pemrosesan, dan modifikasi dataset, termasuk penghapusan duplikasi dan penyaringan untuk kualitas dan keamanan. Evaluasi keamanan dilakukan, mencakup interaksi manusia-AI sehari-hari dan pengujian kemampuan berbahaya, dengan mitigasi diterapkan melalui pelatihan penyelarasan. Keterbatasan model ini termasuk potensi halusinasi, kegagalan mengikuti instruksi sesekali, penurunan kinerja dalam percakapan panjang, dan bias dari data pelatihan. Model ini kurang mampu dibandingkan model yang lebih besar dalam mengingat fakta dan pertanyaan yang berat pengetahuan, dan mungkin menunjukkan penalaran berulang atau ketidakandalan agen, terutama dalam bahasa non-Inggris. Pengembang disarankan untuk menerapkan pengawasan manusia, menjalankan beban kerja agen di sandbox, dan melakukan evaluasi independen sebelum penerapan.

  • KategoriModel AI & LLM
  • Model HargaOpen source
  • PenerapanBerjalan lokal
  • PlatformWeb

  • Input Multimodal: Menerima input teks dan gambar untuk pemrosesan.

  • Generasi Output Teks: Menghasilkan output teks berdasarkan input multimodal.

  • Model Serbaguna: Dirancang untuk berbagai aplikasi dan tugas.

  • Dukungan Multibahasa: Berfungsi dalam bahasa Inggris dan bahasa lainnya.

  • Dukungan Berbagai Bahasa Pemrograman: Kompatibel di berbagai lingkungan pemrograman.

  • Rilis Bobot Terbuka: Tersedia untuk diunduh dan digunakan dengan bobot terbuka.

  • Lisensi Apache 2.0: Memberikan fleksibilitas untuk penelitian, fine-tuning, dan integrasi.

  • Fokus pada Pengembang: Ditujukan untuk membangun aplikasi bertenaga AI.

  • Dukungan Sistem Agen: Cocok untuk mengembangkan sistem agen dan penggunaan alat.

  • Kemampuan Asisten Pengkodean: Dapat digunakan untuk membuat asisten pengkodean.

  • Integrasi Chatbot: Memfasilitasi pengembangan chatbot.

  • Sistem Generasi yang Diperkuat Pengambilan (RAG): Mendukung pembuatan sistem RAG.

  • Kemampuan Inferensi Lokal: Dapat dijalankan pada komputasi AI lokal dengan perangkat keras yang ditentukan.

  • Dukungan Kerangka Kerja Luas: Kompatibel dengan Hugging Face, SGLang, vLLM, dan lainnya.

  • Opsi Pelatihan Ulang: Dapat dilatih ulang dengan Miles dan SkyRL.

  • Jendela Konteks Besar: Mendukung hingga 1 juta token.

  1. Unduh Bobot Model: Akses dan unduh bobot Inkling 2 Mini dari Hugging Face.

  2. Akses melalui Platform Tinker: Manfaatkan platform fine-tuning Tinker untuk akses API dan interaksi model.

  3. Instal Renderer Tinker: Instal paket tml-renderers untuk integrasi platform Tinker.

  4. Konfigurasi Perangkat Keras Lokal: Pastikan perangkat keras yang diperlukan (misalnya, NVIDIA DGX Spark, Apple silicon dengan memori 32GB+) tersedia.

  5. Instal Kerangka Kerja Perangkat Lunak: Siapkan kerangka kerja inferensi lokal yang didukung seperti Hugging Face, SGLang, atau llama.cpp.

  6. Jalankan Inferensi: Eksekusi model secara lokal menggunakan kerangka kerja yang dipilih untuk generasi teks dari input gambar dan teks.

  • Pengembangan Aplikasi AI
  • Pembuatan Sistem Agen
  • Alat Asisten Pengkodean
  • Implementasi Chatbot
  • Generasi yang Diperkuat Pengambilan
  • AI Percakapan Umum
  • Pemrosesan Bahasa Alami
  • Pemrosesan Tugas Visual
  • Fine-tuning Model
  • Integrasi Produk Pihak Ketiga

Ulasan Inkling 2 Mini

Memuat...

Alat AI Populer Seperti Inkling 2 Mini

Inkling 2 Small adalah model multimodal serbaguna yang dirancang untuk menerima input teks dan gambar, serta menghasilkan output teks. Model ini mendukung bahasa Inggris dan…

Model AI & LLM

Peringkat 34 di LLM

Lihat Alat

Model multimodal serbaguna yang dirancang untuk menerima input teks dan gambar, serta menghasilkan output teks. Model ini mendukung bahasa Inggris dan…Inkling 2 Small adalah model multimodal serbaguna yang dirancang untuk menerima input teks dan gambar, serta menghasilkan output teks. Model ini mendukung bahasa Inggris dan…

Model AI & LLM
Peringkat 34 di LLM

Model AI multimodal dengan 975B parameter yang dirancang untuk pengembang. Model ini menerima input teks, gambar, dan audio, menghasilkan output teks untuk berbagai…Inkling adalah model AI multimodal dengan 975B parameter yang dirancang untuk pengembang. Model ini menerima input teks, gambar, dan audio, menghasilkan output teks untuk berbagai…

UnggulanModel AI & LLM
Lihat Top 5 Model AI

Inkling-Small adalah model multimodal yang serbaguna yang memproses input teks, gambar, dan audio untuk menghasilkan output teks. Ini mendukung pengembang dalam membuat aplikasi…

Model AI & LLM

Peringkat 27 di LLM

Lihat Alat

Model multimodal yang serbaguna yang memproses input teks, gambar, dan audio untuk menghasilkan output teks. Ini mendukung pengembang dalam membuat aplikasi…Inkling-Small adalah model multimodal yang serbaguna yang memproses input teks, gambar, dan audio untuk menghasilkan output teks. Ini mendukung pengembang dalam membuat aplikasi…

Model AI & LLM
Peringkat 27 di LLM

DeepSeek adalah perusahaan riset AI yang didedikasikan untuk mengembangkan kecerdasan buatan umum. Ini menawarkan LLM frontier sumber terbuka seperti DeepSeek-V4, DeepSeek-R1, dan…

Model AI & LLM

Peringkat 2 di LLM

Lihat Alat

Perusahaan riset AI yang didedikasikan untuk mengembangkan kecerdasan buatan umum. Ini menawarkan LLM frontier sumber terbuka seperti DeepSeek-V4, DeepSeek-R1, dan…DeepSeek adalah perusahaan riset AI yang didedikasikan untuk mengembangkan kecerdasan buatan umum. Ini menawarkan LLM frontier sumber terbuka seperti DeepSeek-V4, DeepSeek-R1, dan…

UnggulanModel AI & LLM
Peringkat 2 di LLM

TML-d24-varloop-research adalah model penelitian multimodal yang dikembangkan oleh Thinking Machines Lab, Inc. Model ini menerima input teks dan gambar untuk menghasilkan output…

Model AI & LLM

Peringkat 96 di LLM

Lihat Alat

Model penelitian multimodal yang dikembangkan oleh Thinking Machines Lab, Inc. Model ini menerima input teks dan gambar untuk menghasilkan output…TML-d24-varloop-research adalah model penelitian multimodal yang dikembangkan oleh Thinking Machines Lab, Inc. Model ini menerima input teks dan gambar untuk menghasilkan output…

Model AI & LLM
Peringkat 96 di LLM

LLaVA

Repositori GitHub AI

LLaVA adalah model penyesuaian instruksi visual yang menggabungkan kemampuan bahasa dan visi skala besar. Tujuannya adalah untuk mencapai kinerja setingkat GPT-4V, memungkinkan…

Model AI & LLM
Lihat Alat

Repositori GitHub AI

Model penyesuaian instruksi visual yang menggabungkan kemampuan bahasa dan visi skala besar. Tujuannya adalah untuk mencapai kinerja setingkat GPT-4V, memungkinkan…LLaVA adalah model penyesuaian instruksi visual yang menggabungkan kemampuan bahasa dan visi skala besar. Tujuannya adalah untuk mencapai kinerja setingkat GPT-4V, memungkinkan…

Model AI & LLM
Lihat Top 250 Repositori GitHub AI

Langflow

Framework AI

Langflow adalah pembuat AI tanpa kode yang dirancang untuk membuat dan menerapkan agen AI dan aplikasi Retrieval-Augmented Generation (RAG). Ia menawarkan antarmuka visual dengan…

Pembuat Agen AI

Peringkat 2 di Framework AI

Lihat Alat

Framework AI

Pembuat AI tanpa kode yang dirancang untuk membuat dan menerapkan agen AI dan aplikasi Retrieval-Augmented Generation (RAG). Ia menawarkan antarmuka visual dengan…Langflow adalah pembuat AI tanpa kode yang dirancang untuk membuat dan menerapkan agen AI dan aplikasi Retrieval-Augmented Generation (RAG). Ia menawarkan antarmuka visual dengan…

UnggulanPembuat Agen AI
Peringkat 2 di Framework AI

Haystack adalah kerangka kerja AI open-source yang dirancang untuk membangun aplikasi LLM siap produksi. Kerangka kerja ini memungkinkan pembuatan Agen AI, sistem RAG yang…

Coding & Pengembangan
Lihat Alat

Kerangka kerja AI open-source yang dirancang untuk membangun aplikasi LLM siap produksi. Kerangka kerja ini memungkinkan pembuatan Agen AI, sistem RAG yang…Haystack adalah kerangka kerja AI open-source yang dirancang untuk membangun aplikasi LLM siap produksi. Kerangka kerja ini memungkinkan pembuatan Agen AI, sistem RAG yang…

Coding & Pengembangan
Lihat Top 50 Framework AI
1 dari 8