Langsung ke konten utama
ToolPotion
Penasihat AI
Kirim (Gratis)

OpenVINO

OpenVINO adalah toolkit sumber terbuka yang dirancang untuk mengoptimalkan dan menerapkan inferensi AI. Ini menyediakan seperangkat alat dan pustaka yang komprehensif untuk membantu pengembang mempercepat model pembelajaran mendalam di berbagai platform perangkat keras. Toolkit ini mendukung berbagai model AI dan menawarkan fitur untuk optimasi model, kuantisasi, dan eksekusi yang efisien, menjadikannya cocok untuk berbagai aplikasi AI.

Lihat Repositori
Bagikan
Lihat Repositori
Bagikan

OpenVINO™ adalah toolkit sumber terbuka yang dikembangkan untuk menyederhanakan optimasi dan penerapan inferensi AI. Ini menyediakan kerangka kerja yang kuat yang memungkinkan pengembang untuk mengonversi, mengoptimalkan, dan menjalankan model pembelajaran mendalam secara efisien di berbagai perangkat keras, termasuk CPU, GPU, dan akselerator lainnya. Toolkit ini dirancang untuk memaksimalkan kinerja dengan menerapkan teknik seperti kuantisasi, kompresi model, dan optimasi grafik, yang secara signifikan mengurangi latensi inferensi dan meningkatkan throughput.

Baca Selengkapnya

Fungsi inti dari OpenVINO berputar di sekitar kemampuannya untuk mengambil model yang telah dilatih sebelumnya dari kerangka kerja populer seperti TensorFlow, PyTorch, dan ONNX, dan mempersiapkannya untuk eksekusi berkinerja tinggi. Ini mencakup Model Optimizer yang mengonversi model menjadi representasi perantara (IR), yang kemudian dioptimalkan untuk target perangkat keras tertentu. Inference Engine, komponen kunci lainnya, menyediakan API terpadu untuk menerapkan model-model yang telah dioptimalkan ini, memastikan kinerja yang konsisten di berbagai perangkat.

OpenVINO mendukung spektrum luas aplikasi AI, dari tugas visi komputer seperti deteksi objek dan klasifikasi gambar hingga pemrosesan bahasa alami dan pengenalan suara. Fleksibilitasnya menjadikannya pilihan ideal untuk skenario komputasi tepi di mana latensi rendah dan pemanfaatan sumber daya yang efisien sangat penting. Toolkit ini juga menawarkan seperangkat contoh dan dokumentasi yang kaya untuk membantu pengguna memulai dengan cepat dan mengintegrasikan kemampuan AI ke dalam proyek mereka.

Sebagai proyek sumber terbuka, OpenVINO mendapat manfaat dari komunitas kontributor yang dinamis, memastikan pengembangan dan perbaikan yang berkelanjutan. Ini mencakup dukungan untuk berbagai bahasa pemrograman, terutama Python dan C++, memungkinkan pengembang untuk memilih lingkungan yang mereka sukai. Komitmen toolkit ini terhadap standar terbuka dan kompatibilitas perangkat keras yang luas menjadikannya aset berharga bagi siapa saja yang ingin menerapkan model AI dalam aplikasi dunia nyata dengan kinerja optimal.

  • KategoriMLOps & Penerapan Model
  • Model HargaOpen source
  • PenerapanCloud, Di-host sendiri
  • PlatformWindows, Linux, macOS

  • Toolkit sumber terbuka untuk inferensi AI

  • Mengoptimalkan model pembelajaran mendalam

  • Menerapkan inferensi AI di berbagai perangkat keras

  • Mendukung CPU, GPU, dan akselerator lainnya

  • Termasuk Model Optimizer untuk konversi model

  • Menyediakan Inference Engine untuk penerapan API terpadu

  • Mendukung model dari TensorFlow, PyTorch, ONNX

  • Fitur kuantisasi dan kompresi model

  • Menawarkan teknik optimasi grafik

  • Mengurangi latensi inferensi dan meningkatkan throughput

  • Cocok untuk tugas visi komputer

  • Dapat diterapkan pada pemrosesan bahasa alami

  • Mendukung aplikasi pengenalan suara

  • Dirancang untuk skenario komputasi tepi

  • Manfaat dari kontribusi komunitas

  1. Clone Repository: Gunakan `git clone` untuk mendapatkan kode sumber OpenVINO dari GitHub.

  2. Install Dependencies: Ikuti instruksi dalam skrip `install_build_dependencies.sh` untuk menyiapkan pustaka dan alat yang diperlukan.

  3. Configure Build: Gunakan CMake untuk mengonfigurasi proses build, menentukan perangkat keras target dan komponen yang diinginkan.

  4. Build OpenVINO: Kompilasi kode sumber menggunakan sistem build pilihan Anda (misalnya, Make, Ninja).

  5. Deploy Models: Konversi model AI yang telah dilatih sebelumnya menggunakan Model Optimizer ke Representasi Perantara (IR) OpenVINO.

  6. Run Inference: Manfaatkan API Inference Engine dalam aplikasi Anda untuk memuat dan mengeksekusi model yang telah dioptimalkan di perangkat target Anda.

  7. Optimize Performance: Bereksperimenlah dengan berbagai teknik optimasi seperti kuantisasi dan penggabungan model untuk mencapai metrik kinerja yang diinginkan.

  • Penerapan Visi Komputer
  • Pemrosesan Bahasa Alami
  • Sistem Pengenalan Suara
  • Aplikasi AI Tepi
  • Otomatisasi Industri
  • Analitik Ritel
  • Pencitraan Kesehatan
  • Robotika dan Sistem Otonom

Dari Intel

Bagian dari OpenVINO Toolkit.

Ulasan OpenVINO

Memuat...

Alat AI Populer Seperti OpenVINO

NVIDIA Model-Optimizer

Repositori GitHub AI

NVIDIA Model-Optimizer adalah perpustakaan terpadu yang menawarkan teknik-teknik mutakhir untuk mengoptimalkan model pembelajaran mendalam. Ini mencakup metode seperti kuantisasi,…

MLOps & Penerapan Model
Lihat Alat

Repositori GitHub AI

Perpustakaan terpadu yang menawarkan teknik-teknik mutakhir untuk mengoptimalkan model pembelajaran mendalam. Ini mencakup metode seperti kuantisasi,…NVIDIA Model-Optimizer adalah perpustakaan terpadu yang menawarkan teknik-teknik mutakhir untuk mengoptimalkan model pembelajaran mendalam. Ini mencakup metode seperti kuantisasi,…

MLOps & Penerapan Model
Lihat Top 250 Repositori GitHub AI

DeepInfer

Repositori GitHub AI

DeepInfer adalah kerangka kerja inferensi berkinerja tinggi dan berskala besar yang dirancang untuk model DeepSeek. Ini memfasilitasi proses inferensi yang efisien dan dapat…

MLOps & Penerapan Model
Lihat Alat

Repositori GitHub AI

Kerangka kerja inferensi berkinerja tinggi dan berskala besar yang dirancang untuk model DeepSeek. Ini memfasilitasi proses inferensi yang efisien dan dapat…DeepInfer adalah kerangka kerja inferensi berkinerja tinggi dan berskala besar yang dirancang untuk model DeepSeek. Ini memfasilitasi proses inferensi yang efisien dan dapat…

MLOps & Penerapan Model
Lihat Top 250 Repositori GitHub AI

AirLLM

Repositori GitHub AI

AirLLM adalah proyek GitHub yang memungkinkan inferensi 70 miliar parameter menggunakan satu GPU 4GB. Proyek ini dirancang untuk mengoptimalkan kinerja model bahasa besar pada…

MLOps & Penerapan Model

Peringkat 73 di Machine Learning & Ilmu Data

Lihat Alat

Repositori GitHub AI

Proyek GitHub yang memungkinkan inferensi 70 miliar parameter menggunakan satu GPU 4GB. Proyek ini dirancang untuk mengoptimalkan kinerja model bahasa besar pada…AirLLM adalah proyek GitHub yang memungkinkan inferensi 70 miliar parameter menggunakan satu GPU 4GB. Proyek ini dirancang untuk mengoptimalkan kinerja model bahasa besar pada…

MLOps & Penerapan Model
Peringkat 73 di Machine Learning & Ilmu Data

OpenVINO Toolkit

Framework AI

OpenVINO adalah toolkit open-source untuk menerapkan solusi AI berkinerja tinggi di berbagai perangkat keras. Ini memungkinkan pengembang untuk mengonversi, mengoptimalkan, dan…

Alat Computer Vision
Lihat Alat

Framework AI

Toolkit open-source untuk menerapkan solusi AI berkinerja tinggi di berbagai perangkat keras. Ini memungkinkan pengembang untuk mengonversi, mengoptimalkan, dan…OpenVINO adalah toolkit open-source untuk menerapkan solusi AI berkinerja tinggi di berbagai perangkat keras. Ini memungkinkan pengembang untuk mengonversi, mengoptimalkan, dan…

Alat Computer Vision
Lihat Top 50 Framework AI

Kapitsa

Repositori GitHub AI

Kapitsa adalah mesin inferensi yang dioptimalkan untuk Apple Silicon, kompatibel dengan API OpenAI dan Anthropic. Dikembangkan oleh Nace AI, ini mendukung model Qwen dan Nemotron,…

MLOps & Penerapan Model
Lihat Alat

Repositori GitHub AI

Mesin inferensi yang dioptimalkan untuk Apple Silicon, kompatibel dengan API OpenAI dan Anthropic. Dikembangkan oleh Nace AI, ini mendukung model Qwen dan Nemotron,…Kapitsa adalah mesin inferensi yang dioptimalkan untuk Apple Silicon, kompatibel dengan API OpenAI dan Anthropic. Dikembangkan oleh Nace AI, ini mendukung model Qwen dan Nemotron,…

MLOps & Penerapan Model
Lihat Top 250 Repositori GitHub AI

Baseten

Platform AI

Platform Inferensi Baseten memungkinkan pengguna untuk menerapkan dan menskalakan model AI sumber terbuka dan kustom dengan efisien. Ini menawarkan inferensi berkinerja tinggi…

MLOps & Penerapan Model

Peringkat 72 di Platform AI

Lihat Alat

Platform AI

Platform Inferensi Baseten memungkinkan pengguna untuk menerapkan dan menskalakan model AI sumber terbuka dan kustom dengan efisien. Ini menawarkan inferensi berkinerja tinggi…

UnggulanMLOps & Penerapan Model
Peringkat 72 di Platform AI

TorchTitan

Repositori GitHub AI

TorchTitan adalah platform berbasis PyTorch yang dirancang untuk melatih model AI generatif. Ini menyediakan kerangka kerja yang kuat untuk mengembangkan dan mengoptimalkan proyek…

Platform Machine Learning
Lihat Alat

Repositori GitHub AI

Platform berbasis PyTorch yang dirancang untuk melatih model AI generatif. Ini menyediakan kerangka kerja yang kuat untuk mengembangkan dan mengoptimalkan proyek…TorchTitan adalah platform berbasis PyTorch yang dirancang untuk melatih model AI generatif. Ini menyediakan kerangka kerja yang kuat untuk mengembangkan dan mengoptimalkan proyek…

Platform Machine Learning
Lihat Top 250 Repositori GitHub AI

trnrt

Repositori GitHub AI

trnrt adalah mesin inferensi LLM sumber terbuka yang dirancang untuk AWS Trainium, menawarkan megakernel NKI dan mendukung konteks 1M-token. Dikembangkan oleh RunAnywhere, ini…

MLOps & Penerapan Model

Peringkat 160 di MLOps & Penerapan Model

Lihat Alat

Repositori GitHub AI

Mesin inferensi LLM sumber terbuka yang dirancang untuk AWS Trainium, menawarkan megakernel NKI dan mendukung konteks 1M-token. Dikembangkan oleh RunAnywhere, ini…trnrt adalah mesin inferensi LLM sumber terbuka yang dirancang untuk AWS Trainium, menawarkan megakernel NKI dan mendukung konteks 1M-token. Dikembangkan oleh RunAnywhere, ini…

MLOps & Penerapan Model
Peringkat 160 di MLOps & Penerapan Model
1 dari 8