Deskripsi
OpenVINO™ adalah toolkit sumber terbuka yang dikembangkan untuk menyederhanakan optimasi dan penerapan inferensi AI. Ini menyediakan kerangka kerja yang kuat yang memungkinkan pengembang untuk mengonversi, mengoptimalkan, dan menjalankan model pembelajaran mendalam secara efisien di berbagai perangkat keras, termasuk CPU, GPU, dan akselerator lainnya. Toolkit ini dirancang untuk memaksimalkan kinerja dengan menerapkan teknik seperti kuantisasi, kompresi model, dan optimasi grafik, yang secara signifikan mengurangi latensi inferensi dan meningkatkan throughput.
Baca Selengkapnya
Fungsi inti dari OpenVINO berputar di sekitar kemampuannya untuk mengambil model yang telah dilatih sebelumnya dari kerangka kerja populer seperti TensorFlow, PyTorch, dan ONNX, dan mempersiapkannya untuk eksekusi berkinerja tinggi. Ini mencakup Model Optimizer yang mengonversi model menjadi representasi perantara (IR), yang kemudian dioptimalkan untuk target perangkat keras tertentu. Inference Engine, komponen kunci lainnya, menyediakan API terpadu untuk menerapkan model-model yang telah dioptimalkan ini, memastikan kinerja yang konsisten di berbagai perangkat.
OpenVINO mendukung spektrum luas aplikasi AI, dari tugas visi komputer seperti deteksi objek dan klasifikasi gambar hingga pemrosesan bahasa alami dan pengenalan suara. Fleksibilitasnya menjadikannya pilihan ideal untuk skenario komputasi tepi di mana latensi rendah dan pemanfaatan sumber daya yang efisien sangat penting. Toolkit ini juga menawarkan seperangkat contoh dan dokumentasi yang kaya untuk membantu pengguna memulai dengan cepat dan mengintegrasikan kemampuan AI ke dalam proyek mereka.
Sebagai proyek sumber terbuka, OpenVINO mendapat manfaat dari komunitas kontributor yang dinamis, memastikan pengembangan dan perbaikan yang berkelanjutan. Ini mencakup dukungan untuk berbagai bahasa pemrograman, terutama Python dan C++, memungkinkan pengembang untuk memilih lingkungan yang mereka sukai. Komitmen toolkit ini terhadap standar terbuka dan kompatibilitas perangkat keras yang luas menjadikannya aset berharga bagi siapa saja yang ingin menerapkan model AI dalam aplikasi dunia nyata dengan kinerja optimal.
- KategoriMLOps & Penerapan Model
- Model HargaOpen source
- PenerapanCloud, Di-host sendiri
- PlatformWindows, Linux, macOS
Fitur Inti OpenVINO
Toolkit sumber terbuka untuk inferensi AI
Mengoptimalkan model pembelajaran mendalam
Menerapkan inferensi AI di berbagai perangkat keras
Mendukung CPU, GPU, dan akselerator lainnya
Termasuk Model Optimizer untuk konversi model
Menyediakan Inference Engine untuk penerapan API terpadu
Mendukung model dari TensorFlow, PyTorch, ONNX
Fitur kuantisasi dan kompresi model
Menawarkan teknik optimasi grafik
Mengurangi latensi inferensi dan meningkatkan throughput
Cocok untuk tugas visi komputer
Dapat diterapkan pada pemrosesan bahasa alami
Mendukung aplikasi pengenalan suara
Dirancang untuk skenario komputasi tepi
Manfaat dari kontribusi komunitas
Memulai dengan OpenVINO
Clone Repository: Gunakan `git clone` untuk mendapatkan kode sumber OpenVINO dari GitHub.
Install Dependencies: Ikuti instruksi dalam skrip `install_build_dependencies.sh` untuk menyiapkan pustaka dan alat yang diperlukan.
Configure Build: Gunakan CMake untuk mengonfigurasi proses build, menentukan perangkat keras target dan komponen yang diinginkan.
Build OpenVINO: Kompilasi kode sumber menggunakan sistem build pilihan Anda (misalnya, Make, Ninja).
Deploy Models: Konversi model AI yang telah dilatih sebelumnya menggunakan Model Optimizer ke Representasi Perantara (IR) OpenVINO.
Run Inference: Manfaatkan API Inference Engine dalam aplikasi Anda untuk memuat dan mengeksekusi model yang telah dioptimalkan di perangkat target Anda.
Optimize Performance: Bereksperimenlah dengan berbagai teknik optimasi seperti kuantisasi dan penggabungan model untuk mencapai metrik kinerja yang diinginkan.
Kasus Penggunaan OpenVINO
- Penerapan Visi Komputer
- Pemrosesan Bahasa Alami
- Sistem Pengenalan Suara
- Aplikasi AI Tepi
- Otomatisasi Industri
- Analitik Ritel
- Pencitraan Kesehatan
- Robotika dan Sistem Otonom







