MnasNet

Deskripsi

MnasNet mewakili kemajuan signifikan dalam desain otomatis arsitektur jaringan saraf, yang secara khusus menargetkan batasan machine learning seluler. Metode tradisional untuk merancang Jaringan Saraf Konvolusional (CNN) untuk perangkat seluler menghadapi tantangan karena kebutuhan akan model yang secara bersamaan kecil, cepat, dan akurat. Meskipun upaya seperti MobileNet dan MobileNetV2 telah meningkatkan efisiensi model seluler, desain manual tetap merupakan proses yang kompleks dan memakan waktu dengan banyak kemungkinan arsitektur.

Terinspirasi oleh keberhasilan AutoML dalam pencarian arsitektur saraf, MnasNet mengeksplorasi pendekatan otomatis menggunakan pembelajaran penguatan. Inovasi utama adalah integrasi eksplisit informasi kecepatan model secara langsung ke dalam fungsi imbalan utama algoritma pencarian. Metodologi yang sadar platform ini memastikan bahwa proses pencarian memprioritaskan model yang mencapai keseimbangan yang menguntungkan antara akurasi dan kecepatan inferensi pada perangkat keras seluler dunia nyata. Berbeda dengan metode sebelumnya yang mengandalkan proksi seperti FLOPS, MnasNet secara langsung mengukur kecepatan model dengan mengeksekusi model pada perangkat sebenarnya, seperti ponsel Pixel, menggunakan TensorFlow Lite.

Sistem MnasNet terdiri dari tiga komponen utama: pengontrol berbasis RNN untuk mengambil sampel arsitektur, pelatih untuk membangun dan mengevaluasi akurasi model, dan mesin inferensi untuk mengukur kecepatan pada ponsel seluler. Pengaturan ini memungkinkan masalah optimasi multi-objektif yang bertujuan untuk akurasi tinggi dan kecepatan tinggi, memanfaatkan pembelajaran penguatan untuk menemukan solusi optimal Pareto. Untuk mengelola kompleksitas ruang pencarian, MnasNet memperkenalkan ruang pencarian hierarkis terfaktorisasi yang baru. Pendekatan ini menguraikan CNN menjadi blok-blok, dengan pencarian hierarkis menentukan arsitektur untuk setiap blok, memungkinkan operasi lapisan yang beragam sambil secara signifikan mengurangi ruang pencarian keseluruhan.

Eksperimen pada klasifikasi ImageNet dan deteksi objek COCO menunjukkan efektivitas MnasNet. Model mencapai kinerja mutakhir di bawah batasan kecepatan seluler yang umum. Misalnya, model MnasNet berjalan 1,5x lebih cepat daripada MobileNetV2 dan 2,4x lebih cepat daripada NASNet pada akurasi top-1 ImageNet yang sebanding. Optimasi lebih lanjut, seperti MnasNet+SE, mencapai akurasi setara ResNet-50 dengan parameter dan operasi yang jauh lebih sedikit. Pada deteksi objek COCO, model MnasNet menawarkan akurasi dan kecepatan yang lebih tinggi daripada MobileNet dan akurasi yang sebanding dengan SSD300 dengan biaya komputasi yang berkurang secara signifikan. Pendekatan otomatis ini terbukti mampu memberikan kinerja terbaik di berbagai tugas visi seluler yang kompleks.

Sorotan MnasNet

• Pencarian arsitektur saraf otomatis untuk model seluler

• Penyertaan kecepatan sadar platform ke dalam fungsi imbalan

• Pembelajaran penguatan untuk desain model

• Pengukuran kecepatan langsung pada perangkat seluler (TensorFlow Lite)

• Ruang pencarian hierarkis terfaktorisasi

• Optimasi multi-objektif untuk akurasi dan kecepatan

• Mencapai kinerja mutakhir pada tugas visi seluler

• Model berjalan lebih cepat daripada model yang dibuat secara manual dan dihasilkan NAS

• Jumlah parameter dan biaya komputasi berkurang

• Mengidentifikasi solusi optimal Pareto

Memulai dengan MnasNet

1. 1

   Akses model: Manfaatkan arsitektur MnasNet.

2. 2

   Integrasikan melalui API: Implementasikan MnasNet dalam aplikasi seluler.

3. 3

   Siapkan lingkungan: Konfigurasikan kerangka kerja machine learning yang diperlukan.

4. 4

   Latih model: Gunakan komponen pelatih untuk membangun dan mengevaluasi arsitektur.

5. 5

   Ukur kecepatan: Gunakan mesin inferensi untuk pengujian kecepatan di perangkat.

6. 6

   Optimalkan kinerja: Sesuaikan model untuk platform seluler tertentu.

Kasus Penggunaan MnasNet

• Klasifikasi Gambar Seluler
• Deteksi Objek di Perangkat
• Desain Model Otomatis
• AI Terbatas Sumber Daya
• Optimasi Keseimbangan Kecepatan-Akurasi

FAQ dari MnasNet

• Apa itu MnasNet?

  MnasNet adalah pendekatan pencarian arsitektur saraf otomatis yang dirancang untuk membuat model machine learning yang efisien untuk perangkat seluler.

• Bagaimana MnasNet mendesain model seluler?

  MnasNet menggunakan pembelajaran penguatan untuk mencari arsitektur, secara eksplisit memasukkan kecepatan model pada perangkat seluler sebenarnya ke dalam fungsi imbalan.

• Apa manfaat utama MnasNet?

  MnasNet menemukan model yang mencapai keseimbangan kuat antara akurasi dan kecepatan, mengungguli model yang dirancang secara manual pada platform seluler.

• Bagaimana kecepatan model diukur di MnasNet?

  Kecepatan model diukur secara langsung dengan mengeksekusi model pada ponsel seluler nyata menggunakan TensorFlow Lite, daripada mengandalkan proksi seperti FLOPS.

• Apa itu ruang pencarian hierarkis terfaktorisasi?

  Ini adalah ruang pencarian baru yang memecah CNN menjadi blok-blok, memungkinkan eksplorasi arsitektur yang beragam secara efisien sambil mengurangi kompleksitas.

• Tugas apa yang telah diuji MnasNet?

  MnasNet telah diuji pada klasifikasi ImageNet dan deteksi objek COCO.

• Bagaimana perbandingan MnasNet dengan MobileNetV2?

  Model MnasNet berjalan 1,5x lebih cepat daripada MobileNetV2 buatan tangan mutakhir sambil mencapai akurasi top-1 ImageNet yang serupa.

• Apa saja komponen pendekatan MnasNet?

  Pendekatan ini terdiri dari pengontrol berbasis RNN, pelatih untuk akurasi, dan mesin inferensi untuk pengukuran kecepatan.

• Bisakah model MnasNet lebih efisien daripada yang sudah ada?

  Ya, model MnasNet+SE mencapai akurasi setara ResNet-50 dengan 19x lebih sedikit parameter dan 10x lebih sedikit operasi perkalian-penjumlahan dibandingkan dengan ResNet-50.

• Siapa target audiens untuk MnasNet?

  Pengembang dan peneliti yang berfokus pada pembuatan model machine learning yang efisien dan akurat untuk penerapan pada perangkat seluler.