Transformers Hugging Face

Deskripsi

Hugging Face Transformers berfungsi sebagai kerangka kerja definisi model fundamental untuk model machine learning mutakhir di berbagai domain, termasuk teks, visi komputer, audio, video, dan aplikasi multimodal. Tujuan utamanya adalah untuk memusatkan definisi model, mendorong kesepakatan dan kompatibilitas di seluruh ekosistem AI. Kerangka kerja ini bertindak sebagai poros penting, memastikan bahwa model yang didefinisikan di dalamnya kompatibel dengan berbagai kerangka kerja pelatihan seperti Axolotl, Unsloth, DeepSpeed, FSDP, dan PyTorch-Lightning. Selain itu, ia terintegrasi secara mulus dengan mesin inferensi seperti vLLM, SGLang, dan TGI, serta pustaka pemodelan yang berdekatan seperti llama.cpp dan mlx, yang semuanya memanfaatkan definisi model yang disediakan oleh Transformers.

Hugging Face berkomitmen untuk mendukung model mutakhir terbaru dan mendemokratisasi aksesibilitasnya. Hal ini dicapai dengan membuat definisi model menjadi sederhana, dapat disesuaikan, dan efisien. Hugging Face Hub menampung lebih dari 1 juta checkpoint model Transformers, yang siap tersedia bagi pengguna untuk dijelajahi dan diintegrasikan ke dalam proyek mereka. Platform ini juga menawarkan linimasa model, yang menampilkan arsitektur terbaru dalam domain teks, visi, audio, dan multimodal.

Kerangka kerja Transformers dirancang untuk memberi pengguna segala yang diperlukan untuk inferensi dan pelatihan dengan model pra-terlatih canggih. Fitur-fitur utama meliputi kelas `Pipeline`, yang menawarkan antarmuka inferensi yang sederhana dan dioptimalkan untuk berbagai tugas machine learning seperti pembuatan teks, segmentasi gambar, pengenalan ucapan otomatis, dan tanya jawab dokumen. Untuk pelatihan, kelas `Trainer` menyediakan dukungan komprehensif untuk fitur-fitur seperti presisi campuran, torch.compile, dan FlashAttention, memfasilitasi pelatihan pada satu perangkat dan terdistribusi untuk model PyTorch. Selain itu, fungsi `generate` memungkinkan pembuatan teks cepat dengan large language models (LLM) dan vision-language models (VLM), mendukung streaming dan berbagai strategi decoding.

Prinsip desain Transformers menekankan kecepatan dan kemudahan penggunaan. Setiap model diimplementasikan hanya menggunakan tiga kelas inti: konfigurasi, model, dan preprocessor, yang memungkinkan penerapan cepat dalam skenario inferensi atau pelatihan melalui `Pipeline` atau `Trainer`. Kerangka kerja ini sangat menganjurkan penggunaan model pra-terlatih untuk mengurangi jejak karbon, biaya komputasi, dan waktu pengembangan. Setiap model pra-terlatih direproduksi dengan cermat agar sedekat mungkin dengan aslinya, memberikan kinerja mutakhir. Bagi mereka yang baru mengenal Transformers atau ingin memperdalam pemahaman mereka, Hugging Face menawarkan kursus LLM yang mencakup dasar-dasar model, aplikasi praktis, kurasi dataset, fine-tuning, dan kemampuan penalaran, menampilkan konten teoretis dan latihan langsung.

Fitur Inti Transformers Hugging Face

• Definisi model terpusat untuk model teks, visi, audio, video, dan multimodal

• Kompatibilitas dengan kerangka kerja pelatihan utama (Axolotl, Unsloth, DeepSpeed, FSDP, PyTorch-Lightning)

• Integrasi dengan mesin inferensi (vLLM, SGLang, TGI)

• Dukungan untuk pustaka pemodelan yang berdekatan (llama.cpp, mlx)

• Lebih dari 1 juta checkpoint model Transformers tersedia di Hugging Face Hub

• Kelas Pipeline untuk inferensi sederhana dan dioptimalkan di berbagai tugas ML

• Kelas Trainer untuk fitur pelatihan komprehensif termasuk presisi campuran dan pelatihan terdistribusi

• Pembuatan teks cepat dengan LLM dan VLM, termasuk dukungan streaming

• Model diimplementasikan menggunakan kelas konfigurasi, model, dan preprocessor untuk kemudahan penggunaan

• Penekanan pada penggunaan model pra-terlatih untuk menghemat komputasi dan waktu

• Akses ke linimasa arsitektur model terbaru

• Kursus LLM tersedia untuk mempelajari model dan aplikasi Transformer

Memulai dengan Transformers Hugging Face

1. 1

   Instalasi: Instal pustaka Transformers menggunakan manajer paket pilihan Anda.

2. 2

   Konfigurasi: Tentukan konfigurasi model, termasuk parameter dan detail arsitektur.

3. 3

   Pemuatan Model: Muat model pra-terlatih atau model yang dilatih khusus dari Hugging Face Hub atau penyimpanan lokal.

4. 4

   Inferensi: Gunakan kelas Pipeline untuk inferensi yang mudah pada berbagai tugas.

5. 5

   Pelatihan: Gunakan kelas Trainer untuk pelatihan dan fine-tuning model yang efisien.

6. 6

   Penerapan: Integrasikan model yang dilatih ke dalam aplikasi untuk penggunaan produksi.

7. 7

   Optimasi: Manfaatkan fitur seperti presisi campuran dan FlashAttention untuk peningkatan kinerja.

Kasus Penggunaan Transformers Hugging Face

• Pembuatan Teks
• Segmentasi Gambar
• Pengenalan Ucapan
• Tanya Jawab Dokumen
• Pelatihan Model
• Inferensi Model
• Aplikasi Multimodal

FAQ dari Transformers Hugging Face

• Apa itu Hugging Face Transformers?

  Hugging Face Transformers adalah kerangka kerja open-source yang menyediakan definisi standar untuk model machine learning mutakhir di seluruh domain teks, visi, audio, dan multimodal, memfasilitasi inferensi dan pelatihan.

• Apa manfaat utama menggunakan Transformers?

  Transformers memusatkan definisi model, memastikan kompatibilitas di berbagai kerangka kerja dan mesin, dan mendemokratisasi akses ke lebih dari 1 juta model pra-terlatih, menghemat waktu dan sumber daya komputasi pengguna.

• Tugas machine learning apa saja yang didukung oleh Transformers?

  Transformers mendukung berbagai tugas termasuk pembuatan teks, segmentasi gambar, pengenalan ucapan otomatis, tanya jawab dokumen, dan banyak lagi, melalui kelas Pipeline-nya.

• Bisakah saya melatih model menggunakan Transformers?

  Ya, kelas Trainer dalam Transformers menyediakan fitur komprehensif untuk pelatihan dan pelatihan terdistribusi, mendukung optimasi seperti presisi campuran dan FlashAttention.

• Bagaimana Transformers memastikan kompatibilitas dengan alat lain?

  Transformers bertindak sebagai poros, membuat definisi model kompatibel dengan mayoritas kerangka kerja pelatihan, mesin inferensi, dan pustaka pemodelan yang berdekatan.

• Di mana saya dapat menemukan model pra-terlatih untuk Transformers?

  Anda dapat menemukan lebih dari 1 juta checkpoint model Transformers di Hugging Face Hub, yang dapat dengan mudah dijelajahi dan digunakan dengan pustaka Transformers.

• Apakah Transformers cocok untuk pemula?

  Ya, Hugging Face menawarkan kursus LLM yang dirancang untuk mengajarkan dasar-dasar model Transformer dan aplikasi praktisnya, membuatnya dapat diakses oleh pemula.

• Apa prinsip desain inti dari Transformers?

  Prinsip desain inti adalah cepat dan mudah digunakan, dengan model yang diimplementasikan dari tiga kelas utama, dan untuk mempromosikan penggunaan model pra-terlatih untuk efisiensi.

• Jenis model apa yang didukung oleh Transformers?

  Transformers mendukung model mutakhir untuk teks, visi komputer, audio, video, dan aplikasi multimodal.

• Bagaimana cara memulai dengan Transformers?

  Anda dapat memulai dengan menginstal pustaka, menjelajahi Hugging Face Hub untuk model, dan mengikuti kursus LLM yang direkomendasikan untuk pemahaman yang komprehensif.