GitHub - microsoft/JARVIS

Deskripsi

JARVIS adalah sistem kolaboratif yang menggunakan LLM untuk terhubung dengan berbagai model AI untuk tugas-tugas kompleks. Sistem ini, yang dikembangkan oleh Microsoft, bertujuan untuk memajukan penelitian dalam kecerdasan umum buatan (AGI). Ia beroperasi melalui alur kerja empat tahap: Perencanaan Tugas, Pemilihan Model, Pelaksanaan Tugas, dan Generasi Respons. Sistem ini menggunakan ChatGPT untuk menganalisis permintaan pengguna, memilih model ahli dari Hugging Face, melaksanakan tugas, dan menghasilkan respons.

JARVIS menawarkan beberapa fitur, termasuk dukungan untuk layanan OpenAI di platform Azure dan model GPT-4. Ia menyediakan mode CLI dan web untuk interaksi. Sistem ini mendukung konfigurasi yang berbeda, termasuk versi 'lite' yang tidak memerlukan penerapan model lokal, dan versi 'default' dengan persyaratan yang lebih luas. Proyek ini juga mencakup demo Gradio dan akses API web untuk hasil antara. Arsitektur sistem memungkinkan integrasi berbagai model, meningkatkan kemampuannya dalam otomatisasi tugas dan generasi respons.

JARVIS dirancang untuk peneliti, pengembang, dan siapa saja yang tertarik untuk menjelajahi kemampuan LLM dan otomatisasi tugas AI. Desain modular sistem memungkinkan integrasi model dan fungsionalitas baru dengan mudah. Proyek ini menyediakan instruksi terperinci untuk pengaturan dan penggunaan, termasuk konfigurasi server dan penerapan aplikasi web. Proyek ini juga menyediakan contoh permintaan dan respons untuk membantu pengguna memahami cara berinteraksi dengan sistem. Dokumentasi proyek mencakup informasi tentang persyaratan sistem, panduan memulai cepat, dan informasi kutipan untuk makalah penelitian terkait.

Nilai JARVIS terletak pada kemampuannya untuk merampingkan tugas AI yang kompleks dengan mengintegrasikan LLM dengan model ahli. Ini menyediakan platform bagi para peneliti untuk bereksperimen dengan model dan konfigurasi yang berbeda. Desain sistem yang fleksibel dan modular menjadikannya alat yang berharga bagi siapa saja yang tertarik untuk menjelajahi potensi LLM dalam AI.

Fitur Inti GitHub

• Mengintegrasikan LLM dengan model ahli

• Mendukung perencanaan dan pelaksanaan tugas

• Menggunakan ChatGPT untuk analisis tugas dan generasi respons

• Menawarkan mode CLI dan web

• Mendukung OpenAI dan GPT-4

• Menyediakan demo Gradio

• Menawarkan API web untuk hasil antara

• Termasuk konfigurasi 'lite' untuk pengaturan yang lebih mudah

• Mendukung Titik Akhir Inferensi lokal dan Hugging Face

• Memfasilitasi otomatisasi tugas AI

• Desain modular untuk integrasi model baru yang mudah

Memulai dengan GitHub

1. 1

   Kloning: Kloning repositori JARVIS dari GitHub.

2. 2

   Instal dependensi: Siapkan lingkungan dan instal paket yang diperlukan menggunakan conda dan pip.

3. 3

   Konfigurasi: Ganti kunci dan token API dalam file konfigurasi.

4. 4

   Unduh model: Unduh model yang diperlukan menggunakan skrip yang disediakan.

5. 5

   Eksekusi: Jalankan server dan aplikasi dalam mode server, CLI, atau web.

6. 6

   Akses: Akses layanan melalui Web API atau demo Gradio.

7. 7

   Uji: Uji sistem dengan mengirimkan permintaan dan menganalisis respons.

8. 8

   Optimalkan: Jelajahi konfigurasi dan model yang berbeda untuk mengoptimalkan kinerja.

Kasus Penggunaan GitHub

• Otomatisasi Tugas
• Integrasi Model
• Penelitian AI
• Akses API Web
• Demo Gradio
• Interaksi CLI
• Evaluasi Model

FAQ dari GitHub

• Apa itu JARVIS?

  JARVIS adalah sistem yang dikembangkan oleh Microsoft untuk menghubungkan LLM dengan komunitas ML, yang dirancang untuk mengeksplorasi kecerdasan umum buatan (AGI).

• Bagaimana cara kerja JARVIS?

  JARVIS beroperasi dalam empat tahap: Perencanaan Tugas, Pemilihan Model, Pelaksanaan Tugas, dan Generasi Respons, menggunakan ChatGPT sebagai pengontrol dan model ahli sebagai pelaksana.

• Apa persyaratan sistem untuk JARVIS?

  Persyaratan bervariasi tergantung pada konfigurasinya. Konfigurasi 'default' memerlukan Ubuntu 16.04 LTS, VRAM >= 24GB, RAM > 12GB, dan ruang disk > 284GB. Konfigurasi 'lite' memiliki persyaratan minimal.

• Bagaimana cara mulai menggunakan JARVIS?

  Pertama, ganti Kunci OpenAI dan Token Hugging Face Anda dalam file konfigurasi. Kemudian, jalankan perintah pengaturan untuk server dan aplikasi.

• Mode apa saja yang tersedia untuk berinteraksi dengan JARVIS?

  JARVIS menawarkan mode CLI, mode server dengan Web API, dan demo Gradio untuk interaksi.

• Di mana saya dapat menemukan demo Gradio?

  Demo Gradio di-host di Hugging Face Space.

• Apa tujuan dari file konfigurasi?

  File konfigurasi, seperti config.default.yaml dan config.lite.yaml, menentukan pengaturan untuk server, termasuk pemilihan model dan titik akhir inferensi.

• Apa perbedaan antara konfigurasi 'default' dan 'lite'?

  Konfigurasi 'lite' tidak memerlukan model ahli apa pun untuk diunduh dan diterapkan secara lokal, sedangkan konfigurasi 'default' memerlukan lebih banyak sumber daya dan memungkinkan penerapan model lokal.

• Bagaimana cara mengutip JARVIS?

  Anda dapat mengutip makalah seperti yang disediakan dalam file README, termasuk penulis dan detail publikasi.

• Apa saja mode inferensi yang didukung?

  Mode inferensi yang didukung adalah lokal, huggingface, dan hibrida.