Chatty for LLMs

Deskripsi

Chatty for LLMs adalah ekstensi Chrome yang dirancang untuk menjembatani kesenjangan antara browser web Anda dan Large Language Models (LLMs) yang terinstal secara lokal dan didukung oleh Ollama. Alat ini memberdayakan pengguna untuk terlibat dalam percakapan langsung dengan LLMs mereka dan memanfaatkan kemampuan Retrieval Augmented Generation (RAG) pada dokumen yang ditemukan di tab browser aktif.

Untuk menggunakan Chatty for LLMs, pengguna harus menjalankan Ollama secara lokal. Ekstensi ini memerlukan perintah tertentu untuk dieksekusi di terminal: `export OLLAMA_ORIGINS=chrome-extension://* ; ollama serve`. Perintah ini memastikan bahwa Ollama dikonfigurasi untuk menerima koneksi dari ekstensi Chrome, memungkinkan komunikasi yang mulus antara browser dan model AI lokal.

Fungsi utama Chatty for LLMs adalah untuk memfasilitasi sesi obrolan interaktif dengan LLMs pilihan Anda. Selain percakapan sederhana, ekstensi ini mendukung RAG, memungkinkannya untuk memproses dan memahami informasi dari halaman web. Ini berarti Anda dapat mengajukan pertanyaan tentang konten halaman web, dan LLM, yang diperkaya dengan informasi halaman, dapat memberikan jawaban yang lebih relevan secara kontekstual dan akurat.

Target audiens untuk Chatty for LLMs meliputi penggemar AI, pengembang, peneliti, dan siapa pun yang tertarik untuk bereksperimen atau mengintegrasikan LLMs lokal ke dalam alur kerja penjelajahan web harian mereka. Ini sangat berguna bagi mereka yang lebih suka menjaga privasi data mereka dengan menjalankan model di perangkat keras mereka sendiri atau yang ingin menyempurnakan interaksi AI mereka tanpa bergantung pada layanan berbasis cloud.

Nilai jual Chatty for LLMs terletak pada kemampuannya untuk membawa kekuatan LLMs lokal langsung ke dalam browser. Ini menawarkan cara yang nyaman dan terintegrasi untuk berbincang dengan AI, melakukan analisis dokumen pada konten web, dan menjelajahi kemampuan LLMs open-source tanpa pengaturan yang rumit atau dependensi eksternal selain Ollama itu sendiri. Ekstensi ini bertujuan untuk membuat interaksi LLM lokal lebih mudah diakses dan praktis untuk penggunaan web sehari-hari.

Fitur Inti Chatty for LLMs

• Berbincang dengan LLMs lokal yang berjalan melalui Ollama

• Melakukan Retrieval Augmented Generation (RAG) pada dokumen tab aktif

• Memerlukan Ollama untuk diinstal dan berjalan secara lokal

• Menggunakan perintah khusus untuk konfigurasi asal Ollama

• Mengintegrasikan obrolan AI langsung ke dalam browser

• Memfasilitasi jawaban yang relevan secara kontekstual dari LLMs

• Mendukung interaksi dengan berbagai model LLM lokal

• Dirancang untuk pengguna yang sadar privasi yang menjalankan AI lokal

• Meningkatkan penjelajahan web dengan kemampuan AI

• Memungkinkan analisis dokumen dari konten halaman web

Cara menggunakan Chatty for LLMs?

1. 1

   Instal ekstensi Chrome Chatty for LLMs

2. 2

   Pastikan Ollama terinstal dan berjalan di mesin lokal Anda

3. 3

   Buka terminal Anda dan jalankan perintah: export OLLAMA_ORIGINS=chrome-extension://* ; ollama serve

4. 4

   Navigasi ke halaman web yang ingin Anda interaksikan

5. 5

   Buka antarmuka ekstensi Chatty for LLMs

6. 6

   Pilih LLM lokal yang Anda inginkan

7. 7

   Mulai berbincang atau ajukan pertanyaan tentang konten halaman web

Kasus Penggunaan Chatty for LLMs

• Obrolan LLM Lokal
• Analisis Konten Web
• Implementasi RAG
• AI Berfokus Privasi
• Interaksi AI Berbasis Browser
• Eksperimen LLM

FAQ dari Chatty for LLMs

• Apa itu Chatty for LLMs?

  Chatty for LLMs adalah ekstensi Chrome yang memungkinkan Anda berbincang dan melakukan RAG pada LLMs lokal Anda melalui Ollama langsung dari browser Anda.

• Apakah saya perlu menginstal sesuatu selain ekstensi Chrome?

  Ya, Anda perlu menginstal dan menjalankan Ollama di mesin lokal Anda untuk menggunakan Chatty for LLMs.

• Bagaimana cara menghubungkan Chatty for LLMs ke instance Ollama lokal saya?

  Anda perlu menjalankan perintah `export OLLAMA_ORIGINS=chrome-extension://* ; ollama serve` di terminal Anda untuk memungkinkan Ollama berkomunikasi dengan ekstensi Chrome.

• Apa itu RAG dalam konteks Chatty for LLMs?

  RAG adalah singkatan dari Retrieval Augmented Generation. Chatty for LLMs menggunakannya untuk meningkatkan respons LLM dengan mengambil informasi dari konten tab browser aktif.

• Bisakah saya menggunakan LLM apa pun dengan Chatty for LLMs?

  Ekstensi ini dirancang untuk bekerja dengan LLMs yang berjalan melalui Ollama, jadi LLM apa pun yang didukung oleh Ollama berpotensi untuk digunakan.

• Apakah data saya pribadi saat menggunakan Chatty for LLMs?

  Ya, pengembang telah menyatakan bahwa mereka tidak akan mengumpulkan atau menggunakan data Anda, dan data Anda tidak dijual kepada pihak ketiga di luar fungsionalitas inti item tersebut.

• Apa manfaat menggunakan LLM lokal dengan ekstensi ini?

  Menggunakan LLM lokal menawarkan privasi yang ditingkatkan karena data Anda tetap berada di mesin Anda, dan memungkinkan penggunaan offline serta eksperimen tanpa bergantung pada layanan cloud.

• Di mana saya dapat menemukan panduan pemecahan masalah untuk Chatty for LLMs?

  Halaman Chrome Web Store untuk Chatty for LLMs menyediakan tautan ke panduan pemecahan masalah jika item tidak tersedia atau mengalami masalah.

• Berapa ukuran ekstensi Chatty for LLMs?

  Ukuran ekstensi Chatty for LLMs adalah 1.44MiB.

• Kapan Chatty for LLMs terakhir diperbarui?

  Chatty for LLMs terakhir diperbarui pada 12 September 2024.