Deskripsi
Chatty for LLMs adalah ekstensi Chrome yang dirancang untuk menjembatani kesenjangan antara browser web Anda dan Large Language Models (LLMs) yang terinstal secara lokal dan didukung oleh Ollama. Alat ini memberdayakan pengguna untuk terlibat dalam percakapan langsung dengan LLMs mereka dan memanfaatkan kemampuan Retrieval Augmented Generation (RAG) pada dokumen yang ditemukan di tab browser aktif.
Baca Selengkapnya
Untuk menggunakan Chatty for LLMs, pengguna harus menjalankan Ollama secara lokal. Ekstensi ini memerlukan perintah tertentu untuk dieksekusi di terminal: `export OLLAMA_ORIGINS=chrome-extension://* ; ollama serve`. Perintah ini memastikan bahwa Ollama dikonfigurasi untuk menerima koneksi dari ekstensi Chrome, memungkinkan komunikasi yang mulus antara browser dan model AI lokal.
Fungsi utama Chatty for LLMs adalah untuk memfasilitasi sesi obrolan interaktif dengan LLMs pilihan Anda. Selain percakapan sederhana, ekstensi ini mendukung RAG, memungkinkannya untuk memproses dan memahami informasi dari halaman web. Ini berarti Anda dapat mengajukan pertanyaan tentang konten halaman web, dan LLM, yang diperkaya dengan informasi halaman, dapat memberikan jawaban yang lebih relevan secara kontekstual dan akurat.
Target audiens untuk Chatty for LLMs meliputi penggemar AI, pengembang, peneliti, dan siapa pun yang tertarik untuk bereksperimen atau mengintegrasikan LLMs lokal ke dalam alur kerja penjelajahan web harian mereka. Ini sangat berguna bagi mereka yang lebih suka menjaga privasi data mereka dengan menjalankan model di perangkat keras mereka sendiri atau yang ingin menyempurnakan interaksi AI mereka tanpa bergantung pada layanan berbasis cloud.
Nilai jual Chatty for LLMs terletak pada kemampuannya untuk membawa kekuatan LLMs lokal langsung ke dalam browser. Ini menawarkan cara yang nyaman dan terintegrasi untuk berbincang dengan AI, melakukan analisis dokumen pada konten web, dan menjelajahi kemampuan LLMs open-source tanpa pengaturan yang rumit atau dependensi eksternal selain Ollama itu sendiri. Ekstensi ini bertujuan untuk membuat interaksi LLM lokal lebih mudah diakses dan praktis untuk penggunaan web sehari-hari.
- KategoriChatbot AI
- Model HargaGratis
- PenerapanEkstensi browser
- PlatformChrome
Fitur Inti Chatty for LLMs
Berbincang dengan LLMs lokal yang berjalan melalui Ollama
Melakukan Retrieval Augmented Generation (RAG) pada dokumen tab aktif
Memerlukan Ollama untuk diinstal dan berjalan secara lokal
Menggunakan perintah khusus untuk konfigurasi asal Ollama
Mengintegrasikan obrolan AI langsung ke dalam browser
Memfasilitasi jawaban yang relevan secara kontekstual dari LLMs
Mendukung interaksi dengan berbagai model LLM lokal
Dirancang untuk pengguna yang sadar privasi yang menjalankan AI lokal
Meningkatkan penjelajahan web dengan kemampuan AI
Memungkinkan analisis dokumen dari konten halaman web
Cara menggunakan Chatty for LLMs?
Instal ekstensi Chrome Chatty for LLMs
Pastikan Ollama terinstal dan berjalan di mesin lokal Anda
Buka terminal Anda dan jalankan perintah: export OLLAMA_ORIGINS=chrome-extension://* ; ollama serve
Navigasi ke halaman web yang ingin Anda interaksikan
Buka antarmuka ekstensi Chatty for LLMs
Pilih LLM lokal yang Anda inginkan
Mulai berbincang atau ajukan pertanyaan tentang konten halaman web
Kasus Penggunaan Chatty for LLMs
- Obrolan LLM Lokal
- Analisis Konten Web
- Implementasi RAG
- AI Berfokus Privasi
- Interaksi AI Berbasis Browser
- Eksperimen LLM
