py-vectara-agentic

Deskripsi

Pustaka py-vectara-agentic memberdayakan pengembang untuk membangun asisten dan agen AI yang canggih dengan memanfaatkan kemampuan Vectara dan pola Agentic RAG. Dibangun di atas kerangka kerja LlamaIndex Agent, pustaka Python ini menyederhanakan proses pembuatan alat yang berinteraksi dengan korpora Vectara. Kekuatan intinya terletak pada kemampuannya untuk dengan cepat menghasilkan alat RAG Vectara atau alat pencarian dengan kode minimal, secara signifikan mempercepat pengembangan.

Pustaka ini menawarkan fleksibilitas dalam desain agen, mendukung berbagai jenis agen seperti ReAct dan Function Calling. Pustaka ini memiliki alat khusus domain yang sudah dibuat sebelumnya yang disesuaikan untuk sektor seperti keuangan dan hukum, meningkatkan penerapannya di berbagai industri. Keuntungan utama adalah integrasi multi-LLM-nya, yang memungkinkan koneksi mulus dengan penyedia populer termasuk OpenAI, Anthropic, Gemini, GROQ, Together.AI, Cohere, dan AWS Bedrock. Bagi pengembang yang berfokus pada pemahaman perilaku dan kinerja agen, py-vectara-agentic menyertakan dukungan observabilitas bawaan dengan Arize Phoenix.

Pengguna tingkat lanjut dapat memperluas kemampuan agen melalui alur kerja kustom yang ditentukan menggunakan metode `run()`, yang memungkinkan interaksi terstruktur dan multi-langkah. Pustaka ini juga menyediakan streaming yang kuat dan pembuatan respons waktu nyata, yang penting untuk aplikasi interaktif dan meningkatkan pengalaman pengguna dengan menampilkan respons saat dihasilkan. Vectara Hallucination Correction (VHC) terintegrasi, yang memungkinkan analisis dan koreksi respons agen berdasarkan konten faktual yang diambil oleh alat yang memenuhi syarat VHC. Pustaka ini juga menyertakan fitur untuk validasi alat dan mendukung pembuatan alat kustom dari fungsi Python.

Fitur utama meliputi pembuatan alat yang cepat untuk RAG dan pencarian Vectara, dukungan untuk berbagai jenis agen, integrasi multi-LLM, observabilitas bawaan, dan dukungan alur kerja untuk interaksi kompleks. Pustaka ini cocok untuk pengembang, insinyur AI, dan peneliti yang ingin membangun agen cerdas yang dapat secara efektif menanyakan dan memanfaatkan data yang disimpan dalam Vectara, dengan fokus pada respons yang terukur dan akurat.

Fitur Inti py-vectara-agentic

• Pembuatan alat RAG dan pencarian Vectara yang cepat

• Dukungan untuk jenis agen ReAct dan Function Calling

• Integrasi dengan LLM OpenAI, Anthropic, Gemini, GROQ, Together.AI, Cohere, dan Bedrock

• Observabilitas bawaan dengan Arize Phoenix

• Alur kerja yang dapat disesuaikan melalui metode `run()`

• Pembuatan respons streaming dan waktu nyata

• Dukungan bawaan untuk Vectara Hallucination Correction (VHC)

• Validasi alat untuk memastikan instruksi kustom sesuai dengan alat yang tersedia

• Kemampuan untuk membuat alat kustom dari fungsi Python

• Alat khusus domain yang sudah dibuat sebelumnya untuk keuangan dan hukum

• Dukungan untuk pemfilteran metadata dalam kueri Vectara

• Pemformatan output alat yang dapat dibaca manusia

Memulai dengan py-vectara-agentic

1. 1

   Kloning: Dapatkan pustaka dari repositori GitHub-nya.

2. 2

   Instal: Jalankan `pip install vectara-agentic` untuk menginstal dependensi.

3. 3

   Konfigurasi: Siapkan kunci API Vectara dan kunci korpus, dan opsional kunci API LLM.

4. 4

   Inisialisasi: Buat `VectaraToolFactory` dan definisikan instruksi agen.

5. 5

   Buat Alat: Gunakan `create_rag_tool` atau `create_search_tool` untuk integrasi Vectara.

6. 6

   Instansiasi Agen: Buat instance `Agent` dengan alat dan instruksi kustom Anda.

7. 7

   Eksekusi: Berinteraksi dengan agen menggunakan metode chat, achat, stream_chat, atau astream_chat.

8. 8

   Analisis: Manfaatkan VHC atau alur kerja untuk analisis respons lanjutan dan interaksi kompleks.

Kasus Penggunaan py-vectara-agentic

• Pengembangan Asisten AI
• Pembuatan Aplikasi RAG
• Agen Analisis Data
• Chatbot Interaktif
• Otomatisasi Alur Kerja
• Integrasi LLM

FAQ dari py-vectara-agentic

• Apa itu py-vectara-agentic?

  py-vectara-agentic adalah pustaka Python yang dirancang untuk membangun asisten dan agen AI yang memanfaatkan kemampuan Vectara dan pola Agentic RAG.

• Bagaimana py-vectara-agentic menyederhanakan pembuatan alat?

  Pustaka ini menyediakan fungsi pembantu seperti `create_rag_tool` dan `create_search_tool` untuk dengan cepat membangun alat yang terhubung ke korpora Vectara dengan kode minimal.

• Penyedia LLM apa saja yang didukung oleh py-vectara-agentic?

  Pustaka ini mendukung integrasi dengan OpenAI, Anthropic, Gemini, GROQ, Together.AI, Cohere, dan AWS Bedrock.

• Bisakah saya membuat alur kerja kustom dengan py-vectara-agentic?

  Ya, pustaka ini mendukung alur kerja kustom melalui metode `run()`, yang memungkinkan interaksi terstruktur dan multi-langkah.

• Apa itu Vectara Hallucination Correction (VHC) dalam pustaka ini?

  VHC menganalisis respons agen dan mengoreksi halusinasi berdasarkan konten faktual yang diambil oleh alat yang memenuhi syarat VHC, memastikan keluaran yang lebih akurat.

• Bagaimana cara melacak kemajuan agen secara real-time?

  Anda dapat menggunakan parameter `agent_progress_callback` untuk melacak panggilan alat dan keluaran secara real-time, yang berfungsi dengan metode obrolan reguler dan streaming.

• Apa prasyarat untuk menggunakan py-vectara-agentic?

  Anda memerlukan akun Vectara dengan korpus dan kunci API, Python 3.10 atau lebih tinggi, dan kunci API untuk penyedia LLM pilihan Anda.

• Apakah py-vectara-agentic mendukung streaming respons?

  Ya, pustaka ini menawarkan kemampuan streaming yang kuat untuk pembuatan respons waktu nyata, ideal untuk aplikasi interaktif.

• Bagaimana cara menginstal py-vectara-agentic?

  Anda dapat menginstalnya menggunakan pip: `pip install vectara-agentic`.

• Bisakah saya menggunakan fungsi Python kustom sebagai alat?

  Ya, Anda dapat membuat alat Anda sendiri langsung dari fungsi Python menggunakan metode `create_tool()` dari kelas `ToolsFactory`.