Beschreibung
Die py-vectara-agentic-Bibliothek ermöglicht es Entwicklern, hochentwickelte KI-Assistenten und Agenten zu erstellen, indem sie die Fähigkeiten von Vectara und das Agentic RAG-Muster nutzen. Diese Python-Bibliothek, die auf dem LlamaIndex Agent Framework aufbaut, vereinfacht den Prozess der Erstellung von Tools, die mit Vectara-Korpora interagieren. Ihre Kernstärke liegt in der Fähigkeit, Vectara RAG-Tools oder Suchwerkzeuge mit minimalem Code schnell zu generieren, was die Entwicklung erheblich beschleunigt.
Diese Bibliothek bietet Flexibilität beim Agentendesign und unterstützt verschiedene Agententypen wie ReAct und Function Calling. Sie verfügt über vorgefertigte domänenspezifische Tools, die für Sektoren wie Finanzen und Recht maßgeschneidert sind und ihre Anwendbarkeit in verschiedenen Branchen verbessern. Ein wesentlicher Vorteil ist die Multi-LLM-Integration, die eine nahtlose Verbindung mit beliebten Anbietern wie OpenAI, Anthropic, Gemini, GROQ, Together.AI, Cohere und AWS Bedrock ermöglicht. Für Entwickler, die sich auf das Verständnis des Agentenverhaltens und der Leistung konzentrieren, bietet py-vectara-agentic integrierte Beobachtbarkeitsunterstützung mit Arize Phoenix.
Fortgeschrittene Benutzer können die Agentenfähigkeiten durch benutzerdefinierte Workflows erweitern, die mit der `run()`-Methode definiert werden, was strukturierte, mehrstufige Interaktionen ermöglicht. Die Bibliothek bietet auch robuste Streaming- und Echtzeit-Antwortgenerierung, die für interaktive Anwendungen entscheidend ist und die Benutzererfahrung verbessert, indem Antworten angezeigt werden, sobald sie generiert werden. Vectara Hallucination Correction (VHC) ist integriert und ermöglicht die Analyse und Korrektur von Agentenantworten basierend auf faktischen Inhalten, die von VHC-fähigen Tools abgerufen werden. Die Bibliothek enthält auch Funktionen zur Tool-Validierung und unterstützt die Erstellung benutzerdefinierter Tools aus Python-Funktionen.
Zu den Hauptfunktionen gehören die schnelle Erstellung von Tools für Vectara RAG und Suche, die Unterstützung verschiedener Agententypen, die Multi-LLM-Integration, integrierte Beobachtbarkeit und Workflow-Unterstützung für komplexe Interaktionen. Die Bibliothek eignet sich für Entwickler, KI-Ingenieure und Forscher, die intelligente Agenten erstellen möchten, die Daten, die in Vectara gespeichert sind, effektiv abfragen und nutzen können, mit einem Fokus auf fundierte und genaue Antworten.
py-vectara-agentic's Kernfunktionen
Schnelle Erstellung von Vectara RAG- und Suchwerkzeugen
Unterstützung für ReAct- und Function Calling-Agententypen
Integration mit OpenAI, Anthropic, Gemini, GROQ, Together.AI, Cohere und Bedrock LLMs
Integrierte Beobachtbarkeit mit Arize Phoenix
Anpassbare Workflows über die `run()`-Methode
Streaming und Echtzeit-Antwortgenerierung
Integrierte Unterstützung für Vectara Hallucination Correction (VHC)
Tool-Validierung zur Sicherstellung, dass benutzerdefinierte Anweisungen mit verfügbaren Tools übereinstimmen
Möglichkeit, benutzerdefinierte Tools aus Python-Funktionen zu erstellen
Vorgefertigte domänenspezifische Tools für Finanzen und Recht
Unterstützung für Metadatenfilterung in Vectara-Abfragen
Menschenlesbare Formatierung der Tool-Ausgabe
Erste Schritte mit py-vectara-agentic
Klonen: Holen Sie sich die Bibliothek aus ihrem GitHub-Repository.
Installieren: Führen Sie `pip install vectara-agentic` aus, um Abhängigkeiten zu installieren.
Konfigurieren: Richten Sie Vectara API-Schlüssel und Korpus-Schlüssel sowie optional LLM API-Schlüssel ein.
Initialisieren: Erstellen Sie eine `VectaraToolFactory` und definieren Sie Agentenanweisungen.
Tools erstellen: Verwenden Sie `create_rag_tool` oder `create_search_tool` für die Vectara-Integration.
Agent instanziieren: Erstellen Sie eine `Agent`-Instanz mit Ihren Tools und benutzerdefinierten Anweisungen.
Ausführen: Interagieren Sie mit dem Agenten über die Methoden `chat`, `achat`, `stream_chat` oder `astream_chat`.
Analysieren: Nutzen Sie VHC oder Workflows für erweiterte Antwortanalysen und komplexe Interaktionen.
py-vectara-agentic's Anwendungsfälle
- Entwicklung von KI-Assistenten
- Erstellung von RAG-Anwendungen
- Datenanalyse-Agenten
- Interaktive Chatbots
- Workflow-Automatisierung
- LLM-Integration
