py-vectara-agentic

Описание

Библиотека py-vectara-agentic позволяет разработчикам создавать сложные ИИ-ассистенты и агентов, используя возможности Vectara и шаблон Agentic RAG. Построенная на базе фреймворка LlamaIndex Agent, эта библиотека Python упрощает процесс создания инструментов, которые взаимодействуют с корпусами Vectara. Ее основная сила заключается в способности быстро генерировать инструменты Vectara RAG или поисковые инструменты с минимальным количеством кода, значительно ускоряя разработку.

Эта библиотека предлагает гибкость в дизайне агентов, поддерживая различные типы агентов, такие как ReAct и Function Calling. Она включает готовые отраслевые инструменты, разработанные для таких секторов, как финансы и юриспруденция, что повышает ее применимость в различных отраслях. Ключевым преимуществом является интеграция с несколькими LLM, позволяющая беспрепятственно подключаться к популярным поставщикам, включая OpenAI, Anthropic, Gemini, GROQ, Together.AI, Cohere и AWS Bedrock. Для разработчиков, сосредоточенных на понимании поведения и производительности агентов, py-vectara-agentic включает встроенную поддержку наблюдаемости с помощью Arize Phoenix.

Продвинутые пользователи могут расширять возможности агентов с помощью пользовательских рабочих процессов, определенных с помощью метода `run()`, что обеспечивает структурированные многошаговые взаимодействия. Библиотека также обеспечивает надежную потоковую передачу и генерацию ответов в реальном времени, что крайне важно для интерактивных приложений и улучшения пользовательского опыта путем отображения ответов по мере их генерации. Включена функция Vectara Hallucination Correction (VHC), позволяющая анализировать и корректировать ответы агентов на основе фактического контента, извлеченного инструментами, соответствующими требованиям VHC. Библиотека также включает функции для проверки инструментов и поддерживает создание пользовательских инструментов из функций Python.

Ключевые особенности включают быстрое создание инструментов для Vectara RAG и поиска, поддержку различных типов агентов, интеграцию с несколькими LLM, встроенную наблюдаемость и поддержку рабочих процессов для сложных взаимодействий. Библиотека подходит для разработчиков, инженеров по ИИ и исследователей, стремящихся создавать интеллектуальных агентов, которые могут эффективно запрашивать и использовать данные, хранящиеся в Vectara, с акцентом на обоснованные и точные ответы.

Основные функции py-vectara-agentic

• Быстрое создание инструментов Vectara RAG и поиска

• Поддержка типов агентов ReAct и Function Calling

• Интеграция с LLM OpenAI, Anthropic, Gemini, GROQ, Together.AI, Cohere и Bedrock

• Встроенная наблюдаемость с Arize Phoenix

• Настраиваемые рабочие процессы через метод `run()`

• Потоковая передача и генерация ответов в реальном времени

• Встроенная поддержка Vectara Hallucination Correction (VHC)

• Проверка инструментов для обеспечения соответствия пользовательских инструкций доступным инструментам

• Возможность создания пользовательских инструментов из функций Python

• Готовые отраслевые инструменты для финансов и юриспруденции

• Поддержка фильтрации метаданных в запросах Vectara

• Форматирование вывода инструментов в удобочитаемом виде

Начало работы с py-vectara-agentic

1. 1

   Клонировать: Получите библиотеку из ее репозитория GitHub.

2. 2

   Установить: Выполните `pip install vectara-agentic` для установки зависимостей.

3. 3

   Настроить: Настройте ключи API Vectara и ключи корпусов, а также, при необходимости, ключи API LLM.

4. 4

   Инициализировать: Создайте `VectaraToolFactory` и определите инструкции для агента.

5. 5

   Создать инструменты: Используйте `create_rag_tool` или `create_search_tool` для интеграции с Vectara.

6. 6

   Создать экземпляр агента: Создайте экземпляр `Agent` с вашими инструментами и пользовательскими инструкциями.

7. 7

   Выполнить: Взаимодействуйте с агентом, используя методы chat, achat, stream_chat или astream_chat.

8. 8

   Анализировать: Используйте VHC или рабочие процессы для расширенного анализа ответов и сложных взаимодействий.

Варианты использования py-vectara-agentic

• Разработка ИИ-ассистентов
• Создание RAG-приложений
• Агенты для анализа данных
• Интерактивные чат-боты
• Автоматизация рабочих процессов
• Интеграция LLM

Часто задаваемые вопросы py-vectara-agentic

• Что такое py-vectara-agentic?

  py-vectara-agentic — это библиотека Python, предназначенная для создания ИИ-ассистентов и агентов, использующих возможности Vectara и шаблон Agentic RAG.

• Как py-vectara-agentic упрощает создание инструментов?

  Он предоставляет вспомогательные функции, такие как `create_rag_tool` и `create_search_tool`, для быстрого создания инструментов, подключающихся к корпусам Vectara, с минимальным количеством кода.

• Какие поставщики LLM поддерживаются py-vectara-agentic?

  Библиотека поддерживает интеграцию с OpenAI, Anthropic, Gemini, GROQ, Together.AI, Cohere и AWS Bedrock.

• Могу ли я создавать пользовательские рабочие процессы с помощью py-vectara-agentic?

  Да, библиотека поддерживает пользовательские рабочие процессы через метод `run()`, что позволяет выполнять структурированные многошаговые взаимодействия.

• Что такое Vectara Hallucination Correction (VHC) в этой библиотеке?

  VHC анализирует ответы агентов и исправляет галлюцинации на основе фактического контента, извлеченного инструментами, соответствующими требованиям VHC, обеспечивая более точные результаты.

• Как отслеживать прогресс агента в реальном времени?

  Вы можете использовать параметр `agent_progress_callback` для отслеживания вызовов инструментов и их вывода в реальном времени, что работает как с обычными, так и с потоковыми методами чата.

• Каковы предварительные требования для использования py-vectara-agentic?

  Вам потребуется учетная запись Vectara с корпусом и ключом API, Python 3.10 или выше, а также ключи API для выбранных вами поставщиков LLM.

• Поддерживает ли py-vectara-agentic потоковую передачу ответов?

  Да, он предлагает мощные возможности потоковой передачи для генерации ответов в реальном времени, что идеально подходит для интерактивных приложений.

• Как установить py-vectara-agentic?

  Вы можете установить его с помощью pip: `pip install vectara-agentic`.

• Могу ли я использовать пользовательские функции Python в качестве инструментов?

  Да, вы можете создавать свои собственные инструменты непосредственно из функций Python, используя метод `create_tool()` класса `ToolsFactory`.