py-vectara-agentic

설명

py-vectara-agentic 라이브러리는 개발자가 Vectara의 기능과 Agentic RAG 패턴을 활용하여 정교한 AI 어시스턴트 및 에이전트를 구축할 수 있도록 지원합니다. LlamaIndex Agent 프레임워크를 기반으로 구축된 이 Python 라이브러리는 Vectara 코퍼스와 인터페이스하는 도구 생성을 간소화합니다. 핵심 강점은 최소한의 코드로 Vectara RAG 도구 또는 검색 도구를 신속하게 생성할 수 있다는 점으로, 개발 속도를 크게 향상시킵니다.

이 라이브러리는 ReAct 및 Function Calling과 같은 다양한 에이전트 유형을 지원하여 에이전트 설계에 유연성을 제공합니다. 금융 및 법률과 같은 분야에 맞춰 사전 구축된 도메인별 도구를 제공하여 다양한 산업 전반에 걸쳐 적용 가능성을 높입니다. 주요 이점은 OpenAI, Anthropic, Gemini, GROQ, Together.AI, Cohere 및 AWS Bedrock을 포함한 인기 있는 제공업체와 원활하게 연결할 수 있는 다중 LLM 통합입니다. 에이전트 동작 및 성능 이해에 중점을 둔 개발자를 위해 py-vectara-agentic은 Arize Phoenix를 통한 내장형 관찰 가능성 지원을 포함합니다.

고급 사용자는 `run()` 메서드를 사용하여 정의된 사용자 지정 워크플로를 통해 에이전트 기능을 확장하여 구조화된 다단계 상호 작용을 가능하게 합니다. 이 라이브러리는 또한 강력한 스트리밍 및 실시간 응답 생성을 제공하며, 이는 대화형 애플리케이션에 중요하며 응답이 생성되는 대로 표시하여 사용자 경험을 개선합니다. Vectara Hallucination Correction(VHC)이 통합되어 VHC 지원 도구에서 검색된 사실적 콘텐츠를 기반으로 에이전트 응답을 분석하고 수정할 수 있습니다. 또한 이 라이브러리에는 도구 유효성 검사 기능이 포함되어 있으며 Python 함수에서 사용자 지정 도구 생성을 지원합니다.

주요 기능에는 Vectara RAG 및 검색을 위한 신속한 도구 생성, 다양한 에이전트 유형 지원, 다중 LLM 통합, 내장형 관찰 가능성 및 복잡한 상호 작용을 위한 워크플로 지원이 포함됩니다. 이 라이브러리는 Vectara에 저장된 데이터를 효과적으로 쿼리하고 활용할 수 있는 지능형 에이전트를 구축하려는 개발자, AI 엔지니어 및 연구원에게 적합하며, 근거 있고 정확한 응답에 중점을 둡니다.

py-vectara-agentic의 핵심 기능

• Vectara RAG 및 검색 도구의 신속한 생성

• ReAct 및 Function Calling 에이전트 유형 지원

• OpenAI, Anthropic, Gemini, GROQ, Together.AI, Cohere 및 Bedrock LLM과의 통합

• Arize Phoenix를 통한 내장형 관찰 가능성

• `run()` 메서드를 통한 사용자 지정 가능한 워크플로

• 스트리밍 및 실시간 응답 생성

• Vectara Hallucination Correction(VHC)에 대한 내장형 지원

• 사용자 지정 지침이 사용 가능한 도구와 일치하는지 확인하는 도구 유효성 검사

• Python 함수에서 사용자 지정 도구 생성 기능

• 금융 및 법률 분야를 위한 사전 구축된 도메인별 도구

• Vectara 쿼리에서 메타데이터 필터링 지원

• 가독성 있는 도구 출력 형식 지정

py-vectara-agentic 시작하기

1. 1

   클론: GitHub 리포지토리에서 라이브러리를 가져옵니다.

2. 2

   설치: `pip install vectara-agentic`을 실행하여 종속성을 설치합니다.

3. 3

   구성: Vectara API 키 및 코퍼스 키, 그리고 선택적으로 LLM API 키를 설정합니다.

4. 4

   초기화: `VectaraToolFactory`를 생성하고 에이전트 지침을 정의합니다.

5. 5

   도구 생성: Vectara 통합을 위해 `create_rag_tool` 또는 `create_search_tool`을 사용합니다.

6. 6

   에이전트 인스턴스화: 도구 및 사용자 지정 지침으로 `Agent` 인스턴스를 생성합니다.

7. 7

   실행: chat, achat, stream_chat 또는 astream_chat 메서드를 사용하여 에이전트와 상호 작용합니다.

8. 8

   분석: VHC 또는 워크플로를 사용하여 고급 응답 분석 및 복잡한 상호 작용을 수행합니다.

py-vectara-agentic의 사용 사례

• AI 어시스턴트 개발
• RAG 애플리케이션 생성
• 데이터 분석 에이전트
• 대화형 챗봇
• 워크플로 자동화
• LLM 통합

py-vectara-agentic의 FAQ

• py-vectara-agentic이란 무엇인가요?

  py-vectara-agentic은 Vectara의 기능과 Agentic RAG 패턴을 활용하는 AI 어시스턴트 및 에이전트 구축을 위한 Python 라이브러리입니다.

• py-vectara-agentic은 도구 생성을 어떻게 단순화하나요?

  최소한의 코드로 Vectara 코퍼스에 연결하는 도구를 신속하게 구축할 수 있는 `create_rag_tool` 및 `create_search_tool`과 같은 도우미 함수를 제공합니다.

• py-vectara-agentic은 어떤 LLM 제공업체를 지원하나요?

  이 라이브러리는 OpenAI, Anthropic, Gemini, GROQ, Together.AI, Cohere 및 AWS Bedrock과의 통합을 지원합니다.

• py-vectara-agentic으로 사용자 지정 워크플로를 만들 수 있나요?

  예, 라이브러리는 `run()` 메서드를 통해 사용자 지정 워크플로를 지원하여 구조화된 다단계 상호 작용을 가능하게 합니다.

• 이 라이브러리에서 Vectara Hallucination Correction(VHC)이란 무엇인가요?

  VHC는 에이전트 응답을 분석하고 VHC 지원 도구에서 검색된 사실적 콘텐츠를 기반으로 환각을 수정하여 더 정확한 출력을 보장합니다.

• 실시간으로 에이전트 진행 상황을 어떻게 추적할 수 있나요?

  `agent_progress_callback` 매개변수를 사용하여 도구 호출 및 출력을 실시간으로 추적할 수 있으며, 이는 일반 및 스트리밍 채팅 메서드 모두에서 작동합니다.

• py-vectara-agentic을 사용하기 위한 사전 요구 사항은 무엇인가요?

  Vectara 계정(코퍼스 및 API 키 포함), Python 3.10 이상, 선택한 LLM 제공업체의 API 키가 필요합니다.

• py-vectara-agentic은 스트리밍 응답을 지원하나요?

  예, 대화형 애플리케이션에 이상적인 실시간 응답 생성을 위한 강력한 스트리밍 기능을 제공합니다.

• py-vectara-agentic을 어떻게 설치하나요?

  pip를 사용하여 설치할 수 있습니다: `pip install vectara-agentic`.

• 사용자 지정 Python 함수를 도구로 사용할 수 있나요?

  예, `ToolsFactory` 클래스의 `create_tool()` 메서드를 사용하여 Python 함수에서 직접 사용자 지정 도구를 만들 수 있습니다.