설명
LlamaIndex는 이제 일반적인 검색 증강 생성(RAG) 홍보가 아닌 에이전트 문서 처리 제품인 LlamaParse로 홈페이지를 이끌고 있는 AI 프레임워크입니다. 이 프레임워크의 뿌리는 여전히 존재합니다: 개발자에게 비공식적이거나 도메인 특정 데이터를 수집, 구조화 및 검색할 수 있는 빌딩 블록을 제공하여 LLM이 훈련받지 않은 콘텐츠에 대해 질문에 답하고 추론할 수 있도록 합니다. 그러나 오늘날의 주력 제품은 LlamaIndex가 비용과 정확성의 최전선이라고 설명하는 문서 파싱 및 추출입니다.
더 읽기
LlamaParse는 PDF, Office 문서 및 이미지 등 50개 이상의 비구조적 파일 유형을 파싱하며, 내장된 이미지, 복잡한 레이아웃, 다중 페이지 테이블 및 손으로 쓴 메모를 처리합니다. 작업별 에이전트는 텍스트, 차트 및 테이블과 같은 다양한 콘텐츠를 전문 파싱 전문가에게 라우팅하며, 엉망인 스캔에서 오류를 감지하고 수정하는 자동 수정 루프를 갖추고 있습니다. Extract 기능은 사용자 정의 모델을 훈련하지 않고도 정의된 스키마에 따라 비구조적 콘텐츠를 구조화된 데이터로 변환하며, Split 기능은 자연어 설명에서 문서를 논리적 섹션으로 분할하고, Classify 기능은 자연어 규칙을 사용하여 문서를 자동으로 분류하며, Index 기능은 RAG 검색을 위한 엔터프라이즈급 청킹 및 임베딩 파이프라인을 실행합니다.
로컬 또는 오프라인 사용을 위해 LiteParse는 LlamaParse 팀에서 제공하는 오픈 소스 VLM 없는 파서로, 사용자의 기기에서 완전히 실행되며 클라우드 호출이나 LLM 토큰 비용이 발생하지 않습니다. 'npm install @llamaindex/liteparse'를 통해 설치할 수 있습니다.
LlamaIndex는 보험(청구 및 인수 자동화), 금융(재무 연구 및 실사), 제조(사양 및 검사 보고서에서 통찰력 추출) 및 의료(의료 기록 및 손으로 쓴 의사 메모)와 같은 특정 산업을 중심으로 이 문서 인텔리전스 작업을 배치합니다. 10억 개 이상의 문서가 처리되었으며, 매달 2500만 개 이상의 패키지가 다운로드되고, 30만 명 이상의 LlamaParse 사용자가 있으며, 99.9%의 가동 시간과 기업 배포를 위한 HIPAA, GDPR 및 SOC2 준수를 주장합니다.
LlamaParse는 크레딧 시스템(1,000 크레딧 = $1.25)으로 가격이 책정됩니다. 무료 요금제는 매달 10,000 크레딧(약 1,000 페이지), 기본 지원 및 최대 100명의 사용자를 포함합니다. Starter는 40,000 크레딧이 포함된 월 $50이며, 사용량에 따라 최대 400,000 크레딧까지 가능합니다. Pro는 400,000 크레딧이 포함된 월 $500이며, 사용량에 따라 최대 월 $5,000까지 가능합니다. 우선 지원을 위한 Slack 지원이 제공됩니다. Enterprise는 볼륨 할인, 5배 높은 속도 제한, 기업 SSO 및 전담 계정 관리자가 포함된 맞춤 가격으로 제공됩니다. LlamaIndex는 문서 중심의 파이프라인에서 작업하는 개발자 및 기술 팀을 위해 구축되었으며, 즉시 사용할 수 있는 채팅 제품을 찾는 최종 사용자를 위한 것이 아닙니다.
- 카테고리AI 문서 및 PDF 도구
- 요금제프리미엄
- 배포클라우드, VPC
- 플랫폼웹
LlamaIndex의 핵심 기능
LlamaParse: 이미지 및 손글씨를 포함한 50개 이상의 비구조적 파일 유형에 대한 에이전트 파싱
텍스트, 차트 및 테이블을 위한 작업별 파싱 에이전트, 자동 수정 루프 포함
Extract: 사용자 정의 모델 훈련 없이 스키마 기반 구조화된 데이터 추출
Split: 자연어 설명에서 문서를 논리적 섹션으로 분할
Classify: 자연어 규칙을 사용하여 문서 자동 분류
Index: RAG 검색을 위한 엔터프라이즈급 청킹 및 임베딩 파이프라인
LiteParse: 클라우드 호출이나 토큰 비용 없이 로컬에서 실행되는 오픈 소스 문서 파싱
보험, 금융, 제조 및 의료를 위한 산업별 워크플로우
LlamaIndex 시작하기
설치: 로컬 파싱을 위해 'npm install @llamaindex/liteparse'를 실행하거나 호스팅된 LlamaParse API에 가입합니다.
문서 업로드: 파싱할 PDF, Office 파일 또는 스캔한 이미지를 전송합니다.
파싱 계층 선택: 정확성 요구에 따라 비용 효율적인 에이전트 또는 에이전트 플러스 계층을 선택합니다.
구조화된 데이터 추출: Extract 에이전트가 문서에서 채울 스키마를 정의합니다.
하위 시스템 구축: 파싱된 또는 인덱스된 출력을 RAG 또는 에이전트 파이프라인에 공급합니다.
사용량 추적: 대시보드에서 소비된 크레딧(1,000 크레딧 = $1.25)을 모니터링합니다.
LlamaIndex의 사용 사례
- 복잡한 문서 파싱
- 구조화된 데이터 추출
- RAG 애플리케이션 구축
- 보험 청구 자동화
