描述
LlamaIndex 是一个开源数据框架,用于在大型语言模型之上构建应用程序。它的目的是解决一个特定问题:大型语言模型(LLM)是在公共数据上训练的,因此将其连接到私有或专有信息需要一个单独的层来摄取、结构化和检索这些数据。LlamaIndex 通过数据连接器提供该层,支持 API、PDF、其他文档和 SQL 数据库等来源,提供将摄取的数据结构化为索引或图形的方式,以及一个检索和查询接口,将相关上下文输入到 LLM 提示中。
阅读更多
在 Python 中,有两种方式开始构建。启动包 llama-index 将核心库与一系列集成捆绑在一起,以便快速设置。自定义构建则安装 llama-index-core 以及特定的集成包,涵盖不同的 LLM、嵌入和向量存储提供商,数量超过 300。高级 API 使初学者能够用几行代码摄取和查询数据,而低级 API 则暴露数据连接器、索引、检索器、查询引擎和重新排序模块,以便进行高级自定义。LlamaIndex 还与外部框架(如 LangChain、Flask 或 Docker)集成,而不需要所有内容都通过它单独运行。
自 2023 年框架推出以来,LlamaIndex 背后的公司已将其主要关注点转移。其当前的主要产品是 LlamaParse,这是一个独立的企业平台,用于代理文档解析、光学字符识别(OCR)和结构化提取,此外还有一个名为 LiteParse 的免费轻量级解析器和开放基准测试工作(ParseBench 和 ExtractBench),用于解析和提取质量。LlamaParse 可以与 LlamaIndex 框架一起使用,也可以单独使用。开源框架本身仍然可用并维护,作为开发人员构建检索和代理应用程序的工具包。
该代码库在 MIT 许可证下发布,获得了超过 52,000 个 GitHub 星标和超过 8,000 个分支,使其成为连接 LLM 与外部数据的更广泛使用的开源工具之一。
- 类别机器学习与数据科学
- 定价模式开源
- 部署云端
- 平台网页版
LlamaIndex的核心功能
用于摄取 API、PDF、其他文档和 SQL 数据库的数据连接器
用于组织摄取数据以供 LLM 使用的索引和图形结构
一个检索和查询接口,将相关上下文输入到 LLM 提示中
用于基本摄取和查询管道的高级 API,仅需几行代码
用于自定义数据连接器、索引、检索器、查询引擎和重新排序模块的低级 API
超过 300 个集成包,支持不同的 LLM、嵌入和向量存储提供商
与外部框架(如 LangChain、Flask 和 Docker)互操作
可选与 LlamaParse 配对,该公司独立的代理文档解析和提取平台
MIT 许可证,获得超过 52,000 个 GitHub 星标和超过 8,000 个分支
LlamaIndex入门
安装:运行 pip install llama-index 以获取启动包,或安装 llama-index-core 及所选集成以进行自定义设置。
连接您的数据:使用数据连接器加载文档、API 或数据库。
构建索引:将摄取的数据结构化为索引或图形。
查询:通过检索接口发送提示,以获取基于该数据的答案。
LlamaIndex的使用案例
- 增强检索生成
- 自定义数据管道
- 代理应用程序
- 文档解析和提取








