Описание
LlamaIndex — это открытая библиотека данных для создания приложений на основе больших языковых моделей. Ее цель — решить конкретную задачу: LLM обучается на общедоступных данных, поэтому подключение его к частной или собственнической информации требует отдельного слоя для загрузки, структурирования и извлечения этих данных. LlamaIndex предоставляет этот слой через соединители данных для таких источников, как API, PDF, другие документы и SQL базы данных, способы структурирования загруженных данных в индексы или графы, а также интерфейс извлечения и запросов, который передает соответствующий контекст в запрос LLM.
Читать далее
Существует два способа начать работу с ним на Python. Стартовый пакет, llama-index, объединяет основную библиотеку с набором интеграций для быстрой настройки. Настраиваемая сборка вместо этого устанавливает llama-index-core плюс конкретные пакеты интеграции, которых более 300, охватывающих различные LLM, встраивания и поставщиков векторных хранилищ. Высокоуровневый API позволяет новичку загружать и запрашивать данные всего за несколько строк кода, в то время как низкоуровневые API открывают соединители данных, индексы, извлекатели, движки запросов и модули повторной сортировки для продвинутой настройки. LlamaIndex также интегрируется с внешними фреймворками, такими как LangChain, Flask или Docker, а не требует, чтобы все работало только через него.
Компания, стоящая за LlamaIndex, сместила свой основной фокус с момента запуска фреймворка в 2023 году. Ее основной текущий продукт — LlamaParse, отдельная корпоративная платформа для агентного разбора документов, OCR и структурированного извлечения, наряду с бесплатным легким парсером под названием LiteParse и открытыми усилиями по бенчмаркингу (ParseBench и ExtractBench) для качества разбора и извлечения. LlamaParse можно использовать вместе с фреймворком LlamaIndex или отдельно. Сам открытый фреймворк остается доступным и поддерживаемым как инструмент для разработчиков, создающих приложения для извлечения и агентов.
Репозиторий выпущен под лицензией MIT и получил более 52 000 звезд на GitHub и более 8 000 форков, что делает его одним из наиболее широко используемых открытых инструментов для подключения LLM к внешним данным.
- КатегорияМашинное обучение и наука о данных
- Модель ценообразованияОткрытый код
- РазвёртываниеОблако
- ПлатформыВеб
Основные функции LlamaIndex
Соединители данных для загрузки API, PDF, других документов и SQL баз данных
Индексы и графовые структуры для организации загруженных данных для использования LLM
Интерфейс извлечения и запросов, который передает соответствующий контекст в запрос LLM
Высокоуровневый API для базового конвейера загрузки и запроса всего за несколько строк кода
Низкоуровневые API для настройки соединителей данных, индексов, извлекателей, движков запросов и модулей повторной сортировки
Более 300 пакетов интеграции для различных LLM, встраиваний и поставщиков векторных хранилищ
Совместимость с внешними фреймворками, такими как LangChain, Flask и Docker
Опциональная пара с LlamaParse, отдельной платформой компании для агентного разбора документов и извлечения
Лицензия MIT, более 52 000 звезд на GitHub и более 8 000 форков
Начало работы с LlamaIndex
Установите: выполните pip install llama-index для стартового пакета или llama-index-core плюс выбранные интеграции для индивидуальной настройки.
Подключите ваши данные: используйте соединитель данных для загрузки документов, API или базы данных.
Создайте индекс: структурируйте загруженные данные в индекс или граф.
Запросите: отправьте запрос через интерфейс извлечения, чтобы получить ответ, основанный на этих данных.
Варианты использования LlamaIndex
- Генерация с дополнением извлечения
- Индивидуальные конвейеры данных
- Приложения агентов
- Разбор и извлечение документов
