Llama Packs 🦙📦#

概念#

Llama Packs 是一个社区驱动的预制模块/模板中心，可帮助您快速启动 LLM 应用开发。

它直接解决了构建 LLM 应用时的一大痛点：每个用例都需要拼凑自定义组件并耗费大量调试开发时间。我们的目标是通过社区协作来加速这一过程。

Llama Packs 有两种使用方式：

一方面，它们是开箱即用的预制模块，只需初始化参数即可直接运行以实现特定用例（无论是完整的 RAG 流程、应用模板还是其他功能）。您也可以直接导入子模块（如 LLMs、查询引擎）使用。
另一方面，LlamaPacks 是可自由检视、修改和使用的模板。

所有资源包均可在 LlamaHub 找到。通过下拉菜单选择 "LlamaPacks" 即可筛选资源包。

请查阅每个资源包的 README 了解具体使用方法。示例资源包见此。

更多详情请参阅我们的发布博客。

使用模式#

您可以通过 CLI 或 Python 使用 Llama Packs。

CLI:

llamaindex-cli download-llamapack <pack_name> --download-dir <pack_directory>

Python:

from llama_index.core.llama_pack import download_llama_pack

# 下载并安装依赖
pack_cls = download_llama_pack("<pack_name>", "<pack_directory>")

资源包可通过多种方式使用：检视模块、端到端运行或自定义模板。

# 每个资源包初始化参数不同
pack = pack_cls(*args, **kwargs)

# 获取模块
modules = pack.get_modules()
display(modules)

# 运行（每个资源包参数不同）
output = pack.run(*args, **kwargs)

特别提示：您应该（也可以）进入 pack_directory 检视源码文件并进行自定义——这正是设计初衷之一！

模块指南#

以下是一些模块使用指南示例。完整资源包请访问 LlamaHub。