提示工程

提示（Prompting）是构建任何大语言模型（LLM）应用的基础单元。您可以完全围绕提示构建整个应用，或与其他模块（如检索模块）协同构建RAG系统、智能体等复杂功能。

LlamaIndex 提供了LLM抽象层和从简单到高级的提示抽象层，使复杂的提示工作流成为可能。

LLM 集成

LlamaIndex 支持40多种LLM集成方案，涵盖OpenAI、Anthropic等商业模型提供商，以及Mistral、Ollama、Replicate等开源模型/提供商。它提供全套工具来标准化常见LLM使用模式的接口，包括但不限于异步调用、流式传输、函数调用等功能。

查看完整的LLM模块指南。

提示模板

LlamaIndex 具备强大的提示抽象层，涵盖与LLM交互的所有常见模式。

查看完整的提示模块指南。

基础功能

• 文本补全提示
• 对话提示

高级功能

• 变量映射/函数/偏函数
• RichPromptTemplate特性

提示链与流水线

LlamaIndex 提供强大的抽象层来创建顺序提示链，以及用于协调提示与其他组件的通用有向无环图（DAG）。这使您能够构建复杂工作流，包括具有多跳查询理解层的RAG系统，以及智能体应用。

这些流水线已内置集成可观测性合作伙伴。

提示链与流水线的核心指南请参阅查询流水线。