PremAI 嵌入模型¶

PremAI 是一个一体化平台，可简化由生成式人工智能驱动的强大、生产级应用程序的创建流程。通过优化开发过程，PremAI 让您能够专注于提升用户体验并推动应用程序的整体增长。您可以立即通过快速入门指南开始使用我们的平台。

本节我们将探讨如何通过 llama-index 的 PremEmbeddings 来访问不同的嵌入模型。

安装与设置¶

我们首先安装 llama-index 和 premai-sdk。可以通过以下命令进行安装：

pip install premai llama-index

在继续之前，请确保您已在 PremAI 平台注册账号并创建了项目。若尚未完成，请参考快速入门指南开始使用 PremAI 平台。创建您的第一个项目并获取 API 密钥。

In [ ]:

%pip install llama-index-llms-premai

%pip install llama-index-llms-premai

In [ ]:

from llama_index.embeddings.premai import PremAIEmbeddings

from llama_index.embeddings.premai import PremAIEmbeddings

在 LlamaIndex 中设置 PremAIEmbeddings 实例¶

导入所需模块后，让我们开始配置客户端。目前假设我们的 project_id 为 8，但请确保使用您自己的项目 ID，否则会报错。

要在 llama-index 中使用 PremAI，您无需通过聊天客户端传递任何模型名称或设置参数。默认情况下，系统将采用 LaunchPad 中使用的模型名称和参数配置。

我们支持众多先进的嵌入模型。您可以通过此链接查看支持的 LLM 和嵌入模型列表。本示例中，我们将选用 text-embedding-3-large 模型。

In [ ]:

import os
import getpass

if os.environ.get("PREMAI_API_KEY") is None:
    os.environ["PREMAI_API_KEY"] = getpass.getpass("PremAI API Key:")

prem_embedding = PremAIEmbeddings(
    project_id=8, model_name="text-embedding-3-large"
)

import os import getpass if os.environ.get("PREMAI_API_KEY") is None: os.environ["PREMAI_API_KEY"] = getpass.getpass("PremAI API Key:") prem_embedding = PremAIEmbeddings( project_id=8, model_name="text-embedding-3-large" )

调用嵌入模型¶

现在一切准备就绪。让我们开始使用嵌入模型，先处理单个查询，再处理多个查询（也称为文档）

In [ ]:

query = "Hello, this is a test query"
query_result = prem_embedding.get_text_embedding(query)

query = "Hello, this is a test query" query_result = prem_embedding.get_text_embedding(query)

In [ ]:

print(f"Dimension of embeddings: {len(query_result)}")

print(f"Dimension of embeddings: {len(query_result)}")

Dimension of embeddings: 3072

In [ ]:

query_result[:5]

query_result[:5]

Out[ ]:

[-0.02129288576543331,
 0.0008162345038726926,
 -0.004556538071483374,
 0.02918623760342598,
 -0.02547479420900345]