虚拟密钥

此功能在所有 Portkey 计划 中均可用。

Portkey 的虚拟密钥系统允许您安全地将 LLM API 密钥存储在我们的保管库中，利用独特的虚拟标识符来简化 API 密钥管理。

此功能还提供以下好处：

• 更容易的密钥轮换

• 为单个 API 密钥生成多个虚拟密钥的能力

• 根据 成本、请求量和用户访问施加限制

这些可以在您的账户中的“虚拟密钥”选项卡下进行管理。

创建虚拟密钥：

1. 进入“虚拟密钥”页面，点击右上角的“添加密钥”按钮。

2. 选择您的 AI 提供商，为您的密钥命名，并根据需要记录任何使用细节。

提示： 您可以为一个提供商注册多个密钥，或者使用不同的名称为同一个密钥以便于识别。

提供者 API 密钥如何存储？

您的 API 密钥经过加密并存储在安全的保管库中，仅在请求时可访问。解密仅在隔离的工作节点中执行，并且仅在必要时进行，以确保数据安全的最高级别。

提供者密钥如何与虚拟密钥关联？

我们随机生成虚拟密钥，并将其单独链接到安全存储的密钥。这意味着，您的原始 API 密钥无法从虚拟密钥中反向工程。

使用虚拟键

使用 Portkey SDK

将虚拟密钥直接添加到 Portkey 的初始化配置中。

NodeJS

import Portkey from 'portkey-ai'
 
const portkey = new Portkey({
    apiKey: "PORTKEY_API_KEY", // defaults to process.env["PORTKEY_API_KEY"]
    virtualKey: "VIRTUAL_KEY" // Portkey supports a vault for your LLM Keys
})

Python

另外，您可以在完成调用期间覆盖虚拟密钥，如下所示：

NodeJS SDK

const chatCompletion = await portkey.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'gpt-3.5-turbo',
}, {virtualKey: "OVERRIDING_VIRTUAL_KEY"});

Python SDK

设置预算限制

Portkey 提供了一种简单的方法来为您的任何虚拟密钥设置预算限制，并帮助您管理对 AI 提供商（和 LLMs）的支出 - 让您对应用程序的成本充满信心和控制。

预算限制

提示模板

选择您在 Portkey 的提示模板中的虚拟密钥，它将被自动检索并准备好使用。

Langchain / LlamaIndex

在使用 Portkey 的自定义 LLM 时设置虚拟密钥，如下所示：

# Example in Langchain
llm = PortkeyLLM(api_key="PORTKEY_API_KEY",virtual_key="VIRTUAL_KEY")