Google Palm

Portkey 提供了一个强大且安全的网关，以便将各种大型语言模型 (LLMs) 集成到您的应用程序中，包括 Google Palm APIs。

使用 Portkey，您可以利用快速 AI 网关访问、可观察性、提示管理等功能，同时通过虚拟密钥系统确保安全管理您的 LLM API 密钥。

Provider Slug**: palm**

Portkey SDK与Google Palm的集成

Portkey提供了一致的API，以便与来自不同提供商的模型进行交互。要将Google Palm与Portkey集成：

1. 安装 Portkey SDK

将 Portkey SDK 添加到您的应用程序，以通过 Portkey 的网关与 Google Palm 的 API 进行交互。

npm install --save portkey-ai

2. 使用虚拟密钥初始化 Portkey

将 Portkey 与您的虚拟密钥一起设置为初始化配置的一部分。您可以在 UI 中为 Google Palm 创建一个虚拟密钥。

import Portkey from 'portkey-ai'
 
const portkey = new Portkey({
    apiKey: "PORTKEY_API_KEY", // defaults to process.env["PORTKEY_API_KEY"]
    virtualKey: "VIRTUAL_KEY" // Your Google Palm Virtual Key
})

from portkey_ai import Portkey

portkey = Portkey(
    api_key="PORTKEY_API_KEY",  # Replace with your Portkey API key
    virtual_key="VIRTUAL_KEY"   # Replace with your virtual key for Google Palm
)

3. 使用 Google Palm 调用聊天完成

使用 Portkey 实例向 Google Palm 发送请求。如有需要，您还可以直接在 API 调用中覆盖虚拟键。

const chatCompletion = await portkey.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'chat-bison-001',
});

console.log(chatCompletion.choices);

管理 Google Palm 提示

您可以在提示库中管理所有 Google Palm 的提示。所有当前的 Google Palm 模型均受支持，您可以轻松开始测试不同的提示。

一旦您准备好提示，可以使用 portkey.prompts.completions.create 接口在您的应用程序中使用该提示。

下一步

SDK 支持的完整功能列表可在以下链接中找到。

SDK

您可以在相关部分找到更多信息：

PreviousDeepinfra NextJina AI

Last updated 1 year ago