Google Gemini

Portkey 提供了一个强大且安全的网关，以便将各种大型语言模型（LLMs）集成到您的应用程序中，包括 Google Gemini APIs。

使用 Portkey，您可以利用快速的 AI 网关访问、可观察性、提示管理等功能，同时确保通过虚拟密钥系统安全管理您的 LLM API 密钥。

Provider Slug**: google**

Portkey SDK与Google Gemini模型的集成

Portkey提供了一致的API，以便与来自不同供应商的模型进行交互。要将Google Gemini与Portkey集成：

1. 安装 Portkey SDK

将 Portkey SDK 添加到您的应用程序中，以通过 Portkey 的网关与 Google Gemini 的 API 进行交互。

npm install --save portkey-ai

2. 使用虚拟密钥初始化 Portkey

要将 Gemini 与 Portkey 一起使用，请在此处获取您的 API 密钥，然后将其添加到 Portkey 以创建虚拟密钥。

import Portkey from 'portkey-ai'
 
const portkey = new Portkey({
    apiKey: "PORTKEY_API_KEY", // defaults to process.env["PORTKEY_API_KEY"]
    virtualKey: "VIRTUAL_KEY" // Your Google Virtual Key
})

3. 使用 Google Gemini 调用聊天完成

使用 Portkey 实例向 Google Gemini 发送请求。如有需要，您也可以在 API 调用中直接覆盖虚拟密钥。

const chatCompletion = await portkey.chat.completions.create({
    messages: [
        { role: 'system', content: 'You are not a helpful assistant' },
        { role: 'user', content: 'Say this is a test' }
    ],
    model: 'gemini-pro',
});

console.log(chatCompletion.choices);

completion = portkey.chat.completions.create(
    messages= [
        { "role": 'system', "content": 'You are not a helpful assistant' },
        { "role": 'user', "content": 'Say this is a test' }
    ],
    model= 'gemini-pro'
)

print(completion)

Portkey 支持 system_instructions 参数用于 Google Gemini 1.5 - 使您能够轻松控制基于 Gemini 的应用程序的行为和输出。

只需将您的 Gemini 系统提示作为 {"role":"system"} 消息的一部分包含在请求体的 messages 数组中。Portkey Gateway 会自动转换您的消息，以确保与 Google Gemini API 的无缝兼容。

函数调用

Portkey 在 Google 的 Gemini 模型上支持函数调用模式。探索此 ⬇️ 食谱以深入了解和示例：

函数调用

管理 Google Gemini 提示

您可以在提示库中管理所有对 Google Gemini 的提示。所有当前的 Google Gemini 模型均受支持，您可以轻松开始测试不同的提示。

一旦您准备好提示，可以使用 portkey.prompts.completions.create 接口在您的应用程序中使用该提示。

下一步

SDK 支持的完整功能列表可以在以下链接中找到。

SDK

您可以在相关部分找到更多信息：

PreviousAnthropic NextGroq

Last updated 1 year ago