ZhipuAI / ChatGLM / BigModel

ZhipuAI 开发了 GLM 系列开源 LLM，这些模型是当今世界上性能最佳、能力最强的模型之一。Portkey 提供了一个强大且安全的网关，可以通过仅需 2 行代码的更改，将这些 LLM 无缝集成到您熟悉的 OpenAI 规范的应用程序中！

使用 Portkey，您可以利用强大的功能，如快速 AI 网关、缓存、可观察性、提示管理等，同时通过虚拟密钥系统安全管理您的 LLM API 密钥。

Provider Slug**: zhipu**

Portkey SDK 与 ZhipuAI 的集成

1. 安装 Portkey SDK

使用 npm 或 pip 在您的项目中安装 Portkey SDK：

npm install --save portkey-ai

2. 使用虚拟密钥初始化 Portkey

要将 ZhipuAI / ChatGLM / BigModel 与 Portkey 一起使用，请在此获取您的 API 密钥，然后将其添加到 Portkey 以创建虚拟密钥。

import Portkey from 'portkey-ai'
 
const portkey = new Portkey({
    apiKey: "PORTKEY_API_KEY", // defaults to process.env["PORTKEY_API_KEY"]
    virtualKey: "VIRTUAL_KEY" // 您的 ZhipuAI 虚拟密钥
})

import OpenAI from "openai";
import { PORTKEY_GATEWAY_URL, createHeaders } from "portkey-ai";

const portkey = new OpenAI({
  baseURL: PORTKEY_GATEWAY_URL,
  defaultHeaders: createHeaders({
    apiKey: "PORTKEY_API_KEY",
    virtualKey: "ZHIPUAI_VIRTUAL_KEY",
  }),
});

from openai import OpenAI
from portkey_ai import PORTKEY_GATEWAY_URL, createHeaders

portkey = OpenAI(
    base_url=PORTKEY_GATEWAY_URL,
    default_headers=createHeaders(
        api_key="PORTKEY_API_KEY",
        virtual_key="ZHIPUAI_VIRTUAL_KEY"
    )
)

3. 调用聊天完成

const chatCompletion = await portkey.chat.completions.create({
    messages: [{ role: 'user', content: 'Who are you?' }],
    model: 'glm-4'
});

console.log(chatCompletion.choices);

我是一个名为智谱清言（ZhiPuQingYan）的AI助手，你可以叫我小智🤖

completion = portkey.chat.completions.create(
    messages= [{ "role": 'user', "content": 'Say this is a test' }],
    model= 'glm-4'
)

print(completion)

我是一个名为智谱清言（ZhiPuQingYan）的AI助手，你可以叫我小智🤖

curl https://api.portkey.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "x-portkey-api-key: $PORTKEY_API_KEY" \
  -H "x-portkey-virtual-key: $ZHIPUAI_VIRTUAL_KEY" \
  -d '{
    "messages": [{"role": "user","content": "Hello!"}],
    "model": "glm-4",
  }'

我是一个名为智谱清言（ZhiPuQingYan）的AI助手，你可以叫我小智🤖

下一步

SDK 支持的完整功能列表请查看以下链接。

SDK

您可以在相关部分找到更多信息：

PreviousTogether AI Next建议新的集成！

Last updated 1 year ago