介绍

本 документация 提供了关于如何访问和与 Portkey 互动的多种方式的详细信息 - 一个强大的 AI 网关,旨在简化和增强您与大型语言模型(LLMs)如 OpenAI 的 GPT 模型的体验。

无论您是直接与 OpenAI 集成,使用像 Langchain 或 LlamaIndex 这样的框架,还是构建独立应用程序,Portkey 都提供了一种灵活、安全和高效的方式来管理和部署 AI 驱动的功能。

3 种集成 Portkey 的方式

Portkey 可以通过三种主要方法访问,每种方法都针对不同的使用案例和集成需求:

1. Portkey SDKs (Python 和 JavaScript)

理想用于: 独立应用程序或当您尚未使用 OpenAI 集成时。强烈推荐 SDK 以便与 Langchain 和 LlamaIndex 等框架无缝集成。

Portkey SDKs 提供 Python 和 JavaScript 版本,旨在为将 LLM 集成到您的应用程序中提供简化的代码优先方法。

安装 SDK

选择与您的开发环境匹配的 SDK:

npm install portkey-ai

使用方法

安装后,您可以使用 SDK 调用 LLM,管理提示,处理密钥等,所有操作都通过简单直观的 API 完成。

了解更多信息 这里

2. 通过 Portkey Gateway 使用 OpenAI SDK

适合: 如果您当前正在使用 OpenAI 的 Python 或 Node.js SDK。通过更改基础 URL 并添加 Portkey 特定的头信息,您可以快速将 Portkey 的功能集成到现有设置中。

了解更多 这里.

3. REST API

适合: 偏好 RESTful 服务的应用程序。所有 REST API 请求的基础 URL 是 https://api.portkey.ai/v1,并带有 身份验证 头。

了解更多 这里.

Last updated