进行您的首次请求
在2分钟内集成Portkey并分析您的第一次LLM调用!
1. 获取您的 Portkey API 密钥
创建或登录到您的 Portkey 账户。从“设置”页面获取您账户的 API 密钥。

2. 集成 Portkey
Portkey 提供多种集成选项,包括 SDK、REST API 和与 OpenAI、Langchain、LlamaIndex 等平台的原生连接。
通过 OpenAI SDK
如果您正在使用 OpenAI SDK,请导入 Portkey SDK 并在您的 OpenAI 客户端对象中进行配置:
OpenAIPortkey SDK
您还可以直接使用 Portkey SDK / REST APIs 来进行聊天完成调用。这是一种更灵活的方式,可以跨任何提供商进行 LLM 调用:
SDK一旦集成完成,您可以在您的 Portkey 仪表板上查看请求的反映。

其他集成指南
3. 下一步
现在您已经开始使用 Portkey,可以深入了解各种 Portkey 功能,以了解所有支持的功能:
在您这里的时候,何不 给我们一个星星?这对我们帮助很大!
常见问题解答
Portkey 会增加我的 API 请求的延迟吗?
Portkey 托管在全球的边缘工作节点上,我们的服务器确保最小的延迟往返。我们的基准测试估计总延迟增加在 20-40ms 之间。
我们的边缘工作节点位置:

我的数据安全吗?
Portkey 已获得 ISO:27001 和 SOC 2 认证。我们还符合 GDPR。 这证明我们在服务、安全数据存储和检索方面遵循最佳实践。您的所有数据在传输和静态时都经过加密。
如果您仍然担心您的数据通过 Portkey 传输,我们建议您选择以下选项之一:
应请求,我们可以启用一个功能,该功能不会在 Portkey 数据存储或我们的日志中存储您的请求和响应体对象。
对于企业客户,我们提供托管服务,以便在私有云中部署 Portkey。
如果您需要讨论这些选项,请随时通过 [email protected] 联系我们。
如果我的应用程序突然爆发,Portkey 能否扩展?
Portkey 已经过测试,可以处理每秒数百万个请求。我们每天处理超过 1000 万个请求,正常运行时间达到 99.99%。我们建立在可扩展的基础设施之上,能够轻松应对巨大的负载。
Portkey 是否对请求设置超时?
我们目前对我们的免费或付费计划没有设置任何明确的超时。过去,我们有用户在其他各种框架中遇到超时问题,但 Portkey 在我们的端不会对请求设置超时。
您是否支持非谷歌/ Gmail 账户的注册?
是的!我们支持使用 Microsoft 账户注册 - 目前处于测试阶段。如需访问 MS 登录,请通过 [email protected] 联系我们或 在 Discord 上请求。
我在哪里可以联系到你?
我们随时可以在 Discord 上联系,或者通过我们的支持邮箱 - [email protected]
Last updated