进行您的首次请求
在2分钟内集成Portkey并分析您的第一次LLM调用!
1. 获取您的 Portkey API 密钥
创建或登录到您的 Portkey 账户。从“设置”页面获取您账户的 API 密钥。
Portkey 提供多种集成选项,包括 SDK、REST API 和与 OpenAI、Langchain、LlamaIndex 等平台的原生连接。
如果您正在使用 OpenAI SDK,请导入 Portkey SDK 并在您的 OpenAI 客户端对象中进行配置:
OpenAI您还可以直接使用 Portkey SDK / REST APIs 来进行聊天完成调用。这是一种更灵活的方式,可以跨任何提供商进行 LLM 调用:
SDK一旦集成完成,您可以在您的 Portkey 仪表板上查看请求的反映。
现在您已经开始使用 Portkey,可以深入了解各种 Portkey 功能,以了解所有支持的功能:
Portkey 会增加我的 API 请求的延迟吗?
Portkey 托管在全球的边缘工作节点上,我们的服务器确保最小的延迟往返。我们的基准测试估计总延迟增加在 20-40ms 之间。
我们的边缘工作节点位置:
Portkey 已获得 ISO:27001 和 SOC 2 认证。我们还符合 GDPR。 这证明我们在服务、安全数据存储和检索方面遵循最佳实践。您的所有数据在传输和静态时都经过加密。
如果您仍然担心您的数据通过 Portkey 传输,我们建议您选择以下选项之一:
应请求,我们可以启用一个功能,该功能不会在 Portkey 数据存储或我们的日志中存储您的请求和响应体对象。
对于企业客户,我们提供托管服务,以便在私有云中部署 Portkey。
如果您需要讨论这些选项,请随时通过 [email protected] 联系我们。
如果我的应用程序突然爆发,Portkey 能否扩展?
Portkey 已经过测试,可以处理每秒数百万个请求。我们每天处理超过 1000 万个请求,正常运行时间达到 99.99%。我们建立在可扩展的基础设施之上,能够轻松应对巨大的负载。
查看我们的状态页面
Portkey 是否对请求设置超时?
我们目前对我们的免费或付费计划没有设置任何明确的超时。过去,我们有用户在其他各种框架中遇到超时问题,但 Portkey 在我们的端不会对请求设置超时。
您是否支持非谷歌/ Gmail 账户的注册?
是的!我们支持使用 Microsoft 账户注册 - 目前处于测试阶段。如需访问 MS 登录,请通过 [email protected] 联系我们或 在 Discord 上请求。
我们随时可以在 Discord 上联系,或者通过我们的支持邮箱 - [email protected]