提示库

通过 Portkey 的提示库,您可以无缝创建和管理提示及所有相关模型参数。

这使您能够轻松地尝试各种参数和提示的组合,查看输出,进行迭代,并在满意时一键部署。

设置 AI 提供者

在您创建和管理提示之前,您需要设置您的 虚拟密钥。保存密钥后,可以使用相应的 AI 提供者来运行和管理提示。

定义和保存提示

用户界面允许您输入模型提示,设置各种参数,如模型类型、温度、最大令牌等。一旦您对提示及其参数满意,就可以保存它。Portkey 的用户界面使您可以在保存之前轻松测试和修改提示。

提示版本控制

Portkey 提供提示的版本控制,因此对已保存提示的任何更新都会创建一个新版本。您可以随时切换回旧版本。此功能允许您在对提示进行更改时进行实验,同时始终有选项在需要时恢复到先前版本。

提示模板化

Portkey 支持在提示中使用变量以实现提示模板化。这使您能够创建动态提示,可以根据传入的变量进行更改。您可以添加所需的任意数量的变量,但请注意,所有变量应严格为字符串。此强大功能使您能够为不同的用例或用户重用和个性化您的提示。

已保存提示的 API 端点

对于每个已保存的提示,有一个名为“API”的选项卡,显示已保存模型的 API 端点。用户可以直接调用此 API,并传递其提示模板中所需的变量。这使得将您的已保存提示集成到应用程序或服务中变得简单。

检索已保存的提示模板

您可以使用 render 端点在 Portkey 上检索已保存的提示模板。请阅读以下内容:

检索提示

全局提示部分

文档即将发布!

使用 JSON 模式的高级提示

文档即将发布!


多模态提示

Portkey 的提示平台也支持视觉模型。您可以将图像 URL/数据与其余消息主体一起传递,并轻松地将多模态提示模板部署到生产环境中。

日志中的提示

您可以通过过滤相关提示模板轻松查看特定提示模板的日志。

Portkey 还会在日志详细信息中单独显示提示模板的名称 - 您可以直接从日志详细信息页面跳转到查看/编辑提示模板。

Last updated