获取实时洞察,跟踪关键指标,并通过我们全面的可观察性套件简化调试过程。
如果您正在使用 LLM - 所有请求的可见性可能是一个大问题。您如何衡量请求的成本、延迟和准确性?
Portkey 的可观察性功能提供对所有请求的完全控制,而 Portkey 的分析仪表板则提供您所需的洞察。快速。
Portkey 记录您所有的多模态请求和响应,方便查看、监控和调试交互。
提供 21 个以上关键指标的全面视图。用于分析数据、发现趋势并做出明智的决策。
Portkey 支持请求追踪,帮助您在请求的整个生命周期中监控应用程序。
通过可自定义的过滤器简化数据视图。聚焦于最重要的数据。
为您的 LLM API 添加自定义元数据。分配唯一标签以便快速分组和故障排除。
添加反馈值和权重以完成反馈循环
为您的提供者 API 密钥设置预算限制,以便更好地控制应用程序的成本。
Last updated 1 year ago