日志

此功能适用于所有计划：

开发者: 每月 10,000 条日志，保留 3 天
生产: 每月 100,000 条日志 + 额外 100,000 条日志 $9，保留 30 天
企业: 无限

日志部分呈现了通过 Portkey 处理的所有请求的按时间顺序的列表。每个日志条目提供了有用的数据，例如时间戳、请求类型、使用的 LLM、生成的令牌和成本。对于多模态模型，日志还将显示与视觉/图像模型一起发送的图像，以及生成的图像。

点击条目后，会打开一个侧边面板，显示请求和响应对象的完整原始数据。

这个详细的日志在故障排除或理解特定交互时是非常宝贵的。它提供了每个请求和响应的完全透明性，使您能够准确看到发送和接收的数据。

与团队成员共享日志

Portkey 上的每个日志都有一个唯一的 URL。您可以从地址栏复制链接，并直接与组织中的任何人分享。

请求状态指南

日志页面上的状态列为每个请求的网关活动提供了快照。

Portkey 的网关功能——缓存、重试、回退、负载均衡——在这里都被跟踪，并显示其确切状态（disabled、triggered 等），使您能够轻松监控和优化使用情况。

常见问题解答：

缓存是否正常工作？：已启用缓存但不确定它是否处于活动状态？状态列将为您确认。
发生了多少次重试？：想知道成功请求的重试次数？一目了然。
回退和负载均衡：想知道负载均衡是否处于活动状态或触发了哪个回退选项？一目了然。

选项

🔴 非活动状态

🟢 可能的活动状态

缓存

缓存已禁用

缓存未命中，

缓存已刷新，

缓存命中，

缓存语义命中

重试

未触发重试

在 {x} 次尝试中重试成功，

重试失败

回退

回退已禁用

回退处于活动状态

负载均衡

负载均衡器已禁用

负载均衡器处于活动状态

手动反馈

在查看日志时，您还可以对日志添加手动反馈，以便稍后进行分析和过滤。此数据可以在反馈分析仪表板上查看。

日志中的配置与提示 ID

如果您的请求附带了 Config 或者来自 prompt template，您可以在 Portkey 的日志详情中分别查看相关的配置或提示 ID。要深入了解，您只需点击这些 ID，Portkey 将带您到相应的配置或提示游乐场，您可以查看完整的详细信息。

使用日志重放调试请求

您可以仅通过一次点击，从日志详情页面重新运行任何有缺陷的请求。Replay 按钮会在一个全新的提示游乐场中打开您的请求，在那里您可以重新运行请求并进行编辑，直到它正常工作。

在以下情况下，Replay 按钮将对日志无效：

如果请求发送到除 /chat/completions,、/completions、/embeddings 之外的任何端点
如果日志中使用的虚拟密钥在 Portkey 上已归档
如果请求源自在 Config 目标内部调用的提示模板

DO NOT TRACK

DO NOT TRACK 选项允许您在处理请求时不记录请求和响应数据。当启用时，仅会记录使用的 tokens、cost 和 latency 等高层次统计信息，而实际的请求和响应内容将从日志中省略。

此功能在处理敏感数据或遵守数据隐私法规时特别有用。它确保您仍然可以捕获关键的操作指标，而不在日志中存储潜在的敏感信息。

要为特定请求启用 DO NOT TRACK，请在实例化您的 Portkey 或 OpenAI 客户端时将 debug 标志设置为 false，或在请求中包含 x-portkey-debug:false 头。

import Portkey from 'portkey-ai';

const portkey = new Portkey({
    virtualKey: "OPENAI_VIRTUAL_KEY",
    apiKey: "PORTKEY_API_KEY",
    debug: false
})

async function main(){
    const response = await portkey.chat.completions.create({
        messages: [{ role: 'user', content: '1729' }],
        model: 'gpt-4',
    });
    console.log(response.choices[0].message?.content)
}

main()

from portkey_ai import Portkey

portkey = Portkey(
    api_key="PORTKEY_API_KEY",  
    virtual_key="OPENAI_VIRTUAL_KEY",
    debug=False
)

response = portkey.chat.completions.create(
    messages=[{'role': 'user', 'content': 'Say this is a test'}],
    model='gpt-4'
)

print(response.choices[0].message.content)

curl 'https://api.portkey.ai/v1/chat/completions' \
    -H 'Content-Type: application/json' \
    -H 'x-portkey-virtual-key: $OPENAI_VIRTUAL_KEY' \
    -H 'x-portkey-api-key: $PORTKEY_API_KEY' \
    -H 'x-portkey-debug: false' \
    -d '{ 
        "model": "gpt-4",  
        "messages": [{ "role": "user", "content": "Hello" }] 
    }'

from openai import OpenAI
from portkey_ai import PORTKEY_GATEWAY_URL, createHeaders

client = OpenAI(
    base_url=PORTKEY_GATEWAY_URL,
    default_headers=createHeaders(
        virtual_key="OPENAI_VIRTUAL_KEY",
        api_key="PORTKEY_API_KEY",
        debug=False
    )
)

chat_complete = client.chat.completions.create(
    model="gpt-4",
    messages=[{"role": "user", "content": "Say this is a test"}],
)

print(chat_complete.choices[0].message.content)

import OpenAI from 'openai';
import { PORTKEY_GATEWAY_URL, createHeaders } from 'portkey-ai'

const openai = new OpenAI({
  baseURL: PORTKEY_GATEWAY_URL,
  defaultHeaders: createHeaders({
    virtualKey: "OPENAI_VIRTUAL_KEY",
    apiKey: "PORTKEY_API_KEY",
    debug: false
  })
});

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'gpt-3.5-turbo',
  });
  console.log(chatCompletion.choices);
}

main();

并排比较 `debug:false` 请求的日志记录方式

Previous分析 Next追踪

Last updated 1 year ago