保护检查列表

每个 Guardrail 检查都有特定的目的、自己的参数、支持的钩子和来源。

合作伙伴守护措施

Portkey 与领先的 AI 守护措施公司 AporiaPillarSydeLabs 合作,将他们的守护措施框架引入 Portkey Gateway,并为 Portkey 的全球用户提供服务。

Cover

支持的守护措施

  • 扫描提示

  • 扫描响应

用于 PII、毒性、提示注入、检测等。

Cover

支持的守护措施

  • SydeGuard

设置提示注入、毒性和规避的阈值。

所有守护检查(包括合作伙伴守护措施)的逻辑是开源的。

请在 Portkey Gateway 仓库的 这里这里 查看。

Portkey的默认护栏检查

除了合作伙伴护栏外,Portkey还原生支持确定性和基于LLM的护栏。

查看其详细信息如下:

检查名称
描述
参数
支持的钩子

Regex Match

检查请求或响应文本是否匹配正则表达式模式。

rule: string

beforeRequestHook afterRequestHook

Sentence Count

检查内容是否包含一定数量的句子。允许范围。

minSentences: number maxSentences: number

beforeRequestHook afterRequestHook

Word Count

检查内容是否包含一定数量的单词。允许范围。

minWords: number maxWords: number

beforeRequestHook afterRequestHook

Character Count

检查内容是否包含一定数量的字符。允许范围。

minCharacters: number maxCharacters: number

beforeRequestHook afterRequestHook

JSON Schema

检查响应的JSON是否符合JSON模式。

schema: json

afterRequestHook

JSON Keys

检查响应的JSON是否包含提到的任何、所有或没有的键。

keys: array operator: string

afterRequestHook

Contains

检查内容是否包含提到的任何、所有或没有的单词或短语。

words: array operator: string

afterRequestHook

Valid URLs

检查内容中提到的所有URL是否有效

onlyDNS: boolean

afterRequestHook

Contains Code

检查内容是否包含SQL、Python、TypeScript等格式的代码。

format: string

afterRequestHook

Webhook

为自定义护栏发起Webhook请求

webhookURL:string headers: json

beforeRequestHook afterRequestHook

Moderate Content (LLM-based)

检查内容是否通过了提到的内容审核检查。

categories: array

beforeRequestHook

Check Language (LLM-based)

检查响应内容是否为提到的语言。

language: string

beforeRequestHook

Detect PII (LLM-based)

检测内容中的个人可识别信息(PII)。

categories: array

beforeRequestHook afterRequestHook

Detect Gibberish (LLM-based)

检测内容是否为无意义的文字。

boolean

beforeRequestHook afterRequestHook


贡献您的 Guardrail

我们积极欢迎 Guardrail 平台将其 API 集成到 Portkey Gateway 中,让 Portkey Gateway 用户使用您与 Portkey 快速可靠的 AI Gateway 的 Guardrail。

在这里查看一些现有示例以创建您自己的!

Last updated