# 什么是 Portkey？

团队使用 Portkey 来提高他们的 GenAI 应用程序的成本、性能和准确性。

集成只需不到 2 分钟，集成后，它立即开始监控您所有的 LLM 请求，同时使您的应用程序具备更强的韧性、安全性、性能和更高的准确性。

这是一个产品演示（3 分钟）：

{% embed url="<https://youtu.be/9aO340Hew2I>" fullWidth="false" %}

### 用三行代码集成

{% tabs %}
{% tab title="OpenAI Python" %}

<pre class="language-python"><code class="lang-python"># pip install portkey-ai

from openai import OpenAI
<strong>from portkey_ai import PORTKEY_GATEWAY_URL, createHeaders
</strong>
client = OpenAI(
<strong>    base_url=PORTKEY_GATEWAY_URL,
</strong><strong>    default_headers=createHeaders(
</strong><strong>        provider="openai", 
</strong><strong>        api_key="PORTKEY_API_KEY"
</strong><strong>    )
</strong>)

chat_complete = client.chat.completions.create(
    model="gpt-4",
    messages=[{"role": "user", "content": "Say this is a test"}],
)

print(chat_complete.choices[0].message.content)
</code></pre>

{% endtab %}

{% tab title="OpenAI Node" %}

<pre class="language-javascript"><code class="lang-javascript">// npm i portkey-ai

import OpenAI from 'openai';
<strong>import { PORTKEY_GATEWAY_URL, createHeaders } from 'portkey-ai'
</strong>
const openai = new OpenAI({
<strong>  baseURL: PORTKEY_GATEWAY_URL,
</strong><strong>  defaultHeaders: createHeaders({
</strong><strong>    provider: "openai", 
</strong><strong>    apiKey: "PORTKEY_API_KEY"
</strong><strong>    })
</strong>});

async function main() {
  const chatCompletion = await openai.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'gpt-3.5-turbo',
  });

  console.log(chatCompletion.choices);
}

main();
</code></pre>

{% endtab %}
{% endtabs %}

<table data-card-size="large" data-view="cards"><thead><tr><th></th><th></th><th data-hidden data-card-cover data-type="files"></th><th data-hidden data-card-target data-type="content-ref"></th></tr></thead><tbody><tr><td><strong>🚀 快速入门</strong></td><td>设置 Portkey 不到 2 分钟。</td><td></td><td><a href="make-your-first-request">make-your-first-request</a></td></tr><tr><td><strong>🤝 集成</strong></td><td>在 200 多个模型和多个框架中找到最适合您的集成。</td><td></td><td><a href="integration-guides/openai">openai</a></td></tr><tr><td><strong>✨ 产品特性</strong></td><td>跳转到产品部分，了解更多关于 Portkey 模块及其解决的用例。</td><td></td><td><a href="../chan-pin/observability-modern-monitoring-for-llms">observability-modern-monitoring-for-llms</a></td></tr><tr><td><strong>📔 API 参考</strong></td><td>前往 API 参考和代码示例，了解通过 REST APIs 和 SDKs 提供的所有 Portkey 功能</td><td></td><td><a href="../api-can-kao/authentication">authentication</a></td></tr></tbody></table>

### 支持的语言

<table><thead><tr><th width="171">语言</th><th>支持的库</th></tr></thead><tbody><tr><td>Javascript</td><td><a href="https://github.com/Portkey-AI/portkey-node-sdk">portkey-node-sdk</a><br><a href="https://github.com/openai/openai-node">openai-node</a></td></tr><tr><td>Python</td><td><a href="https://github.com/Portkey-AI/portkey-python-sdk">portkey-python-sdk</a><br><a href="https://github.com/openai/openai-python">openai-python</a></td></tr><tr><td>Go</td><td><a href="https://github.com/sashabaranov/go-openai">go-openai</a></td></tr><tr><td>Java</td><td><a href="https://github.com/TheoKanning/openai-java">openai-java</a></td></tr><tr><td>Rust</td><td><a href="https://github.com/64bit/async-openai">async-openai</a></td></tr><tr><td>Ruby</td><td><a href="https://github.com/alexrudall/ruby-openai">ruby-openai</a></td></tr></tbody></table>

### 支持的 AI 提供商

Portkey 默认支持多模态 - 除了聊天和文本模型外，我们还支持音频、视觉和图像生成模型。

<table><thead><tr><th width="204">AI 提供商</th><th>状态<select multiple><option value="0e5d342ec974480189a514d494d2e511" label="完全支持" color="blue"></option><option value="9804c88061ab49f691e76c360acd3392" label="公开" color="blue"></option><option value="ea651ba6b6904eb0bdf8db90bafd9404" label="部分支持" color="blue"></option></select></th></tr></thead><tbody><tr><td><a href="integration-guides/openai">OpenAI</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/anthropic">Anthropic</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/azure-openai">Azure OpenAI</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/cohere">Cohere</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/anyscale-llama2-mistral-zephyr">Anyscale</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/google-palm">Google Palm</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/gemini">Google Gemini</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/together-ai">Together AI</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/perplexity-ai">Perplexity</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/mistral-ai">Mistral</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/stability-ai">Stability</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/nomic">Nomic</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td>AI21</td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/aws-bedrock">AWS Bedrock</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/ollama">Ollama</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td>AzureML</td><td><span data-option="ea651ba6b6904eb0bdf8db90bafd9404">部分支持</span></td></tr><tr><td><a href="integration-guides/byollm">BYOLLM</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/jina-ai">Jina AI</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/fireworks">Fireworks AI</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/local-ai">LocalAI</a></td><td><span data-option="ea651ba6b6904eb0bdf8db90bafd9404">部分支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/predibase">Predibase</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/zhipu">ZhipuAI</a> (ChatGLM)</td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr><tr><td><a href="integration-guides/deepinfra">Deepinfra</a></td><td><span data-option="0e5d342ec974480189a514d494d2e511">完全支持, </span><span data-option="9804c88061ab49f691e76c360acd3392">公开</span></td></tr></tbody></table>

[查看所有支持的集成指南](https://pk-docs.role.fun/huan-ying/integration-guides)。

### 支持的框架

<table><thead><tr><th width="172">框架</th><th>状态<select multiple><option value="c20415239ee94fdd8c0240eb0cb2b98f" label="python" color="blue"></option><option value="e7e31fdc78ee49cf8a5349b051d71dd5" label="typescript" color="blue"></option><option value="b5571db3c54b4adc9d43af9802742cd6" label="native" color="blue"></option></select></th></tr></thead><tbody><tr><td><a href="integration-guides/langchain-python">Langchain</a></td><td><span data-option="b5571db3c54b4adc9d43af9802742cd6">native, </span><span data-option="c20415239ee94fdd8c0240eb0cb2b98f">python, </span><span data-option="e7e31fdc78ee49cf8a5349b051d71dd5">typescript</span></td></tr><tr><td><a href="integration-guides/llama-index-python">Llamaindex</a></td><td><span data-option="b5571db3c54b4adc9d43af9802742cd6">native, </span><span data-option="c20415239ee94fdd8c0240eb0cb2b98f">python, </span><span data-option="e7e31fdc78ee49cf8a5349b051d71dd5">typescript</span></td></tr><tr><td><a href="integration-guides/autogen">Autogen</a></td><td><span data-option="b5571db3c54b4adc9d43af9802742cd6">native, </span><span data-option="c20415239ee94fdd8c0240eb0cb2b98f">python</span></td></tr><tr><td><a href="integration-guides/vercel">Vercel</a></td><td><span data-option="b5571db3c54b4adc9d43af9802742cd6">native, </span><span data-option="e7e31fdc78ee49cf8a5349b051d71dd5">typescript</span></td></tr><tr><td><a href="integration-guides/instructor">Instructor</a></td><td><span data-option="b5571db3c54b4adc9d43af9802742cd6">native, </span><span data-option="c20415239ee94fdd8c0240eb0cb2b98f">python, </span><span data-option="e7e31fdc78ee49cf8a5349b051d71dd5">typescript</span></td></tr><tr><td><a href="integration-guides/promptfoo">Promptfoo</a></td><td><span data-option="b5571db3c54b4adc9d43af9802742cd6">native, </span><span data-option="e7e31fdc78ee49cf8a5349b051d71dd5">typescript</span></td></tr><tr><td><a href="https://git.new/CrewAI-Portkey">CrewAI</a></td><td><span data-option="b5571db3c54b4adc9d43af9802742cd6">native, </span><span data-option="c20415239ee94fdd8c0240eb0cb2b98f">python</span></td></tr></tbody></table>
