Mistral AI

Portkey 提供了一个强大且安全的网关，以便将各种大型语言模型（LLMs）集成到您的应用程序中，包括 Mistral AI APIs。

使用 Portkey，您可以利用快速的 AI 网关访问、可观察性、提示管理等功能，同时通过虚拟密钥系统确保安全管理您的 LLM API 密钥。

Provider Slug**: mistral-ai**

Portkey SDK与Mistral AI模型的集成

Portkey提供了一致的API，以便与来自不同供应商的模型进行交互。要将Mistral AI与Portkey集成：

1. 安装 Portkey SDK

将 Portkey SDK 添加到您的应用程序中，以通过 Portkey 的网关与 Mistral AI 的 API 进行交互。

npm install --save portkey-ai

2. 使用虚拟密钥初始化 Portkey

要将 Mistral AI 与 Portkey 一起使用，在这里获取您的 API 密钥，然后将其添加到 Portkey 以创建虚拟密钥。

import Portkey from 'portkey-ai'
 
const portkey = new Portkey({
    apiKey: "PORTKEY_API_KEY", // defaults to process.env["PORTKEY_API_KEY"]
    virtualKey: "VIRTUAL_KEY" // Your Mistral AI Virtual Key
})

from portkey_ai import Portkey

portkey = Portkey(
    api_key="PORTKEY_API_KEY",  # Replace with your Portkey API key
    virtual_key="VIRTUAL_KEY"   # Replace with your virtual key for Mistral AI
)

3.1. 使用 Mistral AI 调用聊天完成

使用 Portkey 实例向 Mistral AI 发送请求。如果需要，您也可以在 API 调用中直接覆盖虚拟密钥。

您也可以在这里调用新的 Codestral 模型！

const chatCompletion = await portkey.chat.completions.create({
    messages: [{ role: 'user', content: 'Say this is a test' }],
    model: 'codestral-latest',
});

console.log(chatCompletion.choices);

调用 Codestral 端点

使用 Portkey，您还可以调用 Mistral API 的新 Codestral 端点。只需将 Codestral URL https://codestral.mistral.ai/v1 与 customHost 属性一起传递。

import Portkey from 'portkey-ai'
 
const portkey = new Portkey({
    apiKey: "PORTKEY_API_KEY",
    virtualKey: "MISTRAL_VIRTUAL_KEY",
    customHost: "https://codestral.mistral.ai/v1"
})

const codeCompletion = await portkey.chat.completions.create({
    model: "codestral-latest",
    messages: [{"role": "user", "content": "编写一个简约的 Python 代码来验证特殊数字 1729 的证明"}]
});

console.log(codeCompletion.choices[0].message.content);

from portkey_ai import Portkey

portkey = Portkey(
    api_key="PORTKEY_API_KEY", 
    virtual_key="MISTRAL_VIRTUAL_KEY",
    custom_host="https://codestral.mistral.ai/v1"
)

code_completion = portkey.chat.completions.create(
    model="codestral-latest",
    messages=[{"role": "user", "content": "编写一个简约的 Python 代码来验证特殊数字 1729 的证明"}]
)

print(code_completion.choices[0].message.content)