```mdx
---
title: 模型
description: Learn about the Different Models Supported by Dify.
---

<Warning>
    "模型" 已完全集成到 "插件" 生态系统中。有关模型插件的详细开发说明，请参阅 [插件开发](/en/plugins/quick-start/develop-plugins/model-plugin/README)。以下内容已归档。
</Warning>

Dify 是一个基于大型语言模型应用程序的 AI 应用开发平台，首次使用 Dify 时，您需要进入 **设置 --> 模型提供商** 添加和配置您将要使用的大型语言模型。

![Settings - Model Provider](https://assets-docs.dify.ai/dify-enterprise-mintlify/en/guides/model-configuration/941524058c800a06d39290c48d14673b.png)

Dify 支持主流的模型提供商，如 OpenAI 的 GPT 系列和 Anthropic 的 Claude 系列。每个模型的能力和参数各不相同，因此选择适合您应用需求的模型提供商。在 Dify 中使用之前，请从模型提供商的官方网站获取 API 密钥。

## Dify 的模型类型

Dify 将模型分为 4 种类型，各自用于不同用途：

1.  **系统推理模型：** 用于应用程序中执行聊天、名称生成和建议后续问题等任务。

    > 提供商包括 [OpenAI](https://platform.openai.com/account/api-keys)、[Azure OpenAI Service](https://azure.microsoft.com/en-us/products/ai-services/openai-service/)、[Anthropic](https://console.anthropic.com/account/keys)、Hugging Face Hub、Replicate、Xinference、OpenLLM、[科大讯飞星火](https://www.xfyun.cn/solutions/xinghuoAPI)、[文心一言](https://console.bce.baidu.com/qianfan/ais/console/applicationConsole/application)、[通义](https://dashscope.console.aliyun.com/api-key\_management?spm=a2c4g.11186623.0.0.3bbc424dxZms9k)、[Minimax](https://api.minimax.chat/user-center/basic-information/interface-key)、智谱(ChatGLM)、[Ollama](/en/development/models-integration/ollama)、[LocalAI](https://github.com/mudler/LocalAI)、[GPUStack](https://github.com/gpustack/gpustack)。
2.  **嵌入模型：** 用于在知识中嵌入分段文档和处理应用程序中的用户查询。

    > 提供商包括 OpenAI，智谱 (ChatGLM)，Jina AI([Jina Embeddings](https://jina.ai/embeddings/))。
3.  [重新排序模型](/en/learn-more/extended-reading/retrieval-augment/rerank)**：** 增强大型语言模型的搜索能力。

    > 提供商包括 Cohere，Jina AI([Jina Reranker](https://jina.ai/reranker))。
4.  **语音转文字模型：** 在对话应用中将口语转换为文字。

    > 提供商：OpenAI。

Dify 计划随着技术和用户需求的发展，增加更多的大型语言模型提供商。

## 托管模型试用服务

Dify 为云服务用户提供试用配额，以便试验不同模型。在试用期结束前设置好您的模型提供商，以确保应用程序的持续使用。

* OpenAI 托管模型试用：包括 200 次调用，如 GPT3.5-turbo、GPT3.5-turbo-16k 和 text-davinci-003 模型。

## 设置默认模型

Dify 会根据使用情况自动选择默认模型。您可以在 `设置 > 模型提供商` 中进行配置。

![](https://assets-docs.dify.ai/dify-enterprise-mintlify/en/guides/model-configuration/c5ac5f32deb020a8aae46045d3ee9c8d.png)

## 模型集成设置

在 Dify 的 `设置 > 模型提供商` 中选择您的模型。

![](https://assets-docs.dify.ai/dify-enterprise-mintlify/en/guides/model-configuration/b55cb7d0dcff7ef14cdf6e6aca207790.png)

模型提供商分为两类：

1. 专有模型：由 OpenAI 和 Anthropic 等提供商开发。
2. 托管模型：提供第三方模型，如 Hugging Face 和 Replicate。

这两种类别的集成方法有所不同。

**专有模型提供商：** Dify 连接到来自集成提供商的所有模型。在 Dify 中设置提供商的 API 密钥进行集成。

<Info>
Dify 使用 [PKCS1\_OAEP](https://pycryptodome.readthedocs.io/en/latest/src/cipher/oaep.html) 加密保护您的 API 密钥。每位用户（租户）都有独特的密钥对进行加密，确保您的 API 密钥保密。
</Info>

**托管模型提供商：** 单独集成第三方模型。

具体的集成方法未在此详细说明。

* [Hugging Face](/en/development/models-integration/hugging-face)
* [Replicate](/en/development/models-integration/replicate)
* [Xinference](/en/development/models-integration/xinference)
* [OpenLLM](/en/development/models-integration/openllm)

## 使用模型

配置完成后，这些模型即可用于应用程序使用。

![](https://assets-docs.dify.ai/dify-enterprise-mintlify/en/guides/model-configuration/6e74424124cfcfe224d3c083f90b54d2.png)

## 支持的提供商
Dify 开箱即用地支持以下模型提供商：

<table>
  <thead>
    <tr>
      <th>提供商</th>
      <th>大型语言模型</th>
      <th>文本嵌入</th>
      <th>重新排序</th>
      <th>语音转文字</th>
      <th>文本转语音</th>
    </tr>
  </thead>
  <tbody>
    <tr>
      <td>OpenAI</td>
      <td>✔️(🛠️)(👓)</td>
      <td>✔️</td>
      <td></td>
      <td>✔️</td>
      <td>✔️</td>
    </tr>
    <tr>
      <td>Anthropic</td>
      <td>✔️(🛠️)</td>
      <td></td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Azure OpenAI</td>
      <td>✔️(🛠️)(👓)</td>
      <td>✔️</td>
      <td></td>
      <td>✔️</td>
      <td>✔️</td>
    </tr>
    <tr>
      <td>Gemini</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Google Cloud</td>
      <td>✔️(👓)</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Nvidia API Catalog</td>
      <td>✔️</td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Nvidia NIM</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Nvidia Triton Inference Server</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>AWS Bedrock</td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>OpenRouter</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Cohere</td>
      <td>✔️</td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>together.ai</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Ollama</td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Mistral AI</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>groqcloud</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Replicate</td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Hugging Face</td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Xorbits inference</td>
      <td>✔️</td>
      <td>✔️</td>
      <td>✔️</td>
      <td>✔️</td>
      <td>✔️</td>
    </tr>
    <tr>
      <td>智谱 AI</td>
      <td>✔️(🛠️)(👓)</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>百川</td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Spark</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Minimax</td>
      <td>✔️(🛠️)</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>通义</td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td>✔️</td>
    </tr>
    <tr>
      <td>文心</td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Moonshot AI</td>
      <td>✔️(🛠️)</td>
      <td></td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>腾讯云</td>
      <td></td>
      <td></td>
      <td></td>
      <td>✔️</td>
      <td></td>
    </tr>
    <tr>
      <td>Stepfun</td>
      <td>✔️(🛠️)(👓)</td>
      <td></td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>火山引擎</td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>01.AI</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>360 智脑</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Azure AI Studio</td>
      <td>✔️</td>
      <td></td>
      <td>✔️</td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>deepseek</td>
      <td>✔️(🛠️)</td>
      <td></td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>腾讯混元</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>SILICONFLOW</td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Jina AI</td>
      <td></td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>ChatGLM</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Xinference</td>
      <td>✔️(🛠️)(👓)</td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>OpenLLM</td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>LocalAI</td>
      <td>✔️</td>
      <td>✔️</td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
    </tr>
    <tr>
      <td>OpenAI API-Compatible</td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td>✔️</td>
      <td></td>
    </tr>
    <tr>
      <td>PerfXCloud</td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Lepton AI</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>novita.ai</td>
      <td>✔️</td>
      <td></td>
      <td></td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>Amazon Sagemaker</td>
      <td>✔️</td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>文本嵌入推理</td>
      <td></td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>GPUStack</td>
      <td>✔️(🛠️)(👓)</td>
      <td>✔️</td>
      <td>✔️</td>
      <td></td>
      <td></td>
    </tr>
    <tr>
      <td>GPUStack</td>
      <td>✔️(🔧️)(👓)</td>
      <td>✔️</td>
      <td>✔️</td>
      <td>✔️</td>
      <td>✔️</td>
    </tr>
  </tbody>
</table>

其中 (🛠️) 表示“函数调用”，(👓) 表示“支持视觉”。

{/*
Contributing Section
DO NOT edit this section!
It will be automatically generated by the script.
*/}

---

[Edit this page](https://github.com/langgenius/dify-docs/edit/main/en/guides/model-configuration/readme.mdx) | [Report an issue](https://github.com/langgenius/dify-docs/issues/new?template=docs.yml)
```