跳到主要内容

配置模型 API 密钥 (Configure Model API Key)

RAGFlow 与在线 AI 模型进行交互需要 API 密钥 (API Key)。本指南提供了在 RAGFlow 中设置模型 API 密钥的信息。

获取模型 API 密钥

RAGFlow 支持大多数主流的大语言模型 (Large Language Model, LLM)。有关支持模型的完整列表，请参见支持的模型。您需要在线申请您的模型 API 密钥。请注意，大多数 LLM 提供商会向新创建的账户提供试用额度（这会在几个月后过期）或促销性质的免费配额。

注意

如果您发现您所使用的在线 LLM 不在列表中，请不要气馁。该列表正在不断扩大，您可以向我们提交功能请求 (Feature Request)！或者，如果您有自定义或本地部署的模型，您可以使用 Ollama、Xinference 或 LocalAI 将它们绑定到 RAGFlow。

配置模型 API 密钥

您有两种方式来配置模型 API 密钥：

  • 在启动 RAGFlow 之前，在 service_conf.yaml.template 中进行配置。
  • 登录 RAGFlow 后，在模型服务商 (Model providers) 页面上进行配置。

在启动 RAGFlow 之前配置模型 API 密钥

  1. 导航到 ./docker/ragflow 目录。
  2. 找到 user_default_llm 条目：
    • 用您选择的 LLM 更新 factory。
    • 用您的 API 密钥更新 api_key。
    • 如果您使用代理连接到远程服务，请更新 base_url。
  3. 重启系统以使您的更改生效。
  4. 登录 RAGFlow。
    登录 RAGFlow 后，您会发现您选择的模型出现在**模型服务商 (Model providers)页面的已添加模型 (Added models)**下。

登录 RAGFlow 后配置模型 API 密钥

警告

登录 RAGFlow 后，通过 service_conf.yaml.template 文件配置模型 API 密钥将不再生效。

登录 RAGFlow 后，您只能在**模型服务商 (Model providers)**页面上配置 API 密钥：

  1. 点击页面右上角的头像/Logo > 模型服务商 (Model providers)。
  2. 在待添加模型 (Models to be added)下找到您的模型卡片，然后点击添加模型。
  3. 粘贴您的模型 API 密钥。
  4. 如果您使用代理连接到远程服务，请填写您的基准 URL (Base URL)。
  5. 点击 确定 (OK) 以确认您的更改。