j9九游会登录/ 大模型即服务平台 maas/ 最佳实践/ 基于deepseek api和ragflow快速构建ai助理
更新时间:2026-02-09 gmt 08:00

基于deepseek api和ragflow快速构建ai助理-j9九游会登录

ragflow是一款基于深度文档理解构建的开源rag引擎,专为处理复杂数据结构与生成高质量问答而设计。该引擎结合了先进的检索技术和大型语言模型(llm),支持多种数据格式(例如pdf、word、excel、图片等)的深度解析和知识提取。通过多路召回、融合重排序和可视化文本切片等功能,ragflow提供了精准、可解释且高效的信息处理能力,适用于从个人知识库到企业级智能客服的多元化应用场景。

modelarts studio(简称maas)服务将deepseek系列模型部署到平台,基于华为云昇腾云服务的全栈优化适配,可获得持平全球高端gpu部署模型的效果,提供稳定的生产级服务能力,满足业务商用部署需求,支持广大开发者在线体验或端外调用。

本文介绍如何使用ragflow调用部署在modelarts studio上的deepseek模型,快速构建ai助理。

计费说明

本文支持使用预置服务,或者将预置服务部署为我的服务进行调用。两种方式的计费如下:

  • 使用预置服务:调用预置服务时,将根据实际使用的tokens数量进行计费。详细信息,请参见推理服务计费项
  • 将预置服务部署为我的服务:调用我的服务时,会产生计算资源和存储资源的累计值计费。计费详情,请参见计算资源计费项

约束限制

该功能仅支持“西南-贵阳一”区域。

步骤一:下载并安装ragflow

您可以通过或下载并安装ragflow。

步骤二:maas模型api接入准备

  1. 创建api key。

    最多可创建30个密钥。每个密钥仅在创建时显示一次,请确保妥善保存。如果密钥丢失,无法找回,需要重新创建api key以获取新的访问密钥。

    1. 登录,在顶部导航栏中选择“西南-贵阳一”区域。
    2. 在左侧导航栏,选择管理与统计 > api key 管理
    3. “api key管理”页面,单击“创建api key”,填写标签和描述信息后,单击“确定”

      标签和描述信息在创建完成后,不支持修改。

      表1 创建api key参数说明

      参数

      说明

      标签

      自定义api key的标签。标签具有唯一性,不可重复。仅支持大小写英文字母、数字、下划线、中划线,长度范围为1~100个字符。

      描述

      自定义api key的描述,长度范围为1~100个字符。

    4. “您的密钥”对话框,复制密钥并保存至安全位置。
    5. 保存完毕后,单击“关闭”

      单击“关闭”后将无法再次查看密钥。

  2. 任选以下方式获取maas deepseek模型服务的api地址和模型名称。
    • 方式一:开通预置服务,获取api地址和模型名称。
      1. 在左侧导航栏,选择模型推理 > 在线推理
      2. “预置服务”页签,在目标服务右侧的“操作”列,单击“开通服务”
      3. 在开通预置模型服务对话框,按需勾选预置服务,勾选“我已阅读并同意上述说明,及《modelarts studio 服务声明》”,单击“一键开通”

        勾选目标预置服务后,会自动开通该服务下的所有模型版本。

      4. 在已开通的预置服务右侧,单击“操作”列下的“调用说明”,选择版本。
      5. “调用说明”页面,可以查看调用该服务需要的api地址和模型名称信息,在后续ragflow配置中使用。
    • 方式二:部署模型服务,获取api地址和模型名称。
      1. 在左侧导航栏,选择模型推理 > 在线推理
      2. “在线推理”页面,单击“我的服务”页签,在右上角单击“部署模型服务”,创建模型部署服务。具体操作,请参见部署模型服务
      3. “状态”“运行中”的模型服务右侧,单击操作列下的更多 > 调用说明
      4. “调用说明”页面,可以查看调用该服务需要的api地址和模型名称信息,在后续ragflow配置中使用。

步骤三:在ragflow中新增模型供应商

  1. 在ragflow平台右上角,单击用户头像,选择“模型提供商”,在“openai-api-compatible”卡片中单击“添加模型”
    图1 新增模型供应商
  2. “添加 llm”对话框,配置相关信息,然后单击“确定”
    表2 添加llm参数说明

    参数

    说明

    模型类型

    选择“chat”

    模型名称

    步骤二.2获取的模型名称。

    基础 url

    步骤二.2获取的基础api地址,需要去掉地址尾部的“/chat/completions”后填入。

    api-key

    步骤二.1创建的api key。

    最大token数

    基于模型支持的上下文长度填写,各预置j9九游会登录的服务支持的最大token数请参见表2 预置j9九游会登录的服务支持的最大token数

    表3 预置j9九游会登录的服务支持的最大token数

    预置服务名称

    上下文长度

    最大token数

    deepseek-r1-671b-32k(推荐)

    32k

    32768

    deepseek-v3-671b-32k(推荐)

    32k

    32768

    deepseek-r1-671b-8k

    8k

    8192

    deepseek-v3-671b-8k

    8k

    8192

    deepseek-v3-671b-4k

    4k

    4096

    deepseek-r1-671b-4k

    4k

    4096

  3. 修改系统模型设置。
    “模型供应商”页面右上角,单击“系统模型设置”,将“聊天模型”设置为已配置的maas模型。嵌入和rerank模型可使用系统预置。
    图2 修改系统模型设置

步骤四:在ragflow中使用接入的maas api进行知识库问答

  1. 创建知识库。
    1. 在ragflow顶部导航栏,单击“知识库”,在右上角单击“创建知识库”,输入名称,单击“确定”
      图3 创建知识库
    2. 在知识库左侧导航栏,单击“配置”,按需配置文档解析、文档切分等规则。
      图4 配置知识库
  2. 上传文档。
    1. 在知识库左侧导航栏,单击“数据集”,在右侧单击新增文件 > 本地文件,上传需要进行问答的知识文档,单击“确定”

    2. 上传完成后,在数据集列表中,单击目标数据集右侧的运行按钮。
      图5 运行数据集
  3. 创建助理。
    1. 在ragflow顶部导航栏,单击“聊天”
    2. “聊天”页面,单击“新建助理”,在“聊天配置”对话框,自定义助理姓名,选择已创建的知识库,然后单击“确定”
      图6 配置助理信息
  4. “聊天”页面,选择已创建的ai助理,单击图标,进行文档问答。

    模型会基于已上传知识库中的内容进行问题答复。

    图7 文档问答示例

相关文档

网站地图