基于deepseek api和dify快速构建网站智能客服-j9九游会登录

方案架构

图1 方案架构

1. 用户通过dify搭建的客服机器人界面提交问题请求。
2. dify将请求发送给maas deepseek。
3. maas deepseek大语言模型处理请求后将结果返回给dify。
4. dify将结果优化处理后通过客服机器人界面返回给用户。

计费说明

本文支持使用预置服务，或者将预置服务部署为我的服务进行调用。两种方式的计费如下：

• 使用预置服务：调用预置服务时，将根据实际使用的tokens数量进行计费。详细信息，请参见推理服务计费项。
• 将预置服务部署为我的服务：调用我的服务时，会产生计算资源和存储资源的累计值计费。计费详情，请参见计算资源计费项。

约束限制

仅“西南-贵阳一”区域支持本j9九游会登录的解决方案，所以部署dify平台的区域与maas体验模型的区域都必须在“西南-贵阳一”。

步骤一：基于云服务器单机部署dify平台

dify是一个能力丰富的开源ai应用开发平台，为大型语言模型（llm）应用的开发而设计。它巧妙地结合了后端即服务（backend as service）和llmops的理念，提供了一套易用的界面和api，加速了开发者构建可扩展的生成式ai应用的过程。

1. 基于flexus云服务器x实例快速部署dify平台。具体操作，请参见云服务器单机部署方式。

   部署dify平台的区域要与maas体验模型的区域一致，本文选择在“西南-贵阳一”区域部署dify平台。

2. 部署完成后，登录dify。

   首次登录需注册管理员账号，依次填写邮箱、账号、密码后，单击“设置”进行保存后，即可登录使用。

   图2 注册管理员账户
   

步骤二：获取maas平台的deepseek对接信息

1. 创建api key，用于调用maas deepseek模型服务时的鉴权认证。

   最多可创建30个密钥。每个密钥仅在创建时显示一次，请确保妥善保存。如果密钥丢失，无法找回，需要重新创建api key以获取新的访问密钥。

   1. 登录，在顶部导航栏中选择“西南-贵阳一”区域。
   2. 在左侧导航栏，选择“管理与统计 > api key 管理”。
   3. 在“api key管理”页面，单击“创建api key”，填写标签和描述信息后，单击“确定”。

      标签和描述信息在创建完成后，不支持修改。

      表1 创建api key参数说明

      参数	说明
      标签	自定义api key的标签。标签具有唯一性，不可重复。仅支持大小写英文字母、数字、下划线、中划线，长度范围为1~100个字符。
      描述	自定义api key的描述，长度范围为1~100个字符。

   4. 在“您的密钥”对话框，复制密钥并保存至安全位置。
   5. 保存完毕后，单击“关闭”。

      单击“关闭”后将无法再次查看密钥。

2. 任选以下方式获取maas deepseek模型服务的api地址和模型名称。
   • 方式一：开通预置服务，获取api地址和模型名称。
     1. 在左侧导航栏，选择“模型推理 > 在线推理”。
     2. 在“预置服务”页签，在目标服务右侧的“操作”列，单击“开通服务”。
     3. 在开通预置模型服务对话框，按需勾选预置服务，勾选“我已阅读并同意上述说明，及《modelarts studio 服务声明》”，单击“一键开通”。

        勾选目标预置服务后，会自动开通该服务下的所有模型版本。

     4. 在已开通的预置服务右侧，单击“操作”列下的“调用说明”，选择版本。
     5. 在“调用说明”页面，可以查看调用该服务需要的api地址和模型名称信息，在后续dify配置中使用。
   • 方式二：部署模型服务，获取api地址和模型名称。
     1. 在左侧导航栏，选择“模型推理 > 在线推理”。
     2. 在“在线推理”页面，单击“我的服务”页签，在右上角单击“部署模型服务”，创建模型部署服务。具体操作，请参见部署模型服务。
     3. 在“状态”为“运行中”的模型服务右侧，单击操作列下的“更多 > 调用说明”。
     4. 在“调用说明”页面，可以查看调用该服务需要的api地址和模型名称信息，在后续dify配置中使用。

步骤三：在dify平台对接deepseek模型服务

1. 在dify平台右上角，单击用户头像，选择“设置”。
2. 在“设置”页面左侧导航栏，单击“模型供应商”。
3. 在“模型供应商”页面，找到“openai-api-compatible”供应商并单击“添加模型”。
4. 在“添加 openai-api-compatible”对话框，参照下表配置相关参数，然后单击“保存”。
   图3 配置dify模型供应商
   

   表2 添加openai-api-compatible参数说明

   参数	说明
   模型类型	deepseek模型。本案例选择“llm”。
   模型名称	deepseek模型服务的模型名称。步骤2显示的模型名称。
   api key	deepseek模型服务的api key，用于调用maas deepseek模型服务时的鉴权认证。步骤1创建的贵阳一区域的api key。
   api endpoint url	deepseek模型服务的open api地址。步骤2获取的maas服务的基础api地址，需要去掉地址尾部的“/chat/completions”后填入。
   function calling	当前maas预置服务中仅qwen2.5-72b-32k-1128、qwen2.5-72b-instruct-1128、qwen2.5-7b-instruct-1128可以配置function calling为“tool call”，其余服务暂不支持。

   在模型列表可以查看接入的deepseek。

   图4 dify查看接入的deepseek
   

步骤四：在dify中创建客服机器人

如果想让智能客服能够基于企业内部的知识文档进行问答，可以在dify中创建一个知识库。dify能够协助进行数据的分段和清理工作。

dify提供两种索引方式：高质量和经济。两种索引的区别如下表所示。本文使用经济索引进行演示。

1. 在dify中创建知识库。
   1. 在dify平台左侧导航栏，单击“知识库”，选择“创建知识库”。
   2. 在“选择数据源”页面，上传知识文档（可以同时上传多个文本文件），“索引方式”选择“经济”，配置其他信息，单击“保存并处理”。
      图5 创建知识库
      
2. 创建并调试客服机器人。
   1. 在“工作室”页签，单击“创建空白应用”，“应用类型”选择“agent”，输入名称和描述，进入ai的编排页面。
   2. 进行ai人设设置，在左上角“提示词”处输入prompt ，设定该ai与用户交谈时的语气和风格。

      prompt，即智能客服机器人提示词，指导模型生成合适的回答。prompt示例：你是一个友好的智能客服助手，负责解答用户提出的关于产品的问题、处理订单、提供j9九游会登录的技术支持。当用户提出的问题你没有找到合适答案的时候，要回答不知道。

   3. 在“上下文”处添加上一步骤创建的知识库，让ai基于内部知识回答问题。
   4. 单击右下角功能的“管理”打开功能开关，配置开场白，即用户进入界面后ai的开场问候语，例如：您好，有什么可以帮到您的？
   5. 在“添加功能”处开启“下一步问题建议配置”功能，基于业务场景设置ai对于用户问题的指引，例如提供常见问题选项或引导用户进一步说明问题。
   6. 完成以上配置后，单击右上角“发布”菜单中“更新”保存设置。您可以在页面右侧窗口输入prompt进行效果调试。
      图6 创建与调试客服机器人
      
3. 将客服机器人嵌入网页前端页面。
   1. 在dify平台完成客服机器人的创建与调试后，单击“发布”，选择“嵌入网站”。
   2. 选择嵌入方式。本文以第二种“悬浮窗式”为例，将下方的代码复制到您网站或 标签中，更新网站页面，即可与该客服机器人进行对话。

      dify支持全屏界面式、悬浮窗式、浏览器插件式三种嵌入方式，请您根据需求选择合适的方式。

      图7 选择嵌入方式
      

常见问题

在modelarts studio（maas） 创建api key后需要等待多久才能生效？

maas api key在创建后不会立即生效，通常需要等待几分钟才能生效。