体验模型服务-j9九游会登录
模型体验是指通过对模型进行实际操作、参数调整及效果观测,以验证其在特定场景下的功能表现、性能指标及适用范围的过程,其核心目的是确保模型在真实业务场景中能够稳定、高效地运行。本章介绍平台接入的第三方厂商模型体验流程。
前提条件
体验平台接入的第三方厂商模型服务前,需先进行鉴权设置。具体操作请参考对平台接入的第三方模型设置鉴权。
体验模型服务
- 进入ai原生应用引擎。
- 在ai原生应用引擎左侧导航栏选择“模型中心 > 我的模型服务”。
- 在“模型服务”页面,选择“我的模型服务 > 我接入的 > 供应商模型”。单击供应商名称。
- 在需要调测的模型对应的“操作”列下,单击“调测”。
- 在“模型调测”页面,可调测如下几种类型的模型服务:
- 文本对话
- 在“模型类型”区域选择“文本对话”,参数配置请参考表1。
表1 文本对话类型模型参数说明 参数
说明
模型服务
默认展示所选的第三方厂商模型服务。
您也可以在下拉列表切换以下模型服务:
- 模型服务商api(平台接入的第三方厂商模型服务)
- 预置模型api(平台预置的模型服务)
- 我的模型api(用户自主接入的模型服务、用户自主部署的模型服务)
- 我的路由策略
输出方式
可选非流式、流式。
- 非流式:调用大语言模型推理服务时,根据用户问题,获取大语言模型的回答,大语言模型完整生成回答后一次性返回。
- 流式:调用大语言模型推理服务时,根据用户问题,获取大语言模型的回答,逐个字词的快速返回模式,不需等待大语言模型生成完成。
输出最大token数
模型在单次推理或生成内容时,能够输出的token(模型处理文本的基本单位)数量的最大值。取值范围为100~32768。
温度
较高的数值会使输出更加随机,而较低的数值会使其更加集中和确定。建议该参数和“多样性”只设置1个。
多样性
影响输出文本的多样性,取值越大,生成文本的多样性越强。建议该参数和“温度”只设置1个。
存在惩罚
介于-2.0和2.0之间的数字。正值会尽量避免使用已出现过的词语,更倾向于生成新词语。
频率惩罚
介于-2.0和2.0之间的数字。正值会尽量避免使用常见的单词和短语,更倾向于生成较少见的单词。
内容安全监测配置
开关默认开启,可对输入及返回内容中的文本和图片进行安全监测,关闭后无法对涉政、涉黄、涉暴等相关敏感问题进行过滤。
- 在右侧“效果预览”区域,可通过以下两种方式进行模型调测。
- 在对话输入框输入测试语句后按enter键或单击
,查看模型响应结果。 - 单击“引用已有提示语模板”或单击输入框上方的“提示语模板”,在弹出的面板中选择“我创建的”、“我收藏的”或“平台预置的”提示语模板,然后按enter键或单击
,查看模型响应结果。
- 在对话输入框输入测试语句后按enter键或单击
- 在“模型类型”区域选择“文本对话”,参数配置请参考表1。
- 文本生图
- 在“模型类型”区域选择“文本生图”,参数配置请参考表2。
表2 文本生图类型模型参数说明 参数
说明
模型服务
默认展示所选的第三方厂商模型服务。
您也可以在下拉列表切换其他模型服务商api(平台接入的第三方厂商模型服务)。
输入内容
输入希望生成的图片内容。
风格
选择生成的图片风格,可选自然或超自然。
图片比例
默认1:1,无需配置。
内容安全监测配置
开关默认开启,可对输入及返回内容中的文本和图片进行安全监测,关闭后无法对涉政、涉黄、涉暴等相关敏感问题进行过滤。
图片质量
选择标准或高清。
选择图片尺寸
可选512*512、1024*1024。
选择图片数量
设置生成图片的数量,可选数量为1~10。
- 单击“生成图片”,在右侧“效果预览”区域查看生成的图片。
- 在“模型类型”区域选择“文本生图”,参数配置请参考表2。
- 图像理解
- 在“模型类型”区域选择“图像理解”,配置表3所示参数。
表3 图像理解类型模型参数说明 参数
说明
模型服务
默认展示所选的第三方厂商模型服务。
您也可以在下拉列表切换其他模型服务商api(平台接入的第三方厂商模型服务)、我的模型api(用户自主接入的模型服务)。
上传图片
单击
,可上传本地图片。支持上传jpg、png格式图片,且不能超过4mb。内容安全监测配置
开关默认开启,可对输入及返回内容中的文本和图片进行安全监测,关闭后无法对涉政、涉黄、涉暴等相关敏感问题进行过滤。
提示语内容
输入提示语,对图片进行提问,例如,图片里有什么?
- 单击“生成图像理解”,在右侧“效果预览”区域查看模型响应效果。
- 在“模型类型”区域选择“图像理解”,配置表3所示参数。
- 语音转文本
- 在“模型类型”区域选择“语音转文本”,配置表4所示参数。
表4 语音转文本类型模型参数说明 参数
说明
模型服务
默认展示所选的第三方厂商模型服务。
您也可以在下拉列表切换以下模型服务:
- 模型服务商api(平台接入的第三方厂商模型服务)
- 预置模型api(平台预置的模型服务)
上传音频
单击“添加音频”,上传音频文件。支持上传mp3、aac、wav格式文件,且不能超过25mb。
语言
在下拉列表选择转换成的语言种类,支持中文或英文,默认为音频文件原语言,可以做语言翻译任务。
输出格式
可选格式包括:
- json
- verbose_json
分段粒度
当输出格式为“verbose_json”时,需配置此参数。
可选包括:
- segment:较短的文本片段。
- word:单个的中文汉字或英文单词。
温度
较高的数值会使输出更加随机,而较低的数值会使其更加集中和确定。取值范围为0~1。
内容安全监测配置
开关默认开启,可对输入及返回内容中的文本和图片进行安全监测,关闭后无法对涉政、涉黄、涉暴等相关敏感问题进行过滤。
- 单击“生成语音转文本”,在右侧“效果预览”区域查看模型响应。
- 在“模型类型”区域选择“语音转文本”,配置表4所示参数。
- 文本向量化
- 在“模型类型”区域选择“文本向量化”,配置表5所示参数。
表5 文本向量化类型模型参数说明 参数
说明
模型服务
默认展示所选的第三方厂商模型服务。
您也可以在下拉列表切换以下模型服务:
- 模型服务商api(平台接入的第三方厂商模型服务)
- 预置模型api(平台预置的模型服务)
- 我的模型api(用户自主接入的模型服务、用户自主部署的模型服务)
请输入文本
输入待向量化的文本,可参照以下示例:
- 示例1:那是个快乐的人
- 示例2: ["那是个快乐的人", "那是个高兴的人", "那是个忧郁的人"]
内容安全监测配置
开关默认开启,可对输入及返回内容中的文本和图片进行安全监测,关闭后无法对涉政、涉黄、涉暴等相关敏感问题进行过滤。
- 单击“生成向量化”,在右侧“效果预览”区域查看模型响应效果。
- 在“模型类型”区域选择“文本向量化”,配置表5所示参数。
- 文本转语音
- 在“模型类型”区域选择“文本转语音”,配置表6所示参数。
表6 文本转语音类型模型参数说明 参数
说明
模型服务
默认展示所选的第三方厂商模型服务。
您也可以在下拉列表切换其他模型服务商api(平台接入的第三方厂商模型服务)。
音频格式
mp3
音色类型
在下拉列表选择音色类型,单击“试听”,可以试听音色。
速度
选择语速,取值范围为0.25~4,取值越大,语速越快。
请输入文本
输入待转为语音的文本。
内容安全监测配置
开关默认开启,可对输入及返回内容中的文本和图片进行安全监测,关闭后无法对涉政、涉黄、涉暴等相关敏感问题进行过滤。
- 单击“文本生成语音”,在右侧“效果预览”区域查看模型响应效果。
- 在“模型类型”区域选择“文本转语音”,配置表6所示参数。
- 文本排序
- 在“模型类型”区域选择“文本排序”,配置表7所示参数。
表7 文本排序类型模型参数说明 参数名称
参数说明
模型服务
默认展示所选的模型服务。
您也可以在下拉列表切换以下模型服务:
- 预置模型api(平台预置的模型服务)
- 我的模型api(用户自主接入的模型服务、用户自主部署的模型服务)
待排序文本
输入待排序文本。单击
添加文本,最多可以添加10条。被展示文本条数
文本排序完成后,展示的条数。取值范围为1~10。
我的问题
描述想要解决的问题。
内容安全监测配置
开关默认开启,可对输入内容中的文本和图片进行安全监测,关闭后无法对涉政、涉黄、涉暴等相关敏感问题进行过滤。
- 单击“开始排序”,在右侧“效果预览”区域查看模型响应效果。
- 在“模型类型”区域选择“文本排序”,配置表7所示参数。
- 文本对话
相关文档
相关文档
意见反馈
文档内容是否对您有帮助?
如您有其它疑问,您也可以通过华为云社区问答频道来与我们联系探讨