maas基本概念-j9九游会登录

大模型

指参数量级超过百亿甚至万亿的超大规模人工智能模型，基于深度学习技术（如transformer架构），通过海量多模态数据训练，具备理解、推理、生成等类人能力。

推理

指按某种策略由已知判断推出新判断的思维过程。人工智能领域下，由机器模拟人类智能，使用构建的神经网络完成推理过程。

在线推理

在线推理是对每一个推理请求同步给出推理结果的在线服务（web service）。

资源池

modelarts提供的大规模计算集群，可应用于模型开发、训练和部署。支持公共资源池和专属资源池两种，分别为共享资源池和独享资源池。

modelarts standard默认提供公共资源池。modelarts standard专属资源池需单独创建，专属使用，不与其他用户共享。

限流

限流是防止服务过载的重要手段，通过控制单位时间内的请求数量来保护后端服务，确保服务的高可用性、稳定性和成本效益。

token

在自然语言处理中，token通常指将文本分割成的最小单位，例如词语、子词或字符等。在调用模型推理服务时，输入内容会被分词（tokenize），转化为模型可识别的token 。模型处理后会输出token，并将其转换为用户所需文本或其他内容载体。模型处理（包括输入、输出）的token数量会被作为模型推理服务用量的一个重要计量单位。

文本对话

基于自然语言处理（nlp）的大模型能力，实现与人类的多轮语言交互，具备上下文理解、意图识别与连贯回复生成功能。

深度思考

大模型在复杂问题中自主构建多步推理链，将表层问题拆解为可验证的逻辑单元，并在不确定条件下进行路径探索与评估的类认知涌现能力。

深度思考模型除了提问（question）和回答（answer）外，还会输出思维链内容（cot）。思维链（chain of thought，简称cot）是指模型在解决复杂问题时，能够生成一系列中间推理步骤的能力。这种能力使得模型不仅能够给出最终答案，还能展示出其推理过程，从而提高模型的可解释性和透明度。

图像理解

大模型通过计算机视觉（cv）技术解析图像内容，包括物体检测、场景分类、关系推理等任务。

图片生成

根据文本描述或条件输入，生成符合语义的高质量图像，支持风格化、编辑与超分辨率增强。

视频生成

视频生成模型具备出色的语义理解能力，可基于文本、图像或动作序列生成动态视频，需保证时序连贯性与物理合理性。

文本向量化

文本向量化模型将文本数据转换为数值向量，旨在捕捉文本的语义、语法或统计特征，使计算机能够处理和理解自然语言，适用于语义搜索、文本聚类等场景。

重排序

文本排序模型对召回的文档进行二次精准排序。创建重排序api提供灵活的数据项排序功能，确保最相关结果优先展示，从而提升用户体验和应用准确率。