讯飞星辰

讯飞星辰MaaS是什么

讯飞星辰MaaS是科大讯飞推出的AI大模型定制微调平台，创建你的专属定制大模型。讯飞星辰MaaS汇集20多个行业内知名的优质模型，如星火大模型、Llama3、DeepSeek等，支持零代码微调，降低大模型精调门槛。讯飞星辰MaaS围绕数据管理、模型微调、评估、托管和推理服务，提供大模型全生命周期管理，覆盖内容创作、代码、逻辑推理等多场景应用。

讯飞星辰MaaS的主要功能

• 模型微调和部署
  • 模型集成：提供20+行业内知名的优质模型，如讯飞星火、Llama3、SD-XL等。
  • 开源模型精调：引入书生系列、Qwen2.5系列等多个开源模型的精调。
  • 新增模型：新增Spark Max、Spark Mini、Spark Tiny等星火自研模型，适应不同业务场景需求。

• 数据集构建和管理
  • 数据工程能力：基于问答抽取、数据增强、prompt工程等维度出发，构建全方位的数据工程能力。
  • 数据集格式支持：支持多种数据集格式，包括ShareGPT、Alpaca等，实现主流数据集格式的支持。
  • 自动拆分测试集：平台支持从训练集中自动拆分出一定比例的数据作为测试集，在训练完成后进行验证，展示微调效果。
  • 批量推理：支持最多10个模型同时在线批量推理，大大提高数据处理的效率，适用于需要处理大量数据的场景。

• 功能特性升级
  • 兼容性与迁移支持：兼容OpenAI协议，依赖OpenAI API的企业能无缝迁移到国产大模型，实现技术过渡。
  • 功能增强与扩展：function_call精调训练，调用外部工具，增强大语言模型的能力。
  • 模型训练与评估：支持展示Loss曲线，实时监控模型训练效果，动态调整训练策略。裁判员打分模型评判模型效果的好坏。
  • 高级参数配置：支持分词长度、Lora Merge，UnSloth等特性配置。
• API矩阵：构建丰富且高性价比的API矩阵，提供不同版本的API服务，如Spark Pro、Ultra和Max版本，支持不同长度的上下文和Batch版本API。