科大讯飞
  1. 大模型定制训练平台
科大讯飞
  • iOS SDK接入文档
  • 平台文档
    • 开发者新手指南
      • 平台简介
      • 快速指引
    • 服务协议
      • 讯飞开放平台用户服务协议
      • 讯飞星火认知大模型接口服务协议
      • 开发者应用创建规则
      • 讯飞开放平台隐私政策
      • 开发者用户个人信息保护合规指引
      • 开放平台SDK合规使用说明
      • SDK隐私政策总览
      • SDK合规使用说明总览
      • 科大讯飞儿童隐私保护政策
      • 讯飞开放平台SLA协议
      • 讯飞开放平台订购协议
    • 用户认证须知
      • 用户认证简介
      • 企业实名认证
      • 个人实名认证
      • 初创团队认证
      • 学生认证
      • 公益项目认证
      • 个人升级企业认证
    • 财务
      • 退款规则及退款流程
      • 财务相关说明
    • 账号
      • 账号注销与删除流程
      • 账号与应用说明
    • 会员
      • 会员权益详情
      • 会员时效说明
      • 会员试用版
  • 星火认知大模型
    • SparkDesk
      • SparkDesk使用指南
      • SparkDesk隐私政策
      • SparkDesk用户协议
    • 星火认知大模型
      • 服务说明
      • 通用鉴权URL生成说明
      • Spark Android SDK接入文档
      • Linux SDK接入文档
      • Windows SDK接入文档
      • 讯飞星火认知大模型隐私政策
      • Web 文档
        • 星火认知大模型Web API文档
        • 星火大模型V1.5
        • 星火大模型V2
        • 星火大模型V3
    • 星火知识库
      • 星火知识库 API 文档
        • 星火知识库 API 文档
        • 文档问答
        • 文档上传
        • 文档总结
        • 获取文档总结/概要信息
      • 新版Embedding API文档
    • 图片生成
      • 图片生成 API
    • 图片理解
      • 图片理解 API
    • 大模型定制训练平台
      • 产品使用说明
      • 星火微调服务Web API文档文档
        • 星火微调服务Web API文档文档
        • V1.5版本
        • 微调模型
  • 语音识别
    • 语音唤醒(新版)
    • 语音听写
      • Android SDK 文档
      • iOS SDK 文档
      • Linux SDK 文档
      • Windows SDK 文档
      • Java SDK 文档
      • 音频文件格式说明
      • 语音听写服务说明
      • 语音听写(流式版)SDK隐私政策
      • 语音听写(流式版)SDK合规使用说明
      • HarmonyOS SDK 文档
      • 语音听写自训练平台
      • 语音听写(流式版)WebAPI
    • 语音转写
      • 语音转写服务说明
      • 语音转写 服务协议
      • WebAPI 文档
        • 语音转写 API 文档
        • 文件上传
        • 查询结果
    • 极速语音转写
      • 极速语音转写 API 文档
      • 小文件上传
      • 初始化分块信息
      • 分块上传
      • 分块上传完成
      • 创建任务
      • 查询任务
    • 实时语音转写
      • 实时语音转写服务说明
      • 实时语音转写 API
    • 离线语音听写
      • Android SDK 文档
      • 离线语音听写服务说明
      • 离线语音听写SDK隐私政策
      • 离线语音听写SDK合规使用说明
    • 离线语音听写(新版)
      • Android SDK 文档
      • 离线语音听写隐私政策
    • 语音唤醒
      • Android SDK 文档
      • iOS SDK 文档
      • Linux SDK 文档
      • Windows SDK 文档
      • 语音唤醒服务说明
      • 离线唤醒SDK隐私政策
    • 语音唤醒(新版)
      • Android SDK 文档
      • Linux SDK 文档
      • 语音唤醒隐私政策
    • 离线命令词识别
      • Android SDK 文档
      • iOS SDK 文档
      • Linux SDK 文档
      • Windows SDK 文档
      • 离线命令词识别服务说明
      • 离线命令词识别SDK隐私政策
      • 离线命令词SDK合规使用说明
  • 语音合成
    • 在线语音合成
      • Android SDK 文档
      • iOS SDK 文档
      • Linux SDK 文档
      • Windows SDK 文档
      • Java SDK 文档
      • 服务协议
      • 在线语音合成服务说明
      • 发音人自训练平台使用指南
      • WebAPI
    • 长文本语音合成
      • 长文本语音合成 API 文档
      • 创建任务
      • 查询任务
    • 离线语音合成
      • Android SDK 文档
      • iOS SDK 文档
      • Linux SDK 文档
      • Windows SDK 文档
      • 服务协议
      • 离线语音合成服务说明
    • AI虚拟人技术
      • Web SDK 2.0 接入指南
      • Android-SDK
      • iOS-SDK
      • Web API 文档
        • AI虚拟人技术 API 文档
        • 音频驱动
        • 启动
        • 文本驱动
        • 停止
        • 心跳
  • 语音扩展
    • 语音评测(流式版)
      • 接口说明
      • Android SDK 文档
      • iOS SDK 文档
      • Linux SDK 文档
      • Windows SDK 文档
      • 语音评测SDK隐私政策
      • 语音评测(流式版)API
    • 语音评测suntone
      • 语音评测suntone API
    • 离线变声
      • Android SDK 集成文档
    • 音色转换
      • 音色转换 API
    • 性别年龄识别
      • 性别能力识别 API
    • 声纹识别
      • Web API 文档
      • 声纹识别 API
    • 歌曲识别
      • 歌曲识别 API
    • 歌曲识别 ACRCloud
      • 接口说明
      • 哼唱识别
      • 音乐识别
    • AI 客服中间件
      • 接口说明
      • 获取token
      • 查询配置
      • 直接外呼
      • 创建外呼任务
      • 提交任务数据
      • 启动外呼任务
      • 暂停外呼任务
      • 删除外呼任务
      • 查询任务
      • 结果数据推送
      • 话单推送
      • 录音推送
      • 会话推送
      • 呼入话术上下文动态数据获取
  • 自然语言处理
    • 文本纠错
      • 文本纠错 API
      • 黑白名单上传
    • 公文校队
      • 公文校对 API
    • 文本合规
      • 文本合规 API
      • 新增黑名单词库
      • 根据lib_id添加黑名单词条
      • 根据lib_id查询词条明细
      • 根据lib_id删除词条
      • 根据appid查询账户下所有词库
      • 根据lib_id删除词库
      • 创建白名单库
      • 根据lib_id添加放行词条
      • 根据lib_id查询词条详情
      • 根据lib_id删除词条信息
      • 根据appid查询所有词库列表
      • 根据lib_id删除词库
    • 图片合规
      • 图片合规 API
    • 音频合规
      • 音频合规 API
    • 视频合规
      • 视频合规 API
    • 文本改写
      • 文本改写 API
    • 机器翻译
      • 机器翻译(新) API
    • 机器翻译niutrans
      • 机器翻译niutrans API
    • 同声传译
      • 同声传译 API 
    • 离线分词
      • Android SDK 文档
  • 人脸识别
    • 人脸验证与检索
      • Android SDK 文档
      • iOS SDK 文档
      • 人脸验证与检索SDK隐私政策
      • 人脸验证与检索SDK合规使用说明
    • 人脸对比
      • 人脸比对 API
    • 人脸比对sensetime
      • 人脸比对sensetime API
    • 人脸水印照比对
      • 人脸水印照比对 API
    • 静默活体检测
      • 静默活体检测 API
    • 配合式活体检测
      • 配合式活体检测 API
    • 静默活体检测sensetime
      • 静默活体检测sensetime API
    • 人脸检测和属性分析
      • 人脸检测和属性分析 API
    • 人脸特征分析tuputech
      • 年龄 API
      • 颜值 API
      • 性别 API
      • 表情 API
  • 文字识别
    • 通用文字识别
      • 通用文字识别 API
    • 通用文字识别
      • 通用文字识别 intsig API
    • 手写文字识别
      • 手写文字识别 API
    • 印刷文字识别
      • 印刷文字识别 API
    • 印刷文字识别(多语种)
      • 印刷文字识别(多语种)
    • 印刷文字识别(多语种)intsig
      • 印刷文字识别(多语种)intsig API
    • 图片文档还原
      • 图片文档还原 API 
    • 国内通用票据识别
      • 接口说明
      • 国内通用票据识别 API
    • 离线OCR
      • Android SDK 文档
    • 名片识别 intsig
      • 名片识别 API
    • 身份证识别 intsig
      • 身份证识别 intsig API
    • 银行卡识别 intsig
      • 银行卡识别 API
    • 营业执照识别 intsig
      • 营业执照识别 intsig API
    • 增值税发票识别 intsig
      • 增值税发票识别 intsig API
    • 拍照速算识别
      • 接口说明
      • 拍照速算识别 API
    • 公式识别
      • 接口说明
      • 公式识别 API
    • 指尖文字识别
      • 接口说明
      • 指尖文字识别 API
    • 身份证识别
      • 接口说明
      • 身份证识别 API
    • 增值税发票识别
      • 接口说明
      • 增值税发票识别 API
    • 营业执照识别
      • 接口说明
      • 营业执照识别 API
    • 火车票识别
      • 接口说明
      • 火车票识别 API
    • 出租车发票识别
      • 接口说明
      • 出租车发票识别 API
  • 图像识别
    • 场景识别
      • 场景识别 API
    • 物体识别
      • 物体识别 API
    • 场所识别
      • 场所识别 API 文档
  • 基础服务
    • 云服务器 CVM
      • 云服务器 CVM 产品简介
      • 快速入门
      • 服务协议
  • 解决方案
    • 签到解决方案
      • SaaS操作文档
    • 智能硬件通用方案
      • 智能硬件通用方案说明
      • 麦克风阵列Android SDK
      • 麦克风阵列Linux SDK
      • 双麦阵列设计参考
      • 麦克风阵列录音要求
      • 语音唤醒Android SDK
      • 语音唤醒Linux SDK
      • 离线声纹Android SDK
      • 离线声纹Linux SDK
  • MSC API 文档
    • Android
      • 文件列表
      • SDK初始化
      • 语音识别(Recognizer)
      • 语音合成(Synthesizer)
      • 语音评测(Evaluator)
      • 语音唤醒(Wakeuper)
      • 声纹人脸(Verifier)
      • Android 常量字段值
      • 基础类
    • IOS
      • 文件列表
      • SDK初始化
      • 语音识别(Recognizer)
      • 语音合成(Synthesizer)
      • 语音评测(Evaluator)
      • 语音唤醒(Wakeuper)
      • 声纹人脸(Verifier)
      • 基础类
    • Windows&Linux
      • 文件列表
      • API 文档
    • Java
      • 所有类列表
      • SDK初始化
      • 语音识别(Recognizer)
      • 语音合成(Synthesizer)
      • 常量字段值
      • 基础类
  1. 大模型定制训练平台

产品使用说明

概览#

#大模型定制训练平台简介#

大模型定制训练平台是一个功能强大的大模型服务平台,致力于为开发者提供定制化的大模型解决方案。该平台汇集了行业内知名的大模型,通过轻量级的训练和丰富的训练方法,帮助开发者快速构建专属的大模型。
首先,该平台提供了丰富的大模型资源,包括星火认知大模型、llama2、chinese-alpaca-2-7b等知名大模型。这些模型经过大规模训练和验证,具备强大的性能和广泛的应用场景。开发者可以根据自身需求选择适合的大模型作为基础模型,从而节省了大量的训练时间和资源。
其次,该平台采用了轻量级的训练方法,使得开发者能够以较低的计算资源消耗进行模型训练。无论是个人开发者还是中小型企业,都可以轻松利用该平台进行大模型的训练和优化。同时,该平台还提供了丰富的训练方法,如Lora微调、全量更新训练等,帮助开发者进一步提升模型的性能和效果。
此外,大模型定制训练平台还提供了一系列的工具和服务,以支持开发者在模型训练过程中的需求。例如,平台提供了可视化界面,方便开发者对模型进行监控和调试;同时,还提供了自动化的超参数调优功能,帮助开发者找到最佳的模型配置。此外,平台还支持模型导出和应用部署等功能,使开发者能够将训练好的大模型应用到实际场景中。

#我们提供了哪些服务#

#零代码大模型微调#

平台允许用户在不需要编写任何代码的情况下,对大模型进行微调。降低了使用复杂深度学习模型的门槛,使得非专业人士也能轻松地进行模型优化和定制。

#即开即用的在线开发平台#

在进行模型定制训练的过程中,一键开启在线Notebook实训平台,集成官方镜像免除环境安装困扰,链接澎湃云端算力,体验便捷的交互式编程。

#多元开放的大模型#

覆盖星火认知大模型、llama2、chinese-alpaca-2-7b等知名大模型,用户可选择任意基础模型进行定制训练。

#高质量行业数据集#

汇集行业的高质量公开数据集,无需标注数据,即可立刻开始训练你的专属行业大模型。

#快速开始#

欢迎来到大模型定制训练平台!在这里你可以快速训练一个你的专属大模型。通过阅读下面的文档内容,前往定制你的专属大模型吧。

#如何开始#

如果你是新手,想快速体验产品, 请参阅本文快速开始。快速开始包含模型定制流程介绍,可帮助你快速训练出你的专属大模型。

#一、创建数据集#

用户可以通过平台提供的数据集方法,进行数据集的准备,并通过数据集管理模块进行数据集的上传,为后续训练等流程提供支撑。 >立即创建
新建数据集

#二、创建模型#

用户可以在平台上选择不同基础大模型,采用不同的训练方法进行模型训练,不断调优迭代模型效果,从而提升模型效果。 >立即创建
创建模型

#三、模型管理#

用户可以集中管理创建的模型,并且使用上传测试集进行模型效果评估,也可以在线体验模型效果。 >模型管理
模型管理

#四、服务管理#

用户可以选择微调训练后的模型进行一键发布和部署;并且支持应用级的应用授权和管理,为服务调用保驾护航。 >服务管理
服务管理

#使用教程#

恭喜你!至此你已经成功学习完一个模型定制训练的完整使用流程。若你对平台功能想要更多地了解可具体参考对应的功能模块,同时平台提供了相应的教程来帮助您更好地理解模型的应用!
零代码微调
Notebook在线编码微调训练

#模型微调训练详细教程#

#零代码微调#

#第一步:创建模型#

进入模型管理模块,点击>新建模型 ,填写模型基本信息,选择基础模型,平台支持星火大模型、以及其他第三方开源大模型。
创建模型
此外,您也可以在【模型管理-预置模型库】中选择您想要微调的大模型,直接点击模型卡片上的零代码微调或notebook微调按钮即可。

#第二步:模型训练#

创建完成后,进入模型详情页,即可查看刚才创建的模型训练版本,当基础模型为星火大模型,训练任务自动启动;当基础模型为开源大模型时,训练任务需要点击手动启动训练。
模型训练

#第三步:微调效果评估#

当基于星火大模型任务训练完成后,点击【效果评测】即可进行效果评测模块,平台提供人机协同的方式进行微调模型的效果评估。即平台会将用户创建版本时的测试集自动调用原模型和微调后模型,并将结果展示出来。您需要跟进专业经验进行判断,两者效果是否正确。并将原模型效果、优化后模型效果中符合要求的答案都勾选,系统将根据您勾选的答案进行效果计算, 提升效果(%)=优化后(正确/已选) - 优化前(正确/已选)。此外,基于模型为开源大模型时,版本训练完成后,点击【效果比对】也可以查看基于测试集的微调前后效果变化。
模型训练

#Notebook在线编码微调训练#

#第一步:创建模型#

进入模型管理模块,点击[>新建模型](,填写模型基本信息,选择基础模型,平台支持星火大模型、以及其他第三方开源大模型。
新建notebook训练的模型
此外,您也可以在【模型管理-预置模型库】中选择您想要微调的大模型,直接点击模型卡片上的notebook微调按钮即可。

#第二步:在线编码开发#

使用notebook微调方式时,完成模型创建后,打开在线notebook环境,进入左侧菜单“code”目录,打开训练脚本,进行在线微调的编码开发。
也可以打开“终端”,进行在线的微调测试跑通,进行在线的微调训练测试; 备注:因实际训练任务时间可能较长,因此在线notebook环境中,您可以进行微调训练的测试和开发,然后创建离线训练任务进行模型微调训练。
启动notebook训练

#第三步:模型训练#

在线开发完成后,进入模型详情页,找到对应版本,点击【启动训练】,即可发起训练任务。新建notebook训练的模型

#第四步:微调效果评估#

基于模型为开源大模型时,版本训练完成后,点击【效果比对】也可以查看基于测试集的微调前后效果变化。
此外,您也可以点击【在线体验】,输入问题,实时体验微调前后模型效果差异和变化。
效果对比

#资源与服务管理#

#服务部署#

平台支持将模型部署为在线服务,同时在服务发布后对服务进行下线和版本更新等操作。

#服务部署上线#

当模型训练成功后,可在模型详情页点击【发布为服务】按钮,选择要发布的模型版本和要绑定的应用,部署模型服务。因此,为确保部署成功,请您提前在在开放平台中创建应用。服务部署成功后,可在我的模型服务中选择相应的模型服务查看详细信息。
模型训练

#服务下线#

模型服务部署成功后,在模型详情页或我的模型服务中点击【下线服务】按钮,下线当前服务。

#服务更新#

当模型服务需要进行版本更新时,可在我的模型服务中点击更新服务按钮,选择相应版本进行更新。

#服务调用#

模型服务成功部署后,可在我的模型服务中查看服务调用所需的接口文档、地址、服务接口认证信息等。按接口文档的引导上传相应参数,即可实现成功调用。
注:基于开源大模型的模型服务调用享受限时免费体验,基于星火认知大模型的模型服务调用需要提前购买服务量。

#资源管理#

#算力资源#

模型训练需要消耗大量的算力资源,平台提供10小时的GPU gpu_core10_mem70_GPU40算力供用户免费体验。如您需要更多的算力支持,可在资源管理中,点击【申请算力资源】按钮,提交工单。我们的工作人员会及时与您联系,提供资源支持。
资源管理

#调用服务#

模型服务成功部署后,基于开源大模型的服务调用可限时免费体验。基于星火认知大模型的模型服务调用按tokens收费,需要您购买服务量;您可在服务管理中,选择基于星火认知大模型的服务,点击【立即购买】按钮进行购买。
上一页
图片理解 API
下一页
星火微调服务Web API文档文档
Built with