概览

#大模型定制训练平台简介

大模型定制训练平台是一个功能强大的大模型服务平台，致力于为开发者提供定制化的大模型解决方案。该平台汇集了行业内知名的大模型，通过轻量级的训练和丰富的训练方法，帮助开发者快速构建专属的大模型。

首先，该平台提供了丰富的大模型资源，包括星火认知大模型、llama2、chinese-alpaca-2-7b等知名大模型。这些模型经过大规模训练和验证，具备强大的性能和广泛的应用场景。开发者可以根据自身需求选择适合的大模型作为基础模型，从而节省了大量的训练时间和资源。

其次，该平台采用了轻量级的训练方法，使得开发者能够以较低的计算资源消耗进行模型训练。无论是个人开发者还是中小型企业，都可以轻松利用该平台进行大模型的训练和优化。同时，该平台还提供了丰富的训练方法，如Lora微调、全量更新训练等，帮助开发者进一步提升模型的性能和效果。

此外，大模型定制训练平台还提供了一系列的工具和服务，以支持开发者在模型训练过程中的需求。例如，平台提供了可视化界面，方便开发者对模型进行监控和调试；同时，还提供了自动化的超参数调优功能，帮助开发者找到最佳的模型配置。此外，平台还支持模型导出和应用部署等功能，使开发者能够将训练好的大模型应用到实际场景中。

#我们提供了哪些服务

#零代码大模型微调

平台允许用户在不需要编写任何代码的情况下，对大模型进行微调。降低了使用复杂深度学习模型的门槛，使得非专业人士也能轻松地进行模型优化和定制。

#即开即用的在线开发平台

在进行模型定制训练的过程中，一键开启在线Notebook实训平台，集成官方镜像免除环境安装困扰，链接澎湃云端算力，体验便捷的交互式编程。

#多元开放的大模型

覆盖星火认知大模型、llama2、chinese-alpaca-2-7b等知名大模型，用户可选择任意基础模型进行定制训练。

#高质量行业数据集

汇集行业的高质量公开数据集，无需标注数据，即可立刻开始训练你的专属行业大模型。

#快速开始

欢迎来到大模型定制训练平台！在这里你可以快速训练一个你的专属大模型。通过阅读下面的文档内容，前往定制你的专属大模型吧。

#如何开始

• 如果你是新手，想快速体验产品， 请参阅本文快速开始。快速开始包含模型定制流程介绍，可帮助你快速训练出你的专属大模型。

#一、创建数据集

用户可以通过平台提供的数据集方法，进行数据集的准备，并通过数据集管理模块进行数据集的上传，为后续训练等流程提供支撑。 >立即创建

#二、创建模型

用户可以在平台上选择不同基础大模型，采用不同的训练方法进行模型训练，不断调优迭代模型效果，从而提升模型效果。 >立即创建

#三、模型管理

用户可以集中管理创建的模型，并且使用上传测试集进行模型效果评估，也可以在线体验模型效果。 >模型管理

#四、服务管理

用户可以选择微调训练后的模型进行一键发布和部署；并且支持应用级的应用授权和管理，为服务调用保驾护航。 >服务管理

#使用教程

恭喜你！至此你已经成功学习完一个模型定制训练的完整使用流程。若你对平台功能想要更多地了解可具体参考对应的功能模块，同时平台提供了相应的教程来帮助您更好地理解模型的应用！

• 零代码微调
• Notebook在线编码微调训练

#模型微调训练详细教程

#零代码微调

#第一步：创建模型

进入模型管理模块，点击＞新建模型 ，填写模型基本信息，选择基础模型，平台支持星火大模型、以及其他第三方开源大模型。

此外，您也可以在【模型管理-预置模型库】中选择您想要微调的大模型，直接点击模型卡片上的零代码微调或notebook微调按钮即可。

#第二步：模型训练

创建完成后，进入模型详情页，即可查看刚才创建的模型训练版本，当基础模型为星火大模型，训练任务自动启动；当基础模型为开源大模型时，训练任务需要点击手动启动训练。

#第三步：微调效果评估

当基于星火大模型任务训练完成后，点击【效果评测】即可进行效果评测模块，平台提供人机协同的方式进行微调模型的效果评估。即平台会将用户创建版本时的测试集自动调用原模型和微调后模型，并将结果展示出来。您需要跟进专业经验进行判断，两者效果是否正确。并将原模型效果、优化后模型效果中符合要求的答案都勾选，系统将根据您勾选的答案进行效果计算， 提升效果(%)=优化后(正确/已选) - 优化前(正确/已选)。此外，基于模型为开源大模型时，版本训练完成后，点击【效果比对】也可以查看基于测试集的微调前后效果变化。

#Notebook在线编码微调训练

#第一步：创建模型

进入模型管理模块，点击[＞新建模型](，填写模型基本信息，选择基础模型，平台支持星火大模型、以及其他第三方开源大模型。

此外，您也可以在【模型管理-预置模型库】中选择您想要微调的大模型，直接点击模型卡片上的notebook微调按钮即可。

#第二步：在线编码开发

使用notebook微调方式时，完成模型创建后，打开在线notebook环境，进入左侧菜单“code”目录，打开训练脚本，进行在线微调的编码开发。

也可以打开“终端”，进行在线的微调测试跑通，进行在线的微调训练测试； 备注：因实际训练任务时间可能较长，因此在线notebook环境中，您可以进行微调训练的测试和开发，然后创建离线训练任务进行模型微调训练。

#第三步：模型训练

在线开发完成后，进入模型详情页，找到对应版本，点击【启动训练】，即可发起训练任务。

#第四步：微调效果评估

基于模型为开源大模型时，版本训练完成后，点击【效果比对】也可以查看基于测试集的微调前后效果变化。

此外，您也可以点击【在线体验】，输入问题，实时体验微调前后模型效果差异和变化。

#资源与服务管理

#服务部署

平台支持将模型部署为在线服务，同时在服务发布后对服务进行下线和版本更新等操作。

#服务部署上线

当模型训练成功后，可在模型详情页点击【发布为服务】按钮，选择要发布的模型版本和要绑定的应用，部署模型服务。因此，为确保部署成功，请您提前在在开放平台中创建应用。服务部署成功后，可在我的模型服务中选择相应的模型服务查看详细信息。

#服务下线

模型服务部署成功后，在模型详情页或我的模型服务中点击【下线服务】按钮，下线当前服务。

#服务更新

当模型服务需要进行版本更新时，可在我的模型服务中点击更新服务按钮，选择相应版本进行更新。

#服务调用

模型服务成功部署后，可在我的模型服务中查看服务调用所需的接口文档、地址、服务接口认证信息等。按接口文档的引导上传相应参数，即可实现成功调用。

注:基于开源大模型的模型服务调用享受限时免费体验，基于星火认知大模型的模型服务调用需要提前购买服务量。

#资源管理

#算力资源

模型训练需要消耗大量的算力资源，平台提供10小时的GPU gpu_core10_mem70_GPU40算力供用户免费体验。如您需要更多的算力支持，可在资源管理中，点击【申请算力资源】按钮，提交工单。我们的工作人员会及时与您联系，提供资源支持。

#调用服务

模型服务成功部署后，基于开源大模型的服务调用可限时免费体验。基于星火认知大模型的模型服务调用按tokens收费，需要您购买服务量；您可在服务管理中，选择基于星火认知大模型的服务，点击【立即购买】按钮进行购买。