灵炼训练引擎正式支持NVIDIA NeMo,企业级模型训练再升级!

汉得企业级大模型训练与管理平台(中文名灵炼,英文名H-AI TrainHub,以下简称灵炼),旨在提供企业级一站式模型训练与管理平台,覆盖数据集管理、精调、推理部署与评测等端到端能力,专注性能与安全保障,全面支撑企业AI模型开发与落地。
本文将带你快速掌握使用NVIDIA NeMo AutoModel引擎做微调全流程:从模型训练到模型发布,再到后续部署与应用,帮助你高效构建企业级专属AI能力。
汉得灵炼
训练再升级!灵炼微调引擎正式接入NVIDIA NeMo AutoModel,让大模型微调更快、更省、更简单。
✅ 极速训练:基于NVIDIA NeMo高性能训练内核与分布式并行技术,大幅提升训练吞吐,在相同算力下完成更多任务。
✅ 开箱即用:原生兼容HuggingFace模型生态,无需模型转换、无需额外适配,新模型发布即可快速接入。
✅ 场景覆盖:支持继续预训练、SFT精调及 LoRA微调,兼容Alpaca、ShareGPT、OpenAI Role等主流数据格式,满足领域知识注入与指令对齐需求。
✅ 弹性扩展:同一套训练配置即可从单卡平滑扩展至千卡集群,无需重构代码,轻松适配不同规模算力环境。
✅ 生态贯通:模型保持原生HuggingFace格式,支持权重自动合并与一键发布,实现从训练、微调到部署上线的完整闭环。
一、快速入门
新建模型微调-使用NVIDIA NeMo AutoModel引擎
模型训练/模型微调:新建微调任务。
首先配置基本信息&模型及数据。
- 微调类型:按需选择微调类型。
○ 继续预训练:强化领域知识理解
○ SFT精调:提升指令遵循与理解能力 - 基础模型:选择目标模型及版本。
- 数据格式:选择对应数据结构。
- 训练集来源:灵活适配不同数据规模与业务需求。
○ 平台数据集(推荐)
○ 本地存储路径(适用于大规模数据)
○ 手工上传(≤30MB)
其次设置算力,微调相关配置,并点击【确认】完成创建。
- 算力集群:选择执行节点。
- 调度方式:通过手工调度,精细化控制资源,NVIDIA NeMo AutoModel引擎暂不支持自动调度。
- 训练引擎:选择NeMo/26.04。
- 微调方法:LoRA/全参微调。
- 参数配置:平台预置默认参数配置,同时支持学习率、Epoch、序列长度、优化器、缩放比例等关键参数自定义,以及分布式策略等高级参数调优能力。

二、开始训练
创建任务后,点击【开始训练】,即可启动使用NVIDIA NeMo AutoModel引擎执行模型微调流程。平台将自动完成资源调度、训练执行、状态管理等,全流程自动化,降低操作复杂度。
三、查看训练操作记录
操作记录完整记录微调过程中的各阶段信息,实现全过程可观测与问题快速定位。新增数据集预处理阶段,适配NVIDIA NeMo AutoModel引擎执行继续预训练前置处理数据集需求。
四、评估报告
训练完成后自动生成评估报告,支持查看Loss曲线变化,用数据驱动模型优化决策。
五、发布模型
微调完成后,可将模型发布至模型仓库,支持后续部署与复用,构建企业级模型资产体系。点击【发布】,完成以下配置:
-
Checkpoint选择:保持默认或指定训练结果。默认将使用NVIDIA NeMo AutoModel引擎微调后最优的Checkpoint。
-
是否自动合并:
○ 合并基础模型生成完整模型
○ 或仅发布 LoRA Adapter -
发布方式:
○ 新版本:基于已有模型迭代
○ 新模型:创建全新模型资产

六、查看发布操作记录
发布过程中,也可通过操作记录查看:发布状态、执行日志、合并进度等,全流程透明可控。
七、查看发布结果
发布完成后,可在模型仓库查看,实现模型资产沉淀与复用:
新版本:在原模型下查看新增版本。
新模型:在模型列表中查看。
以上内容主要讲解了如何通过灵炼使用NVIDIA NeMo AutoModel引擎进行模型微调、过程监控、效果评估、模型发布的相关能力,打造完整的模型训练与应用闭环。
更多功能细节可参阅焱牛开放平台(open.hand-china.com)文档。未来我们将持续迭代,为您带来更多AI模型开发与落地体验,期待与您交流!
更多推荐




所有评论(0)