引言

想要让AI助手更加智能、精准？HunYuan-Large模型精调是关键！本文将带你领略从数据准备到模型部署的全流程，助你轻松掌握HunYuan-Large模型的精调技巧，打造专属智能助手。

一、总览

我们选取了约5000条汽车领域的实体抽取数据（car_train数据集），对HunYuan-Large-Instruct模型进行有监督精调。看看精调前后的对比吧！

精调前：

“请提取下列文章中包含的车系：此外，再配上一幅多辐式的轮毂设计，为该车带来了不错的运动感。”

精调后：

“无”

是不是很神奇？接下来，让我们详细了解一下这个精调过程。

二、前置准备

（一）数据集

平台已预置car_train数据集，可直接使用。若需精调自有数据集，请自行上传并调整数据清洗配置、训练超参等。

（二）算力资源

HunYuan-Large模型精调需GPU算力资源，推荐机型为HCCPNV6。根据任务需求，选择合适的算力资源。

（三）文件存储

模型精调依赖CFS存储数据集和模型checkpoint。推荐使用Turbo标准型存储，确保数据传输速度。

三、实践教程

（一）数据准备

创建数据构建Notebook实例，下载并解析car_train数据集，修改输入数据路径。

（二）模型精调训练

启动训练任务，设置存储路径，调优参数配置建议，观察训练状态。

（三）精调后模型部署

部署服务，调用服务接口，体验智能助手的强大功能。

四、附录

（一）使用Tensorboard可视化训练过程

观察学习率、loss等变化曲线，优化训练效果。

（二）训练调参指引

超参数调整建议、训练数据建议等，助你打造高效模型。

（三）推理镜像特性说明

内置angel-vllm(2.1)推理镜像，NF4量化、Lookahead并行解码等亮点特性，提升推理性能。

通过上述步骤及相关说明，你将能够全面掌握HunYuan-Large模型的精调及后续应用操作。快来试试吧，打造属于你的智能助手！