从零到一：掌握生产级LLM参数高效微调（PEFT）实战

我要预订

咨询电话：027-5111 9925 , 027-5111 9926手机：18971071887邮箱：Service@mingketang.com

课程背景

提示工程和RAG能解决大部分问题，但当需要模型学习特定风格、领域知识或复杂行为时，微调成为不可替代的技术。然而，全量微调成本高昂、数据需求大。参数高效微调（PEFT）如LoRA，让普通开发者也能在消费级GPU上微调大模型。本课程系统讲解PEFT原理、数据工程、训练技巧与部署评估，帮助学员打造专属领域模型。

课程收益

深入理解全量微调与PEFT的区别，精通LoRA、QLoRA原理

能够独立构建高质量指令微调数据集（Alpaca格式）

熟练使用Hugging Face生态（Transformers、PEFT、TRL）在云端GPU上完成微调

掌握超参数调试、模型评估（定性+定量，LLM-as-a-Judge）

具备微调模型合并、量化与部署能力

了解微调的持续迭代与数据飞轮

课程特色

低资源友好：使用QLoRA，单张24GB GPU可微调13B模型

数据工程核心：强调数据质量对微调效果的决定性作用

对比评估：基础模型 vs 微调模型的可视化比较

生产视角：模型合并、部署、持续迭代全流程

贯通式毕业项目：打造一个行业专属问答专家

课程对象

希望定制垂直领域LLM的AI工程师、研究员

有RAG/Agent基础，需要进一步优化模型行为的开发者

技术决策者需评估微调投入产出比

前置知识：Python编程、PyTorch基础、Hugging Face库基本使用。有机器学习基础更佳。建议有一定GPU资源访问能力（Colab Pro或云端GPU）。

课程大纲

模块一：微调基础与核心概念（2节课，约3小时）

第1课：为什么要微调？—— 当RAG和提示工程还不够时（1.5小时）

微调解决的问题：风格模仿、复杂指令遵循、领域术语掌握

RAG+微调的组合策略

微调的成本效益分析

第2课：揭开微调的神秘面纱 —— PEFT与LoRA技术详解（1.5小时）

全量微调 vs 参数高效微调

LoRA原理：低秩矩阵分解

QLoRA：量化+LoRA，降低显存需求

实践：可视化LoRA的可训练参数占比

模块二：第一个微调项目：云端快速上手（2节课，约3.5小时）

第3课：搭建云端“炼丹炉”与工具链（1.5小时）

Google Colab Pro / 云GPU配置

环境搭建：Transformers、PEFT、BitsandBytes

数据集加载与处理

第4课：实战：30分钟打造一个“古诗词”对话模型（2小时）

使用预训练模型（Qwen/Llama 2）

准备古诗词数据集（Alpaca格式）

执行QLoRA微调脚本

实践：微调后模型生成古诗词

模块三：精通微调的生命线 —— 数据工程（3节课，约5小时）

第5课：数据决定上限：数据集的搜集、清洗与伦理考量（2小时）

数据来源：公开数据集、业务日志、人工标注

数据清洗：去重、去噪、隐私去除

偏见识别与减轻策略

实践：分析一个公开指令数据集的缺陷

第6课：格式的艺术：构建高质量指令数据集（2小时）

Alpaca格式详解：instruction、input、output

ShareGPT格式与多轮对话

数据增强与多样性保证

实践：将原始文本转换为指令微调格式

第7课（补充）：数据质量评估与迭代（1小时）

人工评估标准

使用LLM评估数据质量

实践：对自己构建的数据集进行评分

模块四：极致优化：训练过程与模型评估（2节课，约3.5小时）

第8课：模型选型与超参数调试（2小时）

基座模型选型（Llama、Qwen、Mistral等）

关键超参数：学习率、批次大小、Epoch数、LoRA rank

训练监控与早停

实践：使用Weights & Biases记录训练曲线

第9课：科学评估你的微调模型（1.5小时）

定性评估：人工对话测试

定量评估：基准测试集、LLM-as-a-Judge

对比基础模型与微调模型输出

实践：构建评估集，计算胜率

模块五：从训练到应用：部署与持续迭代（2节课，约3小时）

第10课：模型合并与部署（1.5小时）

将LoRA权重合并回基座模型

模型量化（GPTQ、AWQ、GGUF）减少显存

使用vLLM或TGI部署推理服务

实践：部署微调模型并测试吞吐量

第11课：微调的持续生命周期（1.5小时）

增量学习与新数据迭代

模型版本管理与回滚

从用户反馈中构建数据飞轮

实践：设计一个微调模型的持续改进方案

毕业项目：打造一个行业专属问答专家（贯穿课程，课内启动，课后完成）

项目要求：独立构建高质量微调数据集，完成模型微调，撰写详尽评估报告

推荐UX：创建一个比较界面，让用户同时与基础模型和微调模型对话

杨老师

大数据&云计算资深实战派专家 杨文清

【专业资质】

20年企业应用与研发经验

拥有2项人工智能相关国家发明专利

中国联通集团深度培训资深讲师

AWS 云计算认证专家

曾任 IBM中国华南区高级咨询顾问

曾任华为Cloud BU高级架构师

曾任广州云宏研发总监

曾任广州智数x-Lab实验室首席科学家

武汉大学计算机科学专业硕士，22年企业应用与研发经验，曾就职于IBM、华为等大型企业，十年华为工作经验，任职华为高级架构师。

并先后担任过知名互联网公司研发总监和智数xLab实验室首席数据科学家。亚马逊云计算认证专家、VMware国际认证讲师。

中国联通集团引擎计划深度培训资深讲师（主讲Docker&K8S、Hadoop、Spark、机器学习、深度学习），对云计算、大数据有深刻的理解，主导过多项国家级大数据项目，并拥有人工智能方面的若干项国家专利。

【实战经验】

IBM中国华南区高级咨询顾问，期间曾参与公安、金融、通信、制造等行业云计算产品方案研发，为多个大型企业提供IT基础建设咨询。

华为Cloud BU高级架构师，聚焦于是云服务产业端到端管理的经营单元，负责构建云服务竞争力，对云服务的客户满意度和商业成功负责。

广州云宏研发总监，带领团队研发了WinCloud云计算管理平台、CnWare云计算操作系统，产品覆盖运营商、公安、金融、政府机关、教育、医疗等多个领域，虚拟机数量超过50万。受到国家、省市领导和专家的肯定和好评。

【项目实战经验】

国产云操作系统 (CnWare) 研发总监

云宏：参与主导公司核心产品WinCloud云管理平台建设，是当前市场上唯一可以同时管理小型机虚拟化、x86虚拟化和arm架构虚拟化的云管理平台；CnWare是唯一的国产云操作系统，对标VmWare，内容包括虚拟化管理中心、虚拟化中间件和虚拟化引擎3部分，实现了全生态全流程的虚拟化覆盖。该产品在中国电信集团采购入围时获得总分第一的成绩。

构建智慧水务AI预警平台 实验室首席科学家

智数信息：任职xLab实验室首席科学家，负责公司前瞻性技术的基础研究，并实现新技术在项目中的落地。期间将以太坊区块链技术应用到了现有的食品溯源系统；协助研发团队在智慧城市管理项目实现了物联网数据的全自动处理过程；协助研发团队将自动化运营引入到港珠澳大桥综合管理系统。作为公司首席科学家，对基础研究的标准化（选型、可行性、研究、应用）过程制定了完整的过程管理。

港珠澳大桥综合业务管理系统 首席架构师

构建综合业务管理平台，为大桥的物流、应急管理、通关提供坚实的数据支撑，提升信息化效率。

宝安智慧水务 研发总监|架构师

实现了物联网数据的全自动处理、自定义指标预警、自助式数据可视化分析，用于企业污水排放监控 。

财政信息一体化 后端架构师

建设大数据平台与业务系统，实现数据整合、可视化、异常数据监控与财政指标智能预测 。

电信经营分析系统 项目经理 / 主导设计

用数据仓库技术与可视化，对电信企业的内部和外部数据进行综合分析处理，生成运营指标 。

【擅长领域】

核心技术/技术管理/架构能力；热衷于技术驱动业务，致力于将新技术转化为高效的生产力。

【讲师优势】

拥有超过20年一线实战经验的复合型技术专家与资深讲师。兼具华为与IBM的顶级企业架构视野，以及将前沿技术从0到1成功产品化的落地能力。

多年来始终坚持在技术一线参与核心研发工作。 对技术在真实业务场景中的痛点、难点和选型权衡有极为深刻的理解，确保了其教学内容与业界最新实践紧密结合，直击问题本质。

【主讲项目/课程(部分)】可根据企业需求组合成不同深度的技术训练营。

《数据科学基础》

《Python编程：从入门到数据处理》

《数据分析思维》

《数据可视化技术与分析报告撰写》

《机器学习核心》

《机器学习经典算法与理论》

《集成学习实战：深入解析XGBoost等模型》

《基于Spark的海量数据分析与机器学习》

《深度学习进阶》

《深度学习框架PyTorch：入门与应用》

《卷积神经网络(CNN)与循环神经网络(LSTM)实战》

《LLM基础：注意力机制(Transform)实战》

《AI技术工程化》

《AI应用基础：提示词工程》

《RAG（检索增强生成）开发实战》

《AI Agent（智能体）开发实战》

《AI 行业应用案例分析》

【授课风格】

1.实战派落地教学，拒绝空谈赋能​

课程内容紧密结合主导的大型项目真实经验，案例翔实，以真实场景、真实案例、真实打法为核心支撑，全干货、全落地，拒绝空谈理论。

2.架构师全局视野，搭建体系能力​

跳出单一操作教学，深度拆解业务底层逻辑与运营架构，溯源打法设计原理，助力学员构建系统化、可迭代的完整业务体系。

3.通透化授学思维，实现举一反三​

依托全域实战经验拆解核心本质，沉淀通用方法论，助力学员举一反三、灵活复用、全域落地。真正实现学一项、通一类、用全域。

【服务客户(部分)】

运营商：联通集团总部、中国电信河南有限公司、中国电信山东有限公司、中国电信江苏有限公司、中国电信重庆有限公司、中国联通广东有限公司、中国联通福建有限公司、中国联通广西有限公司、中国联通上海有限公司、中国联通陕西有限公司、中国联通河北有限公司、中国联通云南有限公司、中国联通重庆有限公司、中国联通四川有限公司、中国联通青海有限公司、中国移动江苏有限公司、中国移动云南有限公司、中国移动浙江有限公司、中国移动河南有限公司、中国移动四川有限公司、中国移动吉林有限公司、中国移动湖北有限公司、中国移动安徽有限公司等

IT公司：华为、腾讯云、IBM、DELL、航天科工、中国航天、TaTa集团、中科曙光、龙芯中科、航天云网、航天科工、联想集团、腾讯云、蓝盾、浩云科技、润乾等

能源：国家电网（湖北省、浙江省、成都等）、南方电网、广东能源集团、江苏核电、国家电投、国网电科院、国能集团长源电力、中煤电力等

银行：中国银行广州分行、招商银行武汉分行、中国银行江苏分行、农业银行荆州分行、交通银行贵州分行、交通银行武汉分行、建设银行广州分行、中国邮政储蓄银行长沙分行、中国邮政储蓄银行南昌分行、平安银行杭州分行、广发银行广州分行、兴业银行、北京银行、工商银行、工银投资、宁波银行等

我要预订

咨询电话：027-5111 9925 , 027-5111 9926手机：18971071887邮箱：Service@mingketang.com