边缘侧AI小模型训练、优化与部署魏新宇白雪冰大模型部署大模型调优

正版全新

49.12 7.1折 69 全新

库存2件

上海浦东

作者魏新宇白雪冰

出版社机械工业出版社

ISBN9787111821649

出版时间2022-12

装帧平装

开本16开

定价69元

货号5095054

上书时间2026-11-14

商品详情

品相描述：全新

商品描述: 【书    名】边缘侧AI小模型训练、优化与部署     魏新宇白雪冰    大模型部署大模型调优
【书    号】 9787111821649
【出版社】机械工业出版社
【作    者】魏新宇白雪冰
【出版日期】 2026-11-01
【开    本】 16开
【定    价】 69.00元

【编辑推荐】
详尽阐述边缘计算与人工智能融合的核心价值

深入探讨云边协同的典型模式与边缘侧AI的核心能力

完整呈现边缘侧AI从模型选型、推理优化到微调部署的工程实践

【内容简介】
本书详尽阐述了边缘计算与人工智能融合的核心价值，深入探讨了云边协同的典型模式与边缘侧AI的核心能力；系统讲解了高质量数据集的特征、格式化方法与合成数据生成策略；全面介绍了从预训练到微调的完整技术链路，涵盖SFT、RLHF、DPO等主流训练范式，以及LoRA、QLoRA等参数高效微调方法；深入剖析了模型量化、DeepSpeed ZeRO等推理优化技术的原理；以AI PC为平台展示了集成语音识别、语音合成与大语言模型的本地多模态智能助手构建方案；通过护照OCR识别、多任务视觉理解、医学影像分割三大真实案例，完整呈现了边缘侧AI从模型选型、推理优化到微调部署的工程实践。内容涵盖基础概念、前沿技术，以及具体行业应用与开发等多个层面。
  本书适合从事边缘侧AI开发及应用的开发者、架构师和技术管理者参考，无论初学者还是经验丰富的实践者，都能从本书中学到实用的知识和技能。

【目录】
第1章AI on Edge：边缘侧人工智能的价值、能力与落地路径

1.1AI时代的边缘计算

1.1.1边缘计算的定义与核心特征

1.1.2边缘计算的发展历程

1.1.3AI驱动下的边缘计算

1.2边缘侧与云端的差异及协同模式

1.2.1云边核心差异：资源能力、成本效率与隐私合规

1.2.2云边协同的典型模式

1.3边缘侧AI的核心能力

1.3.1边缘视觉智能：从识别到理解的演进

1.3.2边缘语音智能：离线交互的关键能力

1.3.3边缘语言理解与决策智能

1.4典型应用场景、部署路径与技术挑战

1.4.1典型应用场景

1.4.2典型部署模式

1.4.3核心技术挑战

第2章边缘侧高质量数据集的准备与增强

2.1边缘侧高质量数据集的核心特征

2.1.1数据来源的多样性

2.1.2领域与任务的针对性

2.2如何评估数据集的质量

2.3边缘侧数据集的格式化

2.3.1边缘侧数据来源与标准样本结构

2.3.2图像与音频数据的基础格式化

2.3.3文本与对话数据的结构化模板

2.3.4样本边界标记（EOS）的设置方法

2.3.5偏好数据集的字段结构与标注规范

2.4合成指令数据集的生成方法

2.4.1基于persona生成合成样本提示

2.4.2批量生成问题

2.4.3批量生成回答

2.4.4导出数据集

2.5合成偏好数据集的生成方法

2.6基于偏好数据的模型优化

2.6.1获取提示

2.6.2生成多样化的回答

第3章边缘侧模型训练与部署

3.1预训练与微调的本质区别

3.1.1预训练与微调的特征对比

3.1.2预训练与微调核心代码示例

3.1.3从两个角度区分微调

3.2从训练范式与算法区分微调

3.2.1训练范式细分

3.2.2训练范式代码展现：SFT和GRPO

3.3从模型参数更新机制区分微调

3.3.1从模型加载与训练参数角度看微调差异

3.3.2从微调后的性能角度看

3.3.3全参数微调、LoRA 和 QLoRA 代码示例

3.3.4Adapter合并的选择

3.4Multiple LoRA Adapters方案

3.4.1Multi LoRA Adapter的优势

3.4.2Multi LoRA Adapter的代码实现

3.5为边缘推理进行模型量化

3.5.1NVFP4：E2M1格式与双层缩放

3.5.2GPTQ：逐层量化与误差补偿

3.5.3AWQ: 基于激活值感知的权重保护

3.5.4GGUF: 面向CPU推理的通用格式

3.5.5量化算法对比总结

3.6通过训练飞轮方法论持续迭代优化模型能力

3.6.1业务场景与痛点

3.6.2技术选型分析

3.6.3训练飞轮实现方案

3.6.4价值量化

第4章边缘侧模型的微调

4.1微调的*佳实践

4.1.1影响AI训练时间的关键因素

4.1.2微调中常见的参数

4.1.3批大小

4.1.4Epochs

4.1.5梯度累积与梯度检查点

4.1.6学习率与学习率调度器

4.1.7优化器

4.1.8半精度训练（FP16和BF16）

4.1.9评估与保存步骤

4.1.10LoRA 超参数与实现方法

4.1.11总结

4.2微调文本语言模型*佳实践

4.2.1场景介绍与微调目标

4.2.2首次微调与初步探索

4.2.3针对过拟合问题的优化策略与尝试

4.2.4引入链式推理和使用英文数据集

4.2.5数据增强与泛化能力提升

4.2.6从LoRA微调升级到全参数微调

4.2.7EOS Token调整与模型输出格式优化

4.2.8微调的经验总结

4.3微调视觉模型*佳实践

4.3.1VLM的对比与分类

4.3.2微调模式的选择

4.3.3微调Florence-2 GQA能力代码展示

5章边缘侧高效推理与性能优化

5.1微调中的资源开销

5.1.1全参数微调资源开销

5.1.2LoRA微调资源开销

5.2大规模训练优化策略

5.2.1以 Llama-3-70B分析ZeRO内存节约

5.2.2ZeRO与全参数微调、PEFT之间的关系

5.2.3约训练开销的工程化选择

5.2.4DeepSpeed-ZeRO与PyTorch FSDP分布式训练实现及对比

5.3推理阶段的资源开销

5.3.1模型参数资源开销及计算方法

5.3.2激活值内存的详细计算

5.3.3KV缓存内存开销精确计算

5.3.4Llama-3-70B推理显存需求汇总

5.4量化后的推理资源开销

5.4.1量化后模型的显存计算

5.4.2分组量化的元数据开销

5.4.3主流边缘模型的显存需求对比

第6章AI PC边缘侧多模态智能助手构建

6.1AI PC的硬件平台架构

6.2推理引擎选择

6.2.1ONNX Runtime：跨平台的通用加速器

6.2.2专用推理引擎对比

6.3本地多模态智能助手的模型选型与优化

6.3.1LLM/SLM 语言模型选型

6.3.2语音识别模型选型

6.3.3语音合成模型选型

6.4Embedding 模型与本地向量数据库选型

6.4.1Embedding 模型选型

6.4.2本地向量数据库选型

6.5模型微调与优化技术

6.5.1端侧本地模型微调

6.5.2端侧模型量化技术

6.6基于 C# 的多模态智能助手系统实现

6.6.1总体架构设计

6.6.2模型推理集成

6.6.3本地多模态语音助手系统示例

6.7结论与展望：本地智能体的未来形态

第7章边缘侧视觉语言模型与计算机视觉应用

7.1边缘侧视觉语言模型推理优化与微调实战

7.1.1推理优化：护照OCR自动识别

7.1.2微调实战：Burberry商品识别

7.1.3案例总结

7.2Florence-2：统一视觉架构的多任务实践

7.2.1Florence-2的三大核心创新

7.2.2五大应用场景实战

7.2.3案例总结：统一架构的优势与局限

7.3BiomedParse：医学影像边缘侧分割模型微调实践

7.3.1微软医疗AI生态与BiomedParse定位

7.3.2模型架构：文本提示驱动的分割范式

7.3.32D模式微调：CT影像器官分割实践

7.3.43D模式微调：肾上腺分割实践

7.3.5案例总结与经验提炼

参考文献

【前言】
在人工智能飞速发展的今天，边缘计算正成为AI技术落地的新战场。根据IDC预测，全球75%的物联网数据将在边缘侧产生和处理。这一趋势的背后，是云端算力成本居高不下、网络延迟对实时应用的制约，以及日益严格的数据隐私法规所带来的压力。将AI能力从云端下沉到边缘设备，不仅是技术演进的必然，更是应对现实挑战的务实选择。
然而，边缘侧AI部署面临着严峻的挑战：如何在资源受限的设备上运行参数量庞大的深度学习模型？如何在低功耗约束下实现毫秒级的实时推理？如何在保护用户隐私的同时提供个性化的智能服务？这些问题的解答，需要从数据准备、模型训练、推理优化到应用落地的全链路技术支撑。
作为深耕微软AI领域的技术专家，我们在深度学习、大语言模型、多模态AI等前沿技术方向积累了丰富的项目实践经验和扎实的技术功底。为了系统地将边缘侧AI的理论研究成果和工程实践经验分享给广大开发者，我们撰写了本书。
全书共7章，内容涵盖从核心概念到实战案例的完整知识体系。
第1章系统阐述了AI on Edge的核心价值、技术能力与落地路径，揭示了边缘计算与人工智能深度融合的发展趋势，分析了云边协同的典型模式。
第2章深入探讨了边缘侧高质量数据集的准备与增强策略，涵盖高质量数据集的核心特征、如何评估高质量数据集、边缘侧数据集的格式化、合成指令数据集的生成方法等内容。
第3章详细介绍了边缘侧模型训练与部署技术，从预训练与微调的本质区别出发，系统讲解了SFT、RLHF、DPO等主流微调方法。
第4章聚焦参数高效微调（PEFT）技术，深入剖析LoRA、QLoRA等方法的原理与实践，结合真实案例展示了完整的LLMOps流程。
第5章从资源评估到性能优化，全面解析了模型量化、DeepSpeed ZeRO等关键技术，为边缘侧高效推理提供方法论指导。
第6章以AI PC为平台，详细介绍了本地多模态智能助手的构建方案，涵盖推理引擎选择、LLM/SLM选型、语音识别与合成等核心模块。
第7章通过三个真实案例——Phi-Vision护照OCR与商品识别、Florence-2多任务视觉理解、BiomedParse医学影像分割，系统展示了边缘侧AI的完整实践链路。
本书具有以下特色：
 专家视角：笔者作为微软AI领域的资深技术专家，结合自身多年技术沉淀的项目实践，为读者提供业界领先的专业洞察和可落地的实践经验。
 理论与实践并重：既有对深度学习原理的深入解析，也有丰富的代码示例和工程实践，便于读者学以致用。
 全链路覆盖：从数据准备、模型训练、推理优化到应用部署，涵盖边缘侧AI的完整技术栈。
 前沿技术：深入探讨LoRA/QLoRA参数高效微调、模型量化、多模态融合等新技术进展。
 真实案例：三大实战案例覆盖视觉语言模型、多任务统一架构、医学影像分析等典型应用场景。
本书面向希望在边缘设备上部署AI应用的开发者、架构师和技术管理者。无论是刚踏入AI领域的初学者，还是寻求技术突破的资深工程师，本书都将为您提供从理论到实践的系统性指导，帮助您在边缘侧AI这片充满机遇的新领域中开拓前行。

编者

边缘侧AI小模型训练、优化与部署 魏新宇 白雪冰 大模型部署 大模型调优

商品详情

边缘侧AI小模型训练、优化与部署魏新宇白雪冰大模型部署大模型调优