多模态大模型：技术原理与实战

图书标准信息

• 作者 彭勇
• 出版社 电子工业出版社
• 出版时间 2023-11
• 版次 1
• ISBN 9787121465628
• 定价 100.00元
• 装帧 平装
• 开本 16开
• 页数 287页
• 字数 325千字

【内容简介】

本书详细介绍了大语言模型和多模态大模型的发展历史、技术和亮点、主要的开源框架、配套工具、部署细则和实战案例。为了让读者更好地进行大模型的应用实战，本书还详细介绍了使用大模型为商业赋能的3个应用案例。期望本书能够帮助读者打开通往大模型尤其是多模态大模型的学、实战和商业成功之路。

【作者简介】

"彭勇 公派留法博士，全球金融专业人士协会（gifp协会）特聘专家，2020年欧耕互联网保险十大风云人物，数据中台建设：从方到落地实战作者。从事大数据和人工智能在金融行业的研究与应用工作约18年，负责相关的落地项目超过100个，在金融行业数据中台建设、数字化营销和运营体系建设、大数据和人工智能赋能、大模型研发和应用、风险管理、数智化转型等方面经验丰富。现职于苏州数擎智技术有限公司和北京长正咨询有限公司，担任两个公司的经理。 彭旋 本科和硕士于中国石油大学（华东）数学与应用数学专业，从事多模态大模型、知识图谱、信息抽取、自然语言处理等方面的研发工作，具备丰富的多模态大模型训练、研发和企业落地经验。知识图谱与大模型融合实践研究报告知识图谱互联互通白皮书的主要作者之一。 郑志军 nlp专家，研究领域主要包括文本理解、自然语言生成等，申请7项专利。从事自然语言处理研究7年有余，有近4年大模型使用、研发经验。现担任公司aigc组组长，研发的大模型在公共评测和客户应用上均取得了优异的，在大模型研发领域具有丰富的理论和实践经验。 茹炳晟，腾讯tech lead，腾讯研究院特约研究员，中国计算机学会(ccf)tf研发效能ig，“软件研发效能度量规范”标准核心编写专家，中国商业联合会互联网应用工作委员会智库入库专家，中国通信标准化协会tc608云计算标准和开源推进委员会云上软件工程工作组副组长，腾讯云、阿里云、华为云专家，外很多技术峰会的联席、出品人和演讲嘉宾。公众号“茹炳晟聊软件研发”主理人。多本技术书作者，著作有软件研发行业创新实战案例解析测试工程师全栈技术与实践软件研发效能提升之美高效自动化测试台:设计与开发实战软件研发效能提升实践软件研发效能指南，译作有持续架构实践：敏捷和devo时代下的软件架构和现代软件工程：如何高效构建软件等。"

精彩书评：

"智能技术的基础设施。本书以一种专业和敏锐的时代洞察力，围绕多模态大模型这一主题，从理论到实践“娓娓道来”，让您不仅能读懂多模态大模型的理论，还能熟练掌握如何应用多模态大模型进行实战，我相信本书将让您收获满满。 ——院特殊津贴专家，中国精算师协会会长 王和博士 chatgpt的出现标志着“ai大模型时代”到来，其通过对人类知识存储、传承和使用方式的重构及表现出的多模态、多技术、多能力和多应用的发展趋势，为处于数智化转型进程中的金融企业打开了更具想象力的发展空间。现阶段，金融企业对大模型研发及应用场景的探索还处在起步阶段，亟需对相关技术全面、深入地了解，对方向和趋势客观、专业地分析，以及实战经验的分享。本书应运而生，详细介绍了大语言模型和多模态大模型的发展历史、技术和创新点，深入阐述了多模态大模型的部署、应用场景和实战案例，为读者打开了通往大模型尤其是多模态大模型的学、实战和商业成功之路。 ————金科创新社新媒体编辑、合伙人 李庆莉 openai陆续发布了chatgpt和gpt4，无疑在it界乃至整个社会激起了千层浪。其发展历程、背后的、多模态扩展、给中小公司的机遇、完整的应用案例与实践都是大家关心和迫切需要的。纵观当下，上述信息都非常碎片化地存在于互联网上。本书体系化地介绍了多模态大模型背后的、技术和实践，恰逢其时地弥补了多模态大模型书籍的空缺，是多模态大模型研发人员乃至it从业者的专业读物。  同济大学特聘研究员，openkg发起人 王昊奋 2022年下半年人工智能在生成式大模型技术领域取得了显著突破，以chatgpt为代表的大语言模型表现出多任务处理、多语言辨识、强语义理解等智慧涌现的特质。许多专家评价其为agi开启了一扇窗。该类技术的跨越式进步为产业升级提供了无限想象空间。当前系统地介绍大模型技术，尤其是多模态大模型技术的书籍凤毛麟角。本书的出版如同下了一场“及时雨”。本书对当前主流的大模型技术进行了系统阐述，并从培养新型思维认知的角度，深入浅出、实例化地讲解了大模型的应用技术。本书对技术人员、业务人员了解生成式大模型技术，培养生成式解决方案思维大有裨益。 ——————泰康集团cto 杜彦斌 多模态大模型是新一代人工智能主要的技术底座模型，更加符合产业的实际需求。目前少有能够让读者深入浅出地快速了解该领域重要知识点的关于多模态大模型的书籍。本书不仅相对系统地阐述了多模态大模型的理论和技术，还提供了三个实战案例，有助于各个行业更好、更快地推动多模态大模型的应用和价值实现。 ——阳光保险集团副裁，亚洲金融协会金融科技合作委员会委员 谷伟 造出来的机器只会说不行，只有让机器能听、能说、能看，agi才算完成大半。本书作者都是该领域的专家，对多模态大模型有很多前瞻的观点。力荐本书。 ——玄涌智能ceo 古飞"

【目录】

章openai一鸣惊人带来的启示1
1.1openai的成长并非一帆风顺2
1.2openai的成功因素5
1.3openai特殊的股权设计带来的启示7
1.4思11
第2章自然语言处理的发展历程13
2.1自然语言处理的发展史14
2.1.1背景介绍14
2.1.2自然语言处理发展的7个阶段15
2.2从bert模型到chatgpt30
2.3bert模型到底解决了哪些问题31
2.4bert模型诞生之后行业持续摸索38
2.5chatgpt的诞生41
2.5.1instructgpt模型的构建流程42
2.5.2chatgpt和instructgpt的差异44
2.5.3chatgpt和bert模型在公开数据集上的测试45
2.5.4高质量的数据标注46
2.6思48
第3章读懂chatgpt的核心技术50
3.1基于transformer的预训练语言模型50
3.2提示学与指令微调55
3.3基于人工反馈的强化学59
3.4思维链方法62
3.5集成学
3.6思67
第4章看清gpt的进化史和创新点68
4.1gpt技术的发展历程68
4.1.1gpt-1技术的发展历程68
4.1.2gpt-2技术的发展历程72
4.1.3gpt-3技术的发展历程73
4.2gpt的创新点结75
4.3思77
第5章大模型+多模态产生的“化学反应”78
5.1多模态模型的发展历史78
5.2单模态学、多模态学和跨模态学的区别82
5.3多模态大模型发展的重大里程碑85
5.4大模型+多模态的3种实现方法94
5.5多模态大模型的效果评估99
5.6思102
第6章多模态大模型的核心技术103
6.1文本多模态技术104
6.1.1基于模板的图像描述方法105
6.1.2基于检索的图像描述方法105
6.1.3基于深度学的图像描述方法105
6.2图像多模态技术106
6.2.1基于对抗网络的文本生成图像方法107
6.2.2基于vae的文本生成图像方法109
6.2.3基于扩散模型的文本生成图像方法110
6.3语音多模态技术111
6.3.1基于非深度学的文本生成语音技术111
6.3.2基于深度学的文本生成语音技术113
6.4多模态技术116
6.4.1非扩散模型的文本生成技术117
6.4.2基于扩散模型的文本生成技术118
6.5跨模态多重组合技术119
6.6多模态大模型高效的训练方法120
6.7gpt-4多模态大模型核心技术介绍121
6.8多模态技术的发展趋势122
第7章外多模态大模型对比124
7.1多模态大模型介绍125
7.1.1llama-adapterv2125
7.1.2visualglm-6b128
7.1.3mplug-owl129
7.2国外多模态大模型介绍131
7.2.1visualchatgpt131
7.2.2instructblip132
7.2.3minigpt-4134
7.3多模态大模型评测数据集135
7.3.1评测数据集136
7.3.2国外评测数据集136
7.4多模态大模型的评测标准137
7.4.1评测标准137
7.4.2国外评测标准138
7.5多模态大模型对比139
7.5.1感知能力评测139
7.5.2认知能力评测141
7.6思145
第8章中小公司的大模型构建之路146
8.1微调技术介绍147
8.1.1lora技术148
8.1.2adalora技术149
8.1.3qlora技术149
8.1.4微调加deepeed的zero-3150
8.2模型压缩技术介绍151
8.2.1剪枝151
8.2.2知识蒸馏153
8.2.3量化压缩154
8.3微调实战155
8.3.1部分参数微调实战156
8.3.2全参数微调实战157
8.4模型压缩实战159
8.4.18位量化压缩实战159
8.4.24位量化压缩实战160
8.5思162
第9章从0到1部署多模态大模型163
9.1部署环境准备163
9.2部署流程165
9.3使用flask框架进行api开发167
9.4使用gradio框架进行web页面开发171
9.5其他部署方法介绍176
9.6部署过程中常见的问题结179
0章多模态大模型的主要应用场景183
10.1多模态大模型的应用图谱183
10.1.1多模态大模型的30个基础应用183
10.1.2多模态大模型在六大领域中的应用189
10.2多模态大模型在金融领域中的应用193
10.2.1语音质检194
10.2.2智能顾问196
10.3多模态大模型在出行与物流领域中的应用201
10.4多模态大模型在电商领域中的应用203
10.4.1智能客服203
10.4.2智能试穿205
10.5多模态大模型在设计与生产领域中的应用207
10.6多模态大模型在医疗健康领域中的应用210
10.7多模态大模型在教育培训领域的应用215
10.8思216
1章用多模态大模型打造ai助理实战218
11.1应用背景218
11.2方介绍219
11.2.1思维链解决复杂的推理问题219
11.2.2思维树进一步提升推理能力220
11.2.3采用插值法解决长文本输入问题220
11.3工具和算法框架介绍222
11.3.1使用的工具222
11.3.2使用的算法框架222
11.4优化逻辑介绍224
11.4.1如何提高多轮对话能力225
11.4.2如何提高角扮演能力225
11.4.3如何提高长文本阅读能力226
11.5多模态大模型的部署227
11.6多模态大模型的能评估228
11.6.1综合能评估228
11.6.2长文本阅读示例229
11.6.3多轮对话示例230
11.6.4角扮演示例233
11.6.5langchain框架赋能ziya在限定域内的问答示例234
11.7思235
2章多模态大模型在情绪识别领域的应用236
12.1应用背景和待解决的问题236
12.2方介绍238
12.3工具和算法框架介绍243
12.3.1算法的输入和输出243
12.3.2算法框架的整体构建流程244
12.3.3文本预训练任务245
12.3.4图像预训练任务247
12.3.5多模态预训练任务248
12.3.6算法的求解249
12.3.7算法的应用250
12.4优化逻辑介绍251
12.5部署流程253
12.6效果评测254
12.6.1评测数据集254
12.6.2评测指标257
12.6.3评测结果257
12.7思259
3章大模型在软件研发领域的实战案例与前沿探索261
13.1llm在软件研发过程中的单点提效262
13.1.1基于githubcopilot的代码片段智能生成262
13.1.2基于copilotx实现增强的代码片段智能生成266
13.1.3基于githubcopilotx实现对选中代码的理解与解读268
13.1.4基于githubcopilotx的pullrequests提效269
13.1.5基于llm实现的“代码刷”270
13.1.6使用copilotvoice实现语音驱动的代码开发272
13.1.7使用copilotcli实现命令行的自动生成274
13.1.8使用testpilot实现单元测试用例的自动生成275
13.1.9更多的应用277
13.2代码llm为软件研发带来的机遇与挑战277
13.2.1对于软件研发来说，什么变了278
13.2.2对于软件研发来说，什么没有变278
13.3在llm时代，对软件研发的更多思283
13.3.1思1：替代的是“码农”，共生的是工程师283
13.3.2思2：有利于控制研发团队规模，保持小团队的效率优势284
13.3.3思3：不可避的“暗知识”284
13.3.4思4：prompt即代码，代码不再是代码285
13.3.5思5：prompttoexecutable软件研发范式的可能286
13.4思286