GPT图解 大模型是怎样构建的

图书标准信息

• 作者 黄佳
• 出版社 人民邮电出版社
• 出版时间 2023-12
• 版次 1
• ISBN 9787115623683
• 定价 79.80元
• 装帧 其他
• 开本 16开
• 页数 254页
• 字数 341千字

【内容简介】

人工智能（AI），尤其是生成式语言模型和生成式人工智能（AIGC）模型，正以惊人的速度改变着我们的世界。驾驭这股潮流的关键，莫过于探究自然语言处理（NLP）技术的深奥秘境。本书将带领读者踏上一段扣人心弦的探索之旅，让其亲身感受，并动手搭建语言模型。本书主要内容包括N-Gram，词袋模型（BoW），Word2Vec（W2V），神经概率语言模型（NPLM），循环神经网络（RNN），Seq2Seq（S2S），注意力机制，Transformer，从初代GPT到ChatGPT再到GPT-4等一系列突破性技术的诞生与演进。

本书将以生动活泼的笔触，将枯燥的技术细节化作轻松幽默的故事和缤纷多彩的图画，引领读者穿梭于不同技术的时空，见证自然语言处理技术的传承、演进与蜕变。在这场不断攀登技术新峰的奇妙之旅中，读者不仅能深入理解自然语言处理技术的核心原理，还能自己动手，从零开始搭建起一个又一个语言模型。

无论你是在校学生还是人工智能从业者，这本书都将成为一盏明灯，照亮你探索人工智能无限奥秘的道路。

【作者简介】

黄佳，笔名咖哥，新加坡科技研究局人工智能研究员。主攻方向为 NLP 大模型的研发与应用、持续学习、AI in FinTech。黄佳深耕人工智能领域多年，积累了丰富的科研项目和政府、银行、能源、医疗等领域 AI 项目落地实战经验，目前正与 PlatoX.AI 展开富有前景的技术合作。曾著有《零基础学机器学习》《数据分析咖哥十话》等多部热销书。同时，在极客时间开设专栏《零基础实战机器学习》《LangChain 实战课》，在深蓝学院开设视频课程“生成式预训练语言模型：理论与实战”。

【目录】

序章 看似寻常最奇崛，成如容易却艰辛 001

GPT-4：点亮人工通用智能的火花 002

人工智能演进之路：神经网络两落三起 004

现代自然语言处理：从规则到统计 007

何为语言？信息又如何传播？ 008

NLP是人类和计算机沟通的桥梁 009

NLP技术的演进史 010

大规模预训练语言模型：BERT与GPT争锋 012

语言模型的诞生和进化 012

统计语言模型的发展历程 014

基于Transformer架构的预训练模型 016

“预训练+微调大模型”的模式 018

以提示/指令模式直接使用大模型 019

从初代GPT到ChatGPT，再到GPT-4 021

GPT作为生成式模型的天然优势 022

ChatGPT背后的推手——OpenAI 023

从初代GPT到ChatGPT，再到GPT-4的进化史 024

第1课 高楼万丈平地起：语言模型的雏形N-Gram和简单文本表示Bag-of-Words 026

1．1N-Gram模型 026

1．2“词”是什么，如何“分词” 030

1．3创建一个Bigram字符预测模型 032

1．4词袋模型 036

1．5用词袋模型计算文本相似度 037

小结 042

思考 043

……