深度学习自然语言处理实战

自然语言处理作为深度学习的重要组成部分之一，已经成为机器语言和人类语言之间沟通的桥梁，起到了人机交流的作用。其发展速度在深度学习技术出现后得到了极大提高，机器学习、深度学习这些曾经仅仅掌握在少数科学家手中的技术已经融入我们的生活。
自然语言处理可以分为两个核心任务：自然语言理解与自然语言生成。自然语言理解就是使机器能够具备人类的语言理解能力，可以理解为让计算机“听”懂我们在说什么；而自然语言生成则是将非语言格式的数据转换成人类可以理解的语言格式，也就是将计算机想“讲”的话“说”出来。目前机器翻译、聊天机器人、舆情分析等自然语言的实际应用都可归类于这两大核心任务。
本书作为一本结合理论与实践的参考书，不仅介绍了自然语言处理的理论知识，还深入讲解了自然语言处理任务的相关技术实现。读者可以通过本书全面地梳理自然语言处理领域的前沿知识，系统地理解自然语言技术脉络，并在需要寻找某些特定技术时获得一定的帮助。
本书共8章。第1章介绍了深度学习理论的发展和基础知识，第2章讲解了PyTorch环境配置及常用操作，第3章介绍了自然语言处理的基础知识，包括词向量和语言模型等，第4章和第5章则分别给出了循环神经网络和卷积网络的理论及技术实现，第6章介绍了经典Seq2Seq模型和Attention机制，第7章和第8章分别介绍了多种大规模预训练模型（ELMo、Transformers、BERT等）。
本书是集体智慧的结晶，写作成员包括张楠、苏南、王贵阳、梁培力、金纾羽。同时，感谢很多同事和朋友在写作过程中给予的协助。在写作过程中，我们从实际出发，考虑每一章节结合理论所需要的技术支持是怎样的，并给出实例，同时关注国内外关于自然语言处理的*进展，并思考如何将这些技术真正传达给读者。需要说明的是，在写作过程中，我们参阅了很多资料，并尽可能列出了参考文献，这里向参考文献的作者深表感谢！
由于水平有限，书中难免有疏漏和不足之处，恳请读者批评指正。

编者

近年来，基于深度学习方法的自然语言处理（NLP）已逐渐成为主流。本书共8章，主要介绍自然语言处理任务中的深度学习技术，包含深度学习理论基础、深度学习的软件框架、语言模型与词向量、序列模型与梯度消失/爆炸、卷积神经网络在NLP领域的应用、Seq2Seq模型与Attention机制、大规模预训练模型、预训练语言模型BERT，还给出了自然语言处理技术的高级应用和开发实例，并收录了基于PyTorch深度学习框架的部分实践项目。
本书既可作为人工智能、计算机科学、电子信息工程、自动化等专业的本科生及研究生教材，也可作为自然语言处理相关领域的研究人员和技术人员的参考资料。