正版现货新书 从零开始学SCRAPY网络爬虫(视频教学版) 9787111634744 张涛
全新正版现货,以书名为准,放心购买,购书咨询18931383650朱老师
¥
74.25
7.5折
¥
99
全新
库存4件
作者张涛
出版社机械工业出版社
ISBN9787111634744
出版时间2019-09
装帧其他
开本16开
定价99元
货号1201945223
上书时间2024-10-12
商品详情
- 品相描述:全新
- 商品描述
-
作者简介
张涛,毕业于中国科学技术大学,获硕士学位。目前在科大讯飞公司从事人工智能教育培训与研究工作。加入科大讯飞公司之前,曾经在知名的日资企业任研发经理,负责日本大型证券系统的设计与开发。有7年大学课程改革与教学经验,主要研究方向为Python网络爬虫、数据分析和机器学习。
目录
前言篇 基础篇章 Python基础21.1 Python简介21.1.1 Python简史21.1.2 搭建Python环境31.1.3 安装PyCharm集成开发环境61.2 Python基本语法71.2.1 基本数据类型和运算71.2.2 运算符和表达式81.2.3 条件判断语句91.2.4 循环语句101.2.5 字符串121.3 Python内置数据结构141.3.1 列表151.3.2 字典161.3.3 元组171.3.4 遍历对象集合171.4 Python模块化设计181.4.1 函数181.4.2 迭代器(iterator)201.4.3 生成器(Generator)201.4.4 类和对象221.4.5 文件与异常231.5 本章小结25第2章 网络爬虫基础262.1 HTTP基本原理262.1.1 URL介绍272.1.2 HTTP和HTTPS协议272.1.3 HTTP请求(Request)272.1.4 HTTP响应(Response)302.2 网页基础322.2.1 HTML文档332.2.2 网页的结构332.2.3 节点树及节点之间的关系342.3 使用XPath提取网页信息362.3.1 XPath介绍362.3.2 XPath常用路径表达式362.3.3 XPath带谓语的路径表达式392.4 本章小结40第3章 Scrapy框架介绍413.1 网络爬虫原理413.1.1 爬虫执行的流程413.2 Scrapy框架结构及执行流程423.2.1 Scrapy框架结构423.2.2 Scrapy执行流程443.3 Scrapy安装443.3.1 使用pip安装Scrapy443.3.2 常见安装错误453.3.3 验证安装463.4 个网络爬虫463.4.1 需求分析463.4.2 创建项目473.4.3 分析页面483.4.4 实现Spider爬虫功能493.4.5 运行爬虫503.4.6 常见问题513.5 本章小结52第4章 Scrapy网络爬虫基础534.1 使用Spider提取数据534.1.1 Spider组件介绍534.1.2 重写start_requests()方法554.1.3 Request对象574.1.4 使用选择器提取数据584.1.5 Response对象与XPath594.1.6 Response对象与CSS614.1.7 进一步了解Response对象624.1.8 多页数据的爬取634.2 使用Item封装数据644.2.1 定义Item和Field654.2.2 使用ItemLoader填充容器664.3 使用Pipeline处理数据694.3.1 Item Pipeline介绍704.3.2 编写自己的Item Pipeline704.3.3 启用Item Pipeline714.3.4 多个Item Pipeline714.3.5 保存为其他类型文件724.4 项目案例:爬取链家网二手房信息754.4.1 项目需求754.4.2 技术分析764.4.3 代码实现及解析774.5 本章小结85第2篇 进阶篇第5章 数据库存储885.1 MySQL数据库885.1.1 关系型数据库概述885.1.2 下载和安装MySQL数据库885.1.3 数据库管理工具Navicat925.1.4 Python访问MySQL数据库945.1.5 项目案例975.2 MongoDB数据库1005.2.1 NoSQL概述1005.2.2 MongoDB介绍1005.2.3 MongoDB的下载和安装1015.2.4 Python访问MongoDB数据库1025.2.5 项目案例1085.3 Redis数据库1115.3.1 Redis的下载和安装1115.3.2 Python访问Redis1135.3.3 项目案例1185.4 本章小结121第6章 JavaScript与AJAX数据爬取1226.1 JavaScript简介1226.2 项目案例:爬取QQ音乐榜单歌曲1226.2.1 项目需求1226.2.2 技术分析1236.2.3 代码实现及解析1266.2.4 更常见的动态网页1286.3 AJAX简介1296.4 项目案例:爬取豆瓣电影信息1306.4.1 项目需求1306.4.2 技术分析1306.4.3 代码实现及解析1336.5 本章小结135第7章 动态渲染页面的爬取1367.1 Selenium实现动态页面爬取1367.1.1 Selenium安装1367.1.2 Selenium简单实现1377.1.3 Selenium语法1387.2 项目案例:爬取今日头条热点新闻1457.2.1 项目需求1457.2.2 技术分析1457.2.3 代码实现及解析1477.3 Splash实现动态页面爬取1517.3.1 Splash介绍1517.3.2 Splash环境搭建1527.3.3 Splash模块介绍1567.4 项目案例:爬取一号店中的iPhone手机信息1627.4.1 项目需求1627.4.2 技术分析1637.4.3 代码实现及解析1657.5 本章小结168第8章 模拟登录1698.1 模拟登录解析1698.1.1 登录过程解析1698.1.2 模拟登录的实现1718.2 验证码识别1748.2.1 使用OCR识别验证码1748.2.2 处理复杂验证码1768.2.3 五花八门的验证码1778.3 Cookie自动登录1778.3.1 Cookie介绍1788.3.2 获取Cookie的库—browsercookie1798.4 项目案例:爬取起点中文网某用户的书架信息1808.4.1 项目需求1808.4.2 技术分析1808.4.3 代码实现及解析1828.5 本章小结184第9章 突破反爬虫技术1859.1 反爬虫技术及突破措施1859.2 伪装成不同的浏览器1879.2.1 UserAgentMiddleware中间件介绍1879.2.2 实现伪装成随机浏览器1889.2.3 更简单的方法1919.3 使用HTTP代理服务器1929.3.1 HTTP代理服务器1929.3.2 获取免费代理1939.3.3 实现随机代理1999.4 本章小结2020章 文件和图片下载20310.1 文件下载20310.1.1 FilesPipeline执行流程20310.2 项目案例:爬取seaborn案例源文件20410.2.1 项目需求20
内容摘要
本书从零开始,循序渐进地介绍了目前*流行的网络爬虫框架Scrapy。本书共13章。其中~4章为基础篇,介绍了Python基础、网络爬虫基础、Scrapy框架及基本的爬虫功能。第5~10章为进阶篇,介绍了如何将爬虫数据存储于MySQL、MongoDB和Redis数据库中;如何实现异步的Ajax数据的爬取;如何使用Selenium和Splash实现动态网站的爬取;如何实现模拟登录功能;如何突破反爬虫技术,以及如何实现文件和图片的下载。1~13章为不错篇,介绍了使用Scrapy-Redis实现分布式爬虫;使用Scrapyd和Docker部署分布式爬虫;使用Gerapy管理分布式爬虫,并实现了一个抢票软件的综合项目。本书适合爬虫初学者、爬虫爱好者及高校相关学生,也适合数据爬虫工程师作为参考读物,同时也适合各大院校和培训机构作为教材使用。
精彩内容
随着人工智能浪潮的到来,笔者身边有越来越多的人投入到人工智能和大数据的学习与研究中。他们来自不同的行业,有高校老师和学生,有AI研究专家,有物理或数学专业人才。他们都迫切希望能够获取大量相关领域的数据,用于学习和研究。而互联网中源源不断的海量数据为他们提供了一个既经济又可靠的来源。如何简单、高效、快捷地获取这些数据呢?笔者试图为他们推荐几本能快速入手的书籍。经过一番了解,发现目前市场上关于网络爬虫的图书主要分为两类:一类是翻译成中文的外版图书,其定位相对高端,且翻译质量参差不齐,阅读难度较大,不易上手,故不适合初学者学习;另一类是国内原创的一些关于网络爬虫的图书,这些书大多要求读者具备一定的Python编程基础,虽然书中对各种网络爬虫框架都有介绍,但是不深入也不成体系,对于零基础或非计算机专业的人员来说,显然也不太适合。 于是,他们就“怂恿”我,希望我能编写一本从零基础开始学起的网络爬虫书籍。虽然我从事网络爬虫教学工作多年,但我深知教学跟写书是两码事。教学注重临场发挥,思维比较发散;而写书要求文笔流畅、逻辑严谨缜密。我实在没有信心接受这个挑战。直到有一天,机械工业出版社的编辑联系到了我,认为我从事教育和研究工作,能讲、会说、有技术,对写书来说正是优选的优势。于是在编辑的鼓励和指导下,我开始构思和梳理文章脉络:首先,本书受众要广,即使是零基础或非计算机专业的“小白”也能上手;其次,本书内容不追求多和杂,只选用最流行、最好用、最强大的网络爬虫框架介绍即可;最后,本书的可操作性和实用性要强,通过迭代案例加深读者对知识的理解与应用,以典型的、知名的网站为爬取目标,提高读者解决实际问题的能力。本书正是遵循这样的思路逐步推进,不断优化,最后顺利地完成了写作。本书有何特色 1.由浅入深,循序渐进 本书从零开始,先介绍Python语言、网络爬虫基础、Scrapy框架结构等基础内容;再介绍Scrapy的数据库存储、动态页面爬取、突破反爬虫技术等核心技术;接着介绍分布式爬虫的实现、部署和管理等不错技术;最后介绍了一个完整的综合项目的开发过程。 2.视频教学,讲解详尽 为了便于读者高效、直观地学习,书中每一章的重点内容都专门录制了配套教学视频。读者可以将图书内容和教学视频结合起来,深入、系统地学习,相信一定会取得更好的学习效果。 3.注释详细,一目了然 无论是在Python程序设计,还是在Scrapy爬虫实现部分,本书均对代码做了详细的注释,读者理解起来会更加顺畅。另外,对于多步骤的操作过程,本书在图例中使用数字做了标注,便于读者准确操作。 4.案例丰富,实用易学 本书提供了14个实用性很强的项目案例,这些案例爬取的目标均是知名的、具有代表性的、应用价值较高的网站。读者通过实际操练这些项目案例,可以更加透彻地理解Scrapy网络爬虫的相关知识。 5.提供课件,方便教学 笔者专门为本书制作了专业的教学PPT,以方便相关院校或培训机构的教学人员讲课时使用。 本书内容 篇 基础篇 章 Python基础 本章介绍了Python环境搭建,并详细介绍了Python基本语法、Python内置数据结构及Python模块化设计,为Scrapy网络爬虫开发打下坚实的编程基础。 第2章 网络爬虫基础 本章介绍了与网络爬虫技术相关的HTTP基本原理、网页基础,以及使用XPath提取网页信息的方法,为Scrapy网络爬虫开发打下坚实的理论基础。 第3章 Scrapy框架介绍 本章首先介绍了网络爬虫的原理;然后介绍了Scrapy框架的结构及执行流程,并实现了Scrapy的安装;最后结合案例,实现了个Scrapy网络爬虫功能。 第4章 Scrapy网络爬虫基础 本章深入Scrapy框架内部,介绍了使用Spider提取数据、使用Item封装数据、使用Pipeline处理数据的方法,并通过一个项目案例,演示了一个功能完备的Scrapy项目的实现过程。 第2篇 进阶篇 第5章 数据库存储 本章介绍了关系型数据库MySQL、非关系型数据库MongoDB和Redis的下载、安装及基本操作,并通过3个项目案例,实现了将爬取来的数据分别存储于这3个数据库中的方法。 第6章 JavaScript与AJAX数据爬取 本章通过两个项目案例,介绍了使用Scrapy爬取通过JavaScript或AJAX加载的数据的方法和技巧。 第7章 动态渲染页面的爬取 本章介绍了使用Selenium和Splash这两个工具来模拟浏览器进行数据爬取的方法,并通过两个项目案例,进一步巩固使用Selenium和Splash的方法与技巧。 第8章 模拟登录 本章介绍了某些需要登录才能访问的页面爬取方法,并介绍了模拟登录、验证码识别和Cookie自动登录等知识,还通过一个项目案例,进一步巩固了实现模拟登录的方法和技巧。 第9章 突破反爬虫技术 本章介绍了突破反爬虫的几种技术,主要有降低请求频率、修改请求头、禁用Cookie、伪装成随机浏览器及更换IP地址等,通过这些举措,可以有效避免目标网站的侦测,提高爬虫成功率。 0章 文件和图片下载 本章介绍了使用Scrapy的中间件批量下载文件和图片的方法,并通过两个项目案例,进一步巩固了文件和图片下载的方法与技巧。 第3篇 不错篇 1章 Scrapy-Redis实现分布式爬虫 本章介绍了使用Scrapy-Redis实现分布式爬虫的方法。首先介绍了分布式爬虫的原理,然后介绍了实现分布式爬虫的思路和核心代码,最后通过一个图片下载的项目案例,构造了一个分布式爬虫系统。 2章 Scrapyd部署分布式爬虫 本章介绍了分布式系统的部署和管理。首先介绍了使用Scrapyd和Scrapyd-Client部署分布式爬虫,然后介绍了使用Docker批量部署分布式爬虫,最后介绍了如何使用Gerapy管理分布式爬虫。 3章 综合项目:抢票软件的实现 本章通过全面分析12306购票网站的特点,结合Scrapy网络爬虫框架和Selenium浏览器工具,使用Python面向对象的设计模式,完成了一个综合性和实用性都较强的项目:抢票软件。本书配套资源获取方式 本书涉及以下配套资源:* 配套教学视频;* 实例源代码文件;* 教学PPT。 这些配套资源需要读者自行下载。请登录华章公司网站www.hzbook.com,在该网站上搜索到本书,然后单击“资料下载”按钮,在本书页面上找到下载链接即可下载。适合阅读本书的读者* 网络爬虫初学者;* 网络爬虫爱好者;* 网络爬虫从业人员;* 数据工程师;* 高等院校的老师和学生;* 相关培训机构的学员。本书作者 笔者毕业于中国科学技术大学软件工程专业,获硕士学位。现就职于知名的智能语音技术公司,有10余年软件项目管理经验。在高等院校担任网络爬虫及机器学习方面的授课工作。 本书能够顺利出版,首先要感谢本书编辑欧振旭!他花费了大量时间和精力对本书提出了有价值的修改意见和建议;还要感谢其他为本书的出版提供过帮助的编辑和朋友!没有他们的大力支持,本书也很难与读者见面。 由于笔者水平所限,加之成书时间有限,书中可能还存在一些疏漏和不当之处,敬请各位读者斧正。联系邮箱:hzbook2017@163.com。张涛
— 没有更多了 —
以下为对购买帮助不大的评价