本书讲解了如何使用Python编写网络爬虫，涵盖爬虫的概念、Web基础、Chrome、Charles和Packet Capture抓包、urllib、Requests请求库、lxml、Beautiful Soup、正则表达式解析数据、CSV、Excel、MySQL、Redis、MongoDB保存数据、反爬虫策略应对、爬虫框架Scrapy的使用与部署，以及应用案例。本书结构清晰、内容精练，代码示例典型实用，附带实践过程中遇到问题的解决方案，非常适合Python初学者和进阶读者阅读。

庄培杰，CSDN博客专家，排名146，访问量达1625W+，简书程序员专栏优秀作者。从事编程开发10余年，熟悉Python的方方面面，尤其擅长Python爬虫和数据分析。现任思可教育投资开发（深圳）有限公司Python高级工程师工程师。

目 录

第1章 Python爬虫概念与Web基础1

1.1 爬虫概念1

1.1.1 什么是爬虫1

1.1.2 爬虫使用场景的引入2

1.1.3 爬虫的组成部分3

1.1.4 模拟请求3

1.1.5 数据解析4

1.1.6 数据保存5

1.1.7 爬虫的学习路线5

1.2 HTTP简述6

1.2.1 简述一次网络请求过程6

1.2.2 URI和URL7

1.2.3 HTTP请求报文8

1.2.4 HTTP响应报文10

1.3 网页的组成13

1.3.1 HTML简介13

1.3.2 CSS选择器简介16

1.3.3 JavaScript简介17

第2章 Python爬虫基本库的使用18

2.1 Chrome抓包详解18

2.1.1 Controls20

2.1.2 Filter21

2.1.3 Request Table21

2.2 urllib库详解23

2.2.1 发送请求23

2.2.2 抓取二进制文件24

2.2.3 模拟GET和POST请求25

2.2.4 修改请求头26

2.2.5 设置连接超时27

2.2.6 延迟提交数据27

2.2.7 设置代理27

2.2.8 Cookie28

2.2.9 urllib.parse模块29

2.2.10 urllib.error异常处理模块31

2.2.11 urllib.robotparser模块32

2.3 用lxml库解析网页节点34

2.3.1 安装库34

2.3.2 XPath语法速成34

2.4 实战：爬取小说《三国演义》36

第3章 Python爬虫抓包与数据解析41

3.1 抓包进阶41

3.1.1 HTTPS介绍42

3.1.2 HTTPS的工作流程43

3.1.3 Charles抓包43

3.1.4 Packet Capture抓包49

3.2 Requests HTTP请求库52

3.2.1 Requests库简介53

3.2.2 Requests HTTP基本请求53

3.2.3 Requests 请求常用设置54

3.2.4 Requests 处理返回结果54

3.2.5 Requests 处理Cookie55

3.2.6 Requests重定向与请求历史55

3.2.7 Requests 错误与异常处理55

3.2.8 Requests Session会话对象55

3.2.9 Requests SSL证书验证56

3.3 实战：爬取微信文章中的图片、音频和视频56

3.3.1 爬取标题56

3.3.2 爬取图片57

3.3.3 爬取音频58

3.3.4 爬取视频60

3.3.5 代码整理64

3.4 Beautiful Soup解析库67

3.4.1 Beautiful Soup简介67

3.4.2 Beautiful Soup对象实例化67

3.4.3 Beautiful Soup的四大对象68

3.4.4 Beautiful Soup的各种节点69

3.4.5 Beautiful Soup文档树搜索69

3.4.6 Beautiful Soup 使用CSS选择器70

3.5 实战：爬取壁纸站点的壁纸70

3.6 正则表达式74

3.6.1 re模块74

3.6.2 正则规则详解75

3.6.3 正则练习77

3.7 实战：爬取市级编码列表79

3.7.1 获取所有市级的跳转链接列表80

3.7.2 解析表格获得所有市级天气链接81

3.7.3 提取市级编码82

3.7.4 整合调整代码83

第4章 用CSV和Excel存储数据85

4.1 用CSV文件存储数据85

4.1.1 CSV写入86

4.1.2 CSV读取87

4.2 实战：爬取星座运势88

4.3 用Excel文件存储数据89

4.3.1 Excel写入89

4.3.2 Excel读取90

4.4 实战：爬取某音乐平台排行榜91

第5章 用数据库存储数据99

5.1 MySQL数据库99

5.1.1 安装MySQL100

5.1.2 在Windows环境下安装MySQL100

5.1.3 在Windows环境下配置MYSQL_HOME环境变量101

5.1.4 在Windows环境下设置MySQL登录密码101

5.1.5 在Windows环境下启动或关闭MySQL服务102

5.1.6 Mac环境103

5.1.7 Ubuntu环境103

5.1.8 MySQL的基本操作104

5.1.9 MySQL数据库语法速成106

5.1.10 Python连接MySQL数据库110

5.1.11 MySQL特殊符号和表情问题114

5.1.12 实战：抓取某技术网站数据115

5.2 数据库可视化工具DataGrip122

5.2.1 建立数据库关联122

5.2.2 编写SQL语句123

5.2.3 常见问题：连接远程主机124

5.3 Redis数据库125

5.3.1 安装Redis126

5.3.2 redis-py库的安装130

5.3.3 redis-py基本操作示例130

5.3.4 实战：爬取视频弹幕并保存到Redis134

5.4 MongoDB数据库137

5.4.1 安装MongoDB137

5.4.2 安装PyMongo库140

5.4.3 PyMongo基本操作示例140

5.4.4 实战：爬取某电商网站关键字搜索结果并保存到MongoDB144

第6章 Python应对反爬虫策略148

6.1 反爬虫概述148

6.1.1 为什么会出现反爬虫149

6.1.2 常见的爬虫与反爬虫大战149

6.2 反爬虫策略150

6.2.1 User-Agent限制150

6.2.2 302重定向151

6.2.3 IP限制151

6.2.4 什么是网络代理151

6.2.5 如何获取代理IP151

6.2.6 ADSL拨号代理152

6.2.7 Squid 配置代理缓存服务器156

6.2.8 TinyProxy配置代理缓存服务器158

6.2.9 Cookie限制159

6.3 JavaScript反爬虫策略159

6.3.1 Ajax动态加载数据159

6.3.2 实战：爬取某素材网内容分析159

6.3.3 数据请求分析160

6.3.4 编写代码163

6.4 Selenium模拟浏览器操作166

6.4.1 Selenium简介166

6.4.2 安装Selenium167

6.4.3 Selenium常用函数168

6.5 实战：爬取某网站的特定图172

6.6 PhantomJS175

6.6.1 在Windows上安装PhantomJS175

6.6.2 在Mac上安装PhantomJS175

6.6.3 在Ubuntu上安装PhantomJS176

6.6.4 关于PhantomJS的重要说明176

6.7 常见验证码策略176

6.7.1 图片验证码177

6.7.2 实战：实现图片验证码自动登录178

6.7.3 实战：实现滑动验证码自动登录185

第7章 Python爬虫框架Scrapy（上）196

7.1 Scrapy框架简介与安装197

7.1.1 Scrapy相关信息197

7.1.2 Scrapy的安装197

7.2 实战：爬取某网站每日壁纸199

7.2.1 抓取目标分析199

7.2.2 创建爬虫脚本201

7.2.3 编写爬虫脚本202

7.2.4 运行爬虫脚本203

7.2.5 解析数据203

7.3 Scrapy架构简介204

7.3.1 Scrapy架构图204

7.3.2 各个模块间的协作流程205

7.3.3 协作流程拟人化对话版206

7.4 Spider详解207

7.4.1 Spider的主要属性和函数207

7.4.2 Spider运行流程207

7.5 Request类和Response类209

7.5.1 Request详解209

7.5.2 Response类常用参数、方法与子类210

7.5.3 选择器211

7.5.4 Scrapy Shell212

7.6 Item详解213

7.7 Item Pipeline详解213

7.7.1 自定义Item Pipeline类213

7.7.2 启用Item Pipeline214

7.8 实战：完善爬取每日壁纸的脚本214

7.8.1 定义BingItem215

7.8.2 使用ImagesPipeline215

7.8.3 修改Spider代码216

7.8.4 运行爬虫脚本216

7.9 设置请求头217

7.9.1 构造Request时传入217

7.9.2 修改settings.py文件217

7.9.3 为爬虫添加custom_settings字段218

7.10 下载中间件详解218

7.10.1 自定义Downloader Middleware类218

7.10.2 启用自定义的代理下载中间件219

7.11 实战：爬取某站点绘画频道的图片219

7.11.1 分析爬取的站点219

7.11.2 新建项目与明确爬取目标221

7.11.3 创建爬虫爬取网页221

7.11.4 设置代理223

7.11.5 解析数据223

7.11.6 存储数据224

7.11.7 完善代码226

第8章 Python爬虫框架Scrapy（下）228

8.1 Scrapy对接Selenium228

8.1.1 如何对接228

8.1.2 对接示例：爬取某网站首页文章229

8.2 实战：用Scrapy实现一个简单的代理池232

8.2.1 代理池的设计232

8.2.2 创建项目232

8.2.3 编写获取IP的爬虫233

8.2.4 编写检测IP的爬虫238

8.2.5 编写调度程序240

8.2.6 编写获取代理IP的接口241

8.2.7 使用代理243

8.3 用Scrapyrt调度Scrapy243

8.3.1 相关文档与安装Scrapyrt243

8.3.2 Scrapyrt GET请求相关参数244

8.3.3 Scrapyrt POST请求相关参数246

8.4 用Docker部署Scrapy246

8.4.1 Docker简介246

8.4.2 下载并安装Docker247

8.4.3 创建Dockerfile249

8.4.4 构建Docker镜像250

8.4.5 把生成的Docker镜像推送到Docker Hub251

8.4.6 在云服务器上运行Docker镜像253

第9章 数据分析案例：Python岗位行情254

9.1 数据爬取254

9.2 NumPy库和pandas库258

9.2.1 ndarray数组259

9.2.2 ndarray数组的常用操作260

9.2.3 pandas库263

9.3 用Matplotlib实现数据可视化268

9.3.1 Matplotlib中文乱码问题269

9.3.2 Matplotlib绘制显示不全270

9.3.3 用Matplotlib生成图表并进行分析271

9.4 用Wordcloud库进行词云绘制275

9.4.1 Wordcloud简介275

9.4.2 Wordcloud构造函数与常用方法276

9.4.3 词云绘制277

9.5 小结280

第10章 数据分析案例：某婚恋网站交友情况分析281

10.1 数据爬取281

10.2 安装Jupyter Notebook287

10.3 安装pyecharts288

10.4 数据分析289

10.4.1 读取CSV文件里的数据289

10.4.2 分析身高290

10.4.3 分析学历292

10.4.4 分析年龄292

10.4.5 分析城市294

10.4.6 分析交友宣言294

10.5 小结296