爬虫

1. 爬虫在使用场景中的分类

• 通用爬虫:
  抓取系统重要组成部分。抓取的是一整张页面数据。
• 聚焦爬虫:
  是建立在通用爬虫的基础之上。抓取的是页面中特定的局部内容。
• 增量式爬虫:
  检测网站中数据更新的情况。只会抓取网站中最新更新出来的数据。

2. 反爬

• 反爬机制
  门户网站，可以通过制定相应的策略或者技术手段，防止爬虫程序进行网站数据的爬取。
• 反反爬策略
  爬虫程序可以通过制定相关的策略或者技术手段，破解门户网站中具备的反爬机制，从而可以获取门户网站
• robots.txt协议:
  君子协议。规定了网站中哪些数据可以被爬虫爬取哪些数据不r以被爬取.

3. http协议

http协议
-概念:就是服务嚣和客户端进行数据交互的一种形式。