python3爬虫实战:使用浏览器cookie

883次阅读
没有评论

python3爬虫实战:使用浏览器cookie

在日常生活中,我们会发现当我们登录的淘宝时,只要我们注册好并成功登录后,下次访问该网站时,淘宝就会记住我们的登录信息,而无需重新登录,在这个过程中使用的就是cookie的技术。cookie是指某些网站为了辨别用户身份、进行session跟踪而储存在用户本地终端上的数据。通过浏览器登录一次,登录的信息就会被浏览器cookie保存下来,这对于经常忘记账号密码的小伙伴们真的是很友好啊,那你知道浏览器cookie是怎么使用的吗?下面来看看吧。

以网页提取标题为例

>>> import re

>>> get_title = lambda html: re.findall('<title>(.*?)</title>', html, flags=re.DOTALL)[0].strip()

未登录情况下下载得到的标题:

>>> import urllib2

>>> url = 'https://bitbucket.org/'

>>> public_html = urllib2.urlopen(url).read()

>>> get_title(public_html)

'Git and Mercurial code management for teams'

使用第三方库browsercookie,获取cookie再下载:

>>> import urllib.request

>>> public_html = urllib.request.urlopen(url).read()

>>> opener = urllib.request.build_opener(urllib.request.HTTPCookieProcessor(cj))

其实呀,browsercookie模块就是这样一个从浏览器提取保存的cookies的工具。它是一个很有用的爬虫工具,让你轻松使用浏览器cookie,这么方便的方式要快点学起来哦~

神龙|纯净稳定代理IP免费测试>>>>>>>>天启|企业级代理IP免费测试>>>>>>>>IPIPGO|全球住宅代理IP免费测试

相关文章:

版权声明:wuyou2021-07-18发表,共计798字。
新手QQ群:570568346,欢迎进群讨论 Python51学习