文章目录

• 前言

前言

本篇文章主要介绍使用bs4解析来爬取某网站上的唯美高清大图，涉及到的零碎知识较多，详细易懂，适合新手小白爬虫入门。
思路如下：
①拿到主页面的源代码，然后提取到子页面的链接地址href；
②通过href进入子页面，从子页面源代码中找到图片的下载地址，img ->src；
③下载图片；

下面通过代码讲解具体做法：

import requests from bs4 import BeautifulSoup import time url=“https://www.umei.cc/bizhitupian/weimeibizhi/” resp=requests.get(url) resp.encoding=‘utf-8’ #处理中文乱码。这里的内容需要与源代码中charset的值保持一致。 #把源码交给bs解析 main_page=BeautifulSoup(resp.text,“html.parser”) #指定html解析器 #使用find()在源代码中找到div,其属性为class且其属性值为TypeList的代码段，返回一个列表； #在这个列表中找所有的a标签 alist=main_page.find(“div”,class_=“TypeList”).find_all(“a”) #print(alist) #拿到定位到此区域下面的所有内容 for a in alist: href=a.get(“href”) #直接通过get就可以拿到属性的值 #print(href) #拿到每个子页面后面一截链接 child_href=“https://www.umei.cc”+href #通过字符串拼接，得到子页面链接 print(child_href) #拿到子页面的源码 child_page_resp=requests.get(child_href) child_page_resp.encoding=‘utf-8’ child_page_text=child_page_resp.text #从子页面中拿到图片的下载路径 child_page=BeautifulSoup(child_page_text,“html.parser”) p=child_page.find(“p”,align=“center”) img=p.find(“img”) #下载图片 src=img.get(“src”) img_resp=requests.get(src) #img_resp.content #这里拿到的是字节 img_name=src.split(“/”)[–1] #拿到url中的最后一个/以后的内容 with open(img_name,“wb”) as f: f.write(img_resp.content) #将图片内容写入文件 print(“over!!”,img_name) time.sleep(1) print(“all over!!!”)

官网首页

 右键，拿到源页面代码，找到<div class=”TypeList”的位置，下方即为我们要找的每个子页面的链接地址，这个地址即为a标签中href的值（后期需要拼接）

进入其中任意一个子页面，如姜子牙

相同方式打开此页面的源代码，可以利用选中的这部分文字定位图片的链接（举的栗子是姜子牙，其他同理）

注意：find()找到一个就返回，而findall()是找所有。
得到的列表利用循环对其中的每一个子部分进行相同的操作，然后输出。
得到的链接并不是子页面的链接地址，还需要进行字符串的拼接，拼接成真正的子页面的链接。