四大对象种类
Beautiful Soup将复杂HTML文档转换成一个复杂的树形结构,每个节点都是Python对象,所有对象可以归纳为4种:
(1)Tag
(2)NavigableString
(3)BeautifulSoup
(4)Comment
1. Tag
Tag 通俗点讲就是 HTML 中的一个个标签,例如:
from bs4 import BeautifulSoup html = """ <div> <ul> <li class="item-0"><a href="link1.html">first item</a></li> <li class="item-1"><a href="link2.html">second item</a></li> <li class="item-inactive"><a href="link3.html"><span class="bold">third item</span></a></li> <li class="item-1"><a href="link4.html">fourth item</a></li> <li class="item-0"><a href="link5.html">fifth item</a></li> </ul> </div> """ # 创建 Beautiful Soup 对象 soup = BeautifulSoup(html, "lxml") print(soup.li) # <li class="item-0"><a href="link1.html">first item</a></li> print(soup.a) # <a href="link1.html">first item</a> print(soup.span) # <span class="bold">third item</span> print(soup.p) # None print(type(soup.li)) # <class 'bs4.element.Tag'>
我们可以利用 soup 加标签名轻松地获取这些标签的内容,这些对象的类型是bs4.element.Tag。但是注意,它查找的是在所有内容中的第一个符合要求的标签。如果要查询所有的标签,后面会进行介绍。
对于 Tag,它有两个重要的属性,是name和attrs。
from bs4 import BeautifulSoup html = """ <div> <ul> <li class="item-0"><a href="link1.html">first item</a></li> <li class="item-1"><a href="link2.html">second item</a></li> <li class="item-inactive"><a href="link3.html"><span class="bold">third item</span></a></li> <li class="item-1"><a href="link4.html">fourth item</a></li> <li class="item-0"><a href="link5.html">fifth item</a></li> </ul> </div> """ # 创建 Beautiful Soup 对象 soup = BeautifulSoup(html, "lxml") print(soup.li.attrs) # {'class': ['item-0']} print(soup.li["class"]) # ['item-0'] print(soup.li.get('class')) # ['item-0'] print(soup.li) # <li class="item-0"><a href="link1.html">first item</a></li> soup.li["class"] = "newClass" # 可以对这些属性和内容等等进行修改 print(soup.li) # <li class="newClass"><a href="link1.html">first item</a></li> del soup.li['class'] # 还可以对这个属性进行删除 print(soup.li) # <li><a href="link1.html">first item</a></li>
2. NavigableString
既然我们已经得到了标签的内容,那么问题来了,我们要想获取标签内部的文字怎么办呢?很简单,用 .string 即可,例如
from bs4 import BeautifulSoup html = """ <div> <ul> <li class="item-0"><a href="link1.html">first item</a></li> <li class="item-1"><a href="link2.html">second item</a></li> <li class="item-inactive"><a href="link3.html"><span class="bold">third item</span></a></li> <li class="item-1"><a href="link4.html">fourth item</a></li> <li class="item-0"><a href="link5.html">fifth item</a></li> </ul> </div> """ # 创建 Beautiful Soup 对象 soup = BeautifulSoup(html, "lxml") print(soup.li.string) # first item print(soup.a.string) # first item print(soup.span.string) # third item # print(soup.p.string) # AttributeError: 'NoneType' object has no attribute 'string' print(type(soup.li.string)) # <class 'bs4.element.NavigableString'>
3. BeautifulSoup
BeautifulSoup 对象表示的是一个文档的内容。大部分时候,可以把它当作 Tag 对象,是一个特殊的 Tag,我们可以分别获取它的类型,名称,以及属性来感受一下。
from bs4 import BeautifulSoup html = """ <div> <ul> <li class="item-0"><a href="link1.html">first item</a></li> <li class="item-1"><a href="link2.html">second item</a></li> <li class="item-inactive"><a href="link3.html"><span class="bold">third item</span></a></li> <li class="item-1"><a href="link4.html">fourth item</a></li> <li class="item-0"><a href="link5.html">fifth item</a></li> </ul> </div> """ # 创建 Beautiful Soup 对象 soup = BeautifulSoup(html, "lxml") print(soup.name) # [document] print(soup.attrs) # {}, 文档本身的属性为空 print(type(soup.name)) # <class 'str'>
4. Comment
Comment 对象是一个特殊类型的 NavigableString 对象,其输出的内容不包括注释符号。
from bs4 import BeautifulSoup html = """ <div> <a class="sister" href="http://example.com/elsie" id="link1"><!-- Elsie --></a> </div> """ # 创建 Beautiful Soup 对象 soup = BeautifulSoup(html, "lxml") print(soup.a) # <a class="sister" href="http://example.com/elsie" id="link1"><!-- Elsie --></a> print(soup.a.string) # Elsie print(type(soup.a.string)) # <class 'bs4.element.Comment'>
a 标签里的内容实际上是注释,但是如果我们利用 .string 来输出它的内容时,注释符号已经去掉了。
神龙|纯净稳定代理IP免费测试>>>>>>>>天启|企业级代理IP免费测试>>>>>>>>IPIPGO|全球住宅代理IP免费测试