三分钟读懂BeautifulSoup中的四大对象种类

1,147次阅读
没有评论

三分钟读懂BeautifulSoup中的四大对象种类

四大对象种类

Beautiful Soup将复杂HTML文档转换成一个复杂的树形结构,每个节点都是Python对象,所有对象可以归纳为4种:

(1)Tag

(2)NavigableString

(3)BeautifulSoup

(4)Comment

1. Tag

Tag 通俗点讲就是 HTML 中的一个个标签,例如:

from bs4 import BeautifulSoup
html = """
<div>
    <ul>
         <li class="item-0"><a href="link1.html">first item</a></li>
         <li class="item-1"><a href="link2.html">second item</a></li>
         <li class="item-inactive"><a href="link3.html"><span class="bold">third item</span></a></li>
         <li class="item-1"><a href="link4.html">fourth item</a></li>
         <li class="item-0"><a href="link5.html">fifth item</a></li>
     </ul>
 </div>
"""
# 创建 Beautiful Soup 对象
soup = BeautifulSoup(html, "lxml")
print(soup.li)  # <li class="item-0"><a href="link1.html">first item</a></li>
print(soup.a)  # <a href="link1.html">first item</a>
print(soup.span)  # <span class="bold">third item</span>
print(soup.p)  # None
print(type(soup.li))  # <class 'bs4.element.Tag'>

我们可以利用 soup 加标签名轻松地获取这些标签的内容,这些对象的类型是bs4.element.Tag。但是注意,它查找的是在所有内容中的第一个符合要求的标签。如果要查询所有的标签,后面会进行介绍。

对于 Tag,它有两个重要的属性,是name和attrs。

from bs4 import BeautifulSoup
html = """
<div>
    <ul>
         <li class="item-0"><a href="link1.html">first item</a></li>
         <li class="item-1"><a href="link2.html">second item</a></li>
         <li class="item-inactive"><a href="link3.html"><span class="bold">third item</span></a></li>
         <li class="item-1"><a href="link4.html">fourth item</a></li>
         <li class="item-0"><a href="link5.html">fifth item</a></li>
     </ul>
 </div>
"""
# 创建 Beautiful Soup 对象
soup = BeautifulSoup(html, "lxml")
print(soup.li.attrs)  # {'class': ['item-0']}
print(soup.li["class"])  # ['item-0']
print(soup.li.get('class'))  # ['item-0']
print(soup.li)  # <li class="item-0"><a href="link1.html">first item</a></li>
soup.li["class"] = "newClass"  # 可以对这些属性和内容等等进行修改
print(soup.li)  # <li class="newClass"><a href="link1.html">first item</a></li>
del soup.li['class']  # 还可以对这个属性进行删除
print(soup.li)  # <li><a href="link1.html">first item</a></li>

2. NavigableString

既然我们已经得到了标签的内容,那么问题来了,我们要想获取标签内部的文字怎么办呢?很简单,用 .string 即可,例如

from bs4 import BeautifulSoup
html = """
<div>
    <ul>
         <li class="item-0"><a href="link1.html">first item</a></li>
         <li class="item-1"><a href="link2.html">second item</a></li>
         <li class="item-inactive"><a href="link3.html"><span class="bold">third item</span></a></li>
         <li class="item-1"><a href="link4.html">fourth item</a></li>
         <li class="item-0"><a href="link5.html">fifth item</a></li>
     </ul>
 </div>
"""
# 创建 Beautiful Soup 对象
soup = BeautifulSoup(html, "lxml")
print(soup.li.string)  # first item
print(soup.a.string)  # first item
print(soup.span.string)  # third item
# print(soup.p.string)  # AttributeError: 'NoneType' object has no attribute 'string'
print(type(soup.li.string))  # <class 'bs4.element.NavigableString'>

3. BeautifulSoup

BeautifulSoup 对象表示的是一个文档的内容。大部分时候,可以把它当作 Tag 对象,是一个特殊的 Tag,我们可以分别获取它的类型,名称,以及属性来感受一下。

from bs4 import BeautifulSoup
html = """
<div>
    <ul>
         <li class="item-0"><a href="link1.html">first item</a></li>
         <li class="item-1"><a href="link2.html">second item</a></li>
         <li class="item-inactive"><a href="link3.html"><span class="bold">third item</span></a></li>
         <li class="item-1"><a href="link4.html">fourth item</a></li>
         <li class="item-0"><a href="link5.html">fifth item</a></li>
     </ul>
 </div>
"""
# 创建 Beautiful Soup 对象
soup = BeautifulSoup(html, "lxml")
print(soup.name)  # [document]
print(soup.attrs)  # {}, 文档本身的属性为空
print(type(soup.name))  # <class 'str'>

4. Comment

Comment 对象是一个特殊类型的 NavigableString 对象,其输出的内容不包括注释符号。

from bs4 import BeautifulSoup
 
html = """
<div>
   <a class="sister" href="http://example.com/elsie" id="link1"><!-- Elsie --></a>
</div>
"""
 
# 创建 Beautiful Soup 对象
soup = BeautifulSoup(html, "lxml")

print(soup.a)  # <a class="sister" href="http://example.com/elsie" id="link1"><!-- Elsie --></a>
print(soup.a.string)  # Elsie 
print(type(soup.a.string))  # <class 'bs4.element.Comment'>

a 标签里的内容实际上是注释,但是如果我们利用 .string 来输出它的内容时,注释符号已经去掉了。

神龙|纯净稳定代理IP免费测试>>>>>>>>天启|企业级代理IP免费测试>>>>>>>>IPIPGO|全球住宅代理IP免费测试

相关文章:

版权声明:wuyou2019-10-21发表,共计4102字。
新手QQ群:570568346,欢迎进群讨论 Python51学习
评论(没有评论)