采集數(shù)據(jù)的html解析方法

標(biāo)簽：

Html/CSS 數(shù)據(jù)結(jié)構(gòu) 爬蟲

通过爬虫请求url一般会获取html数据，需要快捷进行文档解析，定位获取元素数据。Beautiful Soup 能够从HTML或XML文件中提取数据的Python库.可以通过转换器实现惯用的文档导航,查找,修改文档的方法。Beautiful Soup会极大的提高文档分析效率，减少研发的投入时间。

下面将展示BeautifulSoup4中所有主要特性,表明它适合做什么,如何工作和使用,并到达想要的效果和处理异常情况.

html_doc = """
<html><head><title>The Dormouse's story</title></head>
<body>
<p class="title"><b>The Dormouse's story</b></p>

<p class="story">Once upon a time there were three little sisters; and their names were
<a >Elsie</a>,
<a >Lacie</a> and
<a >Tillie</a>;
and they lived at the bottom of a well.</p>

<p class="story">...</p>
"""

使用BeautifulSoup解析这段html,能够获取BeautifulSoup 的对象,并能按照标准的格式结构输出:

from bs4 import BeautifulSoup
soup = BeautifulSoup(html_doc)
print(soup.prettify())
# <html>
#  <head>
#   <title>
#    The Dormouse's story
#   </title>
#  </head>
#  <body>
#   <p class="title">
#    <b>
#     The Dormouse's story
#    </b>
#   </p>
#   <p class="story">
#    Once upon a time there were three little sisters; and their names were
#    <a class="sister" >
#     Elsie
#    </a>
#    ,
#    <a class="sister" >
#     Lacie
#    </a>
#    and
#    <a class="sister" >
#     Tillie
#    </a>
#    ; and they lived at the bottom of a well.
#   </p>
#   <p class="story">
#    ...
#   </p>
#  </body>
# </html>

一些浏览结构化数据的方法:

soup.title
# <title>The Dormouse's story</title>

soup.title.name
# u'title'

soup.title.string
# u'The Dormouse's story'

soup.title.parent.name
# u'head'

soup.p
# <p class="title"><b>The Dormouse's story</b></p>

soup.p['class']
# u'title'

soup.a
# <a class="sister" >Elsie</a>

soup.find_all('a')
# [<a class="sister" >Elsie</a>,
#  <a class="sister" >Lacie</a>,
#  <a class="sister" >Tillie</a>]

soup.find(id="link3")
# <a class="sister" >Tillie</a>

从文档中找到所有特定字符<a>标签的链接:

for link in soup.find_all('a'):
    print(link.get('href'))
    # http://example.com/elsie
    # http://example.com/lacie
    # http://example.com/tillie

點(diǎn)擊查看更多內(nèi)容