首頁猿問 python：requests獲取...

python：requests獲取網(wǎng)頁源碼的時候亂碼

JavaScript

皈依舞 2019-04-16 20:27:51

defgetHtml(url,timeout=20):try:headers={'Accept-Language':'zh-cn','Content-Type':'application/x-www-form-urlencoded','User-Agent':'Mozilla/4.0(compatibleMSIE6.00WindowsNT5.1SV1)',}r=requests.get(url,headers=headers,timeout=timeout)html=r.textreturnhtmlexceptException,ex:returnNonesoup=BeautifulSoup(getHtml())printsoup.title以上代碼，如何改進，才能在獲取任何網(wǎng)頁標題的時候，不至于亂碼。注：提取部分網(wǎng)頁的標題的時候會直接亂碼顯示。如何改進，才能通用？

查看完整描述

2 回答

蝴蝶不菲

TA貢獻1810條經(jīng)驗獲得超4個贊

有個chardet用來檢測編碼的，如果安裝了，BeautifulSoup貌似會自動調(diào)用這個庫來檢測編碼并decode成unicode。對了，上面是從網(wǎng)上看的。總之拿到文件編碼就好辦了。

反對回復 2019-04-16

慕哥9229398

TA貢獻1877條經(jīng)驗獲得超6個贊

查看一下網(wǎng)頁的編碼，比如是gbk的話，就r.encoding='gbk'。一下內(nèi)容摘自requests文檔Requests會自動解碼來自服務器的內(nèi)容。大多數(shù)unicode字符集都能被無縫地解碼。請求發(fā)出后，Requests會基于HTTP頭部對響應的編碼作出有根據(jù)的推測。當你訪問r.text之時，Requests會使用其推測的文本編碼。你可以找出Requests使用了什么編碼，并且能夠使用r.encoding屬性來改變它:r.encoding'utf-8'r.encoding='ISO-8859-1'如果你改變了編碼，每當你訪問r.text，Request都將會使用r.encoding的新值。你可能希望在使用特殊邏輯計算出文本的編碼的情況下來修改編碼。比如HTTP和XML自身可以指定編碼。這樣的話，你應該使用r.content來找到編碼，然后設置r.encoding為相應的編碼。這樣就能使用正確的編碼解析r.text了。