資訊動態(tài)
新聞動態(tài)Python爬取網(wǎng)頁數(shù)據(jù)
發(fā)布：2020-10-05 12:23:03 瀏覽：2980
Python爬取網(wǎng)頁數(shù)據(jù)。網(wǎng)頁中的數(shù)據(jù)大多是非結(jié)構(gòu)性數(shù)據(jù)。爬取網(wǎng)頁非結(jié)構(gòu)性文本數(shù)據(jù)的首要任務(wù)是去掉網(wǎng)頁噪聲。
網(wǎng)頁噪聲包括為了增強(qiáng)用戶交互性而加入的各種腳本標(biāo)記, 加強(qiáng)網(wǎng)頁視覺效果的各種動畫, 為了方便用戶瀏覽而添加的導(dǎo)航鏈接、廣告鏈接。這些信息跟文本分類沒有實質(zhì)性關(guān)系。
Python作為一種網(wǎng)頁文本的爬蟲程序開發(fā)語言, 可以完成很多復(fù)雜的網(wǎng)頁文本提取。使用urlib2模塊下的簡單代碼就能爬取目標(biāo)網(wǎng)頁的全部源代碼, 獲得整個網(wǎng)頁的內(nèi)容。使用BeautifulSoup模塊自帶的html.parse庫, 去掉所爬網(wǎng)頁源代碼中的html標(biāo)記, 即可提取網(wǎng)頁標(biāo)簽中的文本內(nèi)容。
>>> 查看《新聞動態(tài)Python爬取網(wǎng)頁數(shù)據(jù)》更多相關(guān)資訊 <<<
本文地址：http://scmenchuang.cn/news/html/20622.html
