使用Python語(yǔ)言開(kāi)發(fā)爬蟲(chóng)有什么優(yōu)勢(shì)？

截止到目前，網(wǎng)絡(luò)爬蟲(chóng)的主要開(kāi)發(fā)語(yǔ)言有Java，Python和C++，對(duì)于一般的信息采集需要，各種開(kāi)發(fā)語(yǔ)言的差別不大，具體介紹如下：

C/C++

各種搜索引擎大多使用C/C++開(kāi)發(fā)爬蟲(chóng)，可能是因?yàn)樗阉饕媾老x(chóng)重要的是采集網(wǎng)站信息，對(duì)頁(yè)面的解析要求不高。

Python

Python語(yǔ)言的網(wǎng)絡(luò)功能強(qiáng)大，能夠模擬登陸，解析JavaScript，短處是網(wǎng)頁(yè)解析。Python寫(xiě)起程序來(lái)很便捷，尤其是對(duì)聚焦爬蟲(chóng)，目標(biāo)網(wǎng)站經(jīng)常變換，要根據(jù)目標(biāo)的變化修改爬蟲(chóng)程序，使用Python開(kāi)發(fā)就顯得很方便。

Java

Java有很多解析器，對(duì)網(wǎng)頁(yè)的解析支持很好，缺點(diǎn)是網(wǎng)絡(luò)部分支持較差。

對(duì)于一般性的需求，無(wú)論Java還是Python都可以勝任。如果需要模擬登陸，對(duì)抗反爬蟲(chóng)則選擇Python更方便。如果需要處理復(fù)雜的網(wǎng)頁(yè)，解析網(wǎng)頁(yè)內(nèi)容生成結(jié)構(gòu)化數(shù)據(jù)或者需要對(duì)網(wǎng)頁(yè)內(nèi)容進(jìn)行精細(xì)解析則可以選擇Java。

本書(shū)選擇Python做為實(shí)現(xiàn)爬蟲(chóng)的語(yǔ)言，其主要考慮因素在于：

(1) 抓取網(wǎng)頁(yè)本身的接口

相比其他動(dòng)態(tài)腳本語(yǔ)言(如Perl、Shell)，Python的urllib2包提供了較為完整的訪問(wèn)網(wǎng)頁(yè)文檔的API;相比與其他靜態(tài)編程語(yǔ)言(如Java、C#、C++)，Python抓取網(wǎng)頁(yè)文檔的接口更簡(jiǎn)潔。

此外，抓取網(wǎng)頁(yè)有時(shí)候需要模擬瀏覽器的行為，很多網(wǎng)站對(duì)于生硬的爬蟲(chóng)抓取都是封殺的。這時(shí)我們需要模擬User Agent的行為構(gòu)造合適的請(qǐng)求，譬如模擬用戶登陸、模擬Session/Cookie的存儲(chǔ)和設(shè)置。在Python里都有非常優(yōu)秀的第三方包幫你搞定，如Requests或Mechanize。

(2) 網(wǎng)頁(yè)抓取后的處理

抓取的網(wǎng)頁(yè)通常需要處理，比如過(guò)濾Html標(biāo)簽，提取文本等。Python的Beautiful Soup提供了簡(jiǎn)潔的文檔處理功能，能用極短的代碼完成大部分文檔的處理。

其實(shí)以上功能很多語(yǔ)言和工具都能做，但是用Python能夠干得最快、最干凈，正如這句“Life is short，you need Python”。

(3) 開(kāi)發(fā)效率高

因?yàn)榕老x(chóng)的具體代碼得根據(jù)網(wǎng)站不同而修改的，而Python這種靈活的腳本語(yǔ)言特別適合這種任務(wù)。

(4) 上手快

網(wǎng)絡(luò)上Python的教學(xué)資源很多，便于大家學(xué)習(xí)，出現(xiàn)問(wèn)題也很容易找到相關(guān)資料。另外，Python還有強(qiáng)大的成熟爬蟲(chóng)框架的支持，比如Scrapy。

Python語(yǔ)言本身也一直在發(fā)展，目前的穩(wěn)定版本是Python3，它與Python2有著較大的區(qū)別。為了更好地適應(yīng)未來(lái)的發(fā)展，在本書(shū)中，我們將使用Python3.0開(kāi)發(fā)爬蟲(chóng)項(xiàng)目。


猜你喜歡：

python爬蟲(chóng)可以用來(lái)做什么?

爬蟲(chóng)分類分析：網(wǎng)絡(luò)爬蟲(chóng)有哪些分類?

Python下載和安裝圖文教程