溫馨提示×
您好，登錄后才能下訂單哦！
點擊 登錄注冊 即表示同意《億速云用戶服務條款》
您好，登錄后才能下訂單哦！
本篇內容介紹了“怎么從零開始編寫Python爬蟲腳本”的有關知識，在實際案例的操作過程中，不少人都會遇到這樣的困境，接下來就讓小編帶領大家學習一下如何處理這些情況吧！希望大家仔細閱讀，能夠學有所成！
需要準備的東西： Python、scrapy、一個IDE或者隨便什么文本編輯工具。
隨便建一個工作目錄，然后用命令行建立一個工程，工程名為miao，可以替換為你喜歡的名字。
scrapy startproject miao |
在spiders文件夾中創建一個python文件，比如miao.py，來作為爬蟲的腳本。
內容如下：
import scrapy
class NgaSpider(scrapy.Spider): name = "NgaSpider" host = "http://bbs.ngacn.cc/" # start_urls是我們準備爬的初始頁 start_urls = [ "http://bbs.ngacn.cc/thread.php?fid=406", ]
# 這個是解析函數，如果不特別指明的話，scrapy抓回來的頁面會由這個函數進行解析。 # 對頁面的處理和分析工作都在此進行，這個示例里我們只是簡單地把頁面內容打印出來。 def parse(self, response): print response.body
|
如果用命令行的話就這樣：
cd miao scrapy crawl NgaSpider |
你可以看到爬蟲君已經把你壇星際區第一頁打印出來了，當然由于沒有任何處理，所以混雜著html標簽和js腳本都一并打印出來了。
接下來我們要把剛剛抓下來的頁面進行分析，從這坨html和js堆里把這一頁的帖子標題提煉出來。
其實解析頁面是個體力活，方法多的是，這里只介紹xpath。
看一下剛才抓下來的那坨東西，或者用chrome瀏覽器手動打開那個頁面然后按F12可以看到頁面結構。
每個標題其實都是由這么一個html標簽包裹著的。舉個例子：
<a id="t_tt1_33" class="topic" href="/read.php?tid=10803874">[合作模式] 合作模式修改設想</a> |
可以看到href就是這個帖子的地址（當然前面要拼上論壇地址），而這個標簽包裹的內容就是帖子的標題了。
于是我們用xpath的絕對定位方法，把class='topic'的部分摘出來。
在最上面加上引用：
from scrapy import Selector |
把parse函數改成：
def parse(self, response): selector = Selector(response) # 在此，xpath會將所有class=topic的標簽提取出來，當然這是個list # 這個list里的每一個元素都是我們要找的html標簽 content_list = selector.xpath("//*[@class='topic']") # 遍歷這個list，處理每一個標簽 for content in content_list: # 此處解析標簽，提取出我們需要的帖子標題。 topic = content.xpath('string(.)').extract_first() print topic # 此處提取出帖子的url地址。 url = self.host + content.xpath('@href').extract_first() print url |
再次運行就可以看到輸出你壇星際區第一頁所有帖子的標題和url了。
接下來我們要抓取每一個帖子的內容。
這里需要用到python的yield。
yield Request(url=url, callback=self.parse_topic) |
此處會告訴scrapy去抓取這個url，然后把抓回來的頁面用指定的parse_topic函數進行解析。
至此我們需要定義一個新的函數來分析一個帖子里的內容。
完整的代碼如下：租叉車公司
import scrapy from scrapy import Selector from scrapy import Request
class NgaSpider(scrapy.Spider): name = "NgaSpider" host = "http://bbs.ngacn.cc/" # 這個例子中只指定了一個頁面作為爬取的起始url # 當然從數據庫或者文件或者什么其他地方讀取起始url也是可以的 start_urls = [ "http://bbs.ngacn.cc/thread.php?fid=406", ]
# 爬蟲的入口，可以在此進行一些初始化工作，比如從某個文件或者數據庫讀入起始url def start_requests(self): for url in self.start_urls: # 此處將起始url加入scrapy的待爬取隊列，并指定解析函數 # scrapy會自行調度，并訪問該url然后把內容拿回來 yield Request(url=url, callback=self.parse_page)
# 版面解析函數，解析一個版面上的帖子的標題和地址 def parse_page(self, response): selector = Selector(response) content_list = selector.xpath("//*[@class='topic']") for content in content_list: topic = content.xpath('string(.)').extract_first() print topic url = self.host + content.xpath('@href').extract_first() print url # 此處，將解析出的帖子地址加入待爬取隊列，并指定解析函數 yield Request(url=url, callback=self.parse_topic) # 可以在此處解析翻頁信息，從而實現爬取版區的多個頁面
# 帖子的解析函數，解析一個帖子的每一樓的內容 def parse_topic(self, response): selector = Selector(response) content_list = selector.xpath("//*[@class='postcontent ubbcode']") for content in content_list: content = content.xpath('string(.)').extract_first() print content # 可以在此處解析翻頁信息，從而實現爬取帖子的多個頁面
|
到此為止，這個爬蟲可以爬取你壇第一頁所有的帖子的標題，并爬取每個帖子里第一頁的每一層樓的內容。
爬取多個頁面的原理相同，注意解析翻頁的url地址、設定終止條件、指定好對應的頁面解析函數即可。
此處是對已抓取、解析后的內容的處理，可以通過管道寫入本地文件、數據庫。
在miao文件夾中創建一個items.py文件。
from scrapy import Item, Field
class TopicItem(Item): url = Field() title = Field() author = Field()
class ContentItem(Item): url = Field() content = Field() author = Field() |
此處我們定義了兩個簡單的class來描述我們爬取的結果。
在miao文件夾下面找到那個pipelines.py文件，scrapy之前應該已經自動生成好了。
我們可以在此建一個處理方法。
class FilePipeline(object):
## 爬蟲的分析結果都會由scrapy交給此函數處理 def process_item(self, item, spider): if isinstance(item, TopicItem): ## 在此可進行文件寫入、數據庫寫入等操作 pass if isinstance(item, ContentItem): ## 在此可進行文件寫入、數據庫寫入等操作 pass ## ... return item |
要調用這個方法我們只需在爬蟲中調用即可，例如原先的內容處理函數可改為：
def parse_topic(self, response): selector = Selector(response) content_list = selector.xpath("//*[@class='postcontent ubbcode']") for content in content_list: content = content.xpath('string(.)').extract_first() ## 以上是原內容 ## 創建個ContentItem對象把我們爬取的東西放進去 item = ContentItem() item["url"] = response.url item["content"] = content item["author"] = "" ## 略 ## 這樣調用就可以了 ## scrapy會把這個item交給我們剛剛寫的FilePipeline來處理 yield item |
找到settings.py文件，在里面加入
ITEM_PIPELINES = { 'miao.pipelines.FilePipeline': 400, } |
這樣在爬蟲里調用
yield item |
的時候都會由經這個FilePipeline來處理。后面的數字400表示的是優先級。
可以在此配置多個Pipeline，scrapy會根據優先級，把item依次交給各個item來處理，每個處理完的結果會傳遞給下一個pipeline來處理。
可以這樣配置多個pipeline:
ITEM_PIPELINES = { 'miao.pipelines.Pipeline00': 400, 'miao.pipelines.Pipeline01': 401, 'miao.pipelines.Pipeline02': 402, 'miao.pipelines.Pipeline03': 403, ## ... } |
通過Middleware我們可以對請求信息作出一些修改，比如常用的設置UA、代理、登錄信息等等都可以通過Middleware來配置。
與pipeline的配置類似，在setting.py中加入Middleware的名字，例如
DOWNLOADER_MIDDLEWARES = { "miao.middleware.UserAgentMiddleware": 401, "miao.middleware.ProxyMiddleware": 402, } |
某些網站不帶UA是不讓訪問的。
在miao文件夾下面建立一個middleware.py
import random
agents = [ "Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US) AppleWebKit/532.5 (KHTML, like Gecko) Chrome/4.0.249.0 Safari/532.5", "Mozilla/5.0 (Windows; U; Windows NT 5.2; en-US) AppleWebKit/532.9 (KHTML, like Gecko) Chrome/5.0.310.0 Safari/532.9", "Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US) AppleWebKit/534.7 (KHTML, like Gecko) Chrome/7.0.514.0 Safari/534.7", "Mozilla/5.0 (Windows; U; Windows NT 6.0; en-US) AppleWebKit/534.14 (KHTML, like Gecko) Chrome/9.0.601.0 Safari/534.14", "Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US) AppleWebKit/534.14 (KHTML, like Gecko) Chrome/10.0.601.0 Safari/534.14", "Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US) AppleWebKit/534.20 (KHTML, like Gecko) Chrome/11.0.672.2 Safari/534.20", "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/534.27 (KHTML, like Gecko) Chrome/12.0.712.0 Safari/534.27", "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/535.1 (KHTML, like Gecko) Chrome/13.0.782.24 Safari/535.1", ]
class UserAgentMiddleware(object):
def process_request(self, request, spider): agent = random.choice(agents) request.headers["User-Agent"] = agent
|
這里就是一個簡單的隨機更換UA的中間件，agents的內容可以自行擴充。
比如本地127.0.0.1開啟了一個8123端口的代理，同樣可以通過中間件配置讓爬蟲通過這個代理來對目標網站進行爬取。
同樣在middleware.py中加入：
class ProxyMiddleware(object):
def process_request(self, request, spider): # 此處填寫你自己的代理 # 如果是買的代理的話可以去用API獲取代理列表然后隨機選擇一個 proxy = "http://127.0.0.1:8123" request.meta["proxy"] = proxy |
很多網站會對訪問次數進行限制，如果訪問頻率過高的話會臨時禁封IP。
如果需要的話可以從網上購買IP，一般服務商會提供一個API來獲取當前可用的IP池，選一個填到這里就好。
在settings.py中的一些常用配置
# 間隔時間，單位秒。指明scrapy每兩個請求之間的間隔。 DOWNLOAD_DELAY = 5
# 當訪問異常時是否進行重試 RETRY_ENABLED = True # 當遇到以下http狀態碼時進行重試 RETRY_HTTP_CODES = [500, 502, 503, 504, 400, 403, 404, 408] # 重試次數 RETRY_TIMES = 5
# Pipeline的并發數。同時最多可以有多少個Pipeline來處理item CONCURRENT_ITEMS = 200 # 并發請求的最大數 CONCURRENT_REQUESTS = 100 # 對一個網站的最大并發數 CONCURRENT_REQUESTS_PER_DOMAIN = 50 # 對一個IP的最大并發數 CONCURRENT_REQUESTS_PER_IP = 50
|
如果非要用Pycharm作為開發調試工具的話可以在運行配置里進行如下配置：
Configuration頁面：
Script填你的scrapy的cmdline.py路徑，比如我的是
/usr/local/lib/python2.7/dist-packages/scrapy/cmdline.py |
然后在Scrpit parameters中填爬蟲的名字，本例中即為：
crawl NgaSpider |
最后是Working diretory，找到你的settings.py文件，填這個文件所在的目錄。
“怎么從零開始編寫Python爬蟲腳本”的內容就介紹到這里了，感謝大家的閱讀。如果想了解更多行業相關的知識可以關注億速云網站，小編將為大家輸出更多高質量的實用文章！
免責聲明：本站發布的內容（圖片、視頻和文字）以原創、轉載和分享為主，文章觀點不代表本網站立場，如果涉及侵權請聯系站長郵箱：is@yisu.com進行舉報，并提供相關證據，一經查實，將立刻刪除涉嫌侵權內容。
