91超碰碰碰碰久久久久久综合_超碰av人澡人澡人澡人澡人掠_国产黄大片在线观看画质优化_txt小说免费全本

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

在Python爬蟲中如何將PhantomJS偽裝成Chrome瀏覽器

發布時間:2021-10-11 17:36:38 來源:億速云 閱讀:285 作者:柒染 欄目:大數據

本篇文章為大家展示了在Python爬蟲中如何將PhantomJS偽裝成Chrome瀏覽器,內容簡明扼要并且容易理解,絕對能使你眼前一亮,通過這篇文章的詳細介紹希望你能有所收獲。

前言

在寫爬蟲的過程中,出于系統環境或是效率的問題,我們經常使用PhantomJS作為Selenium操縱的瀏覽器webdriver,而不是直接使用Chrome或FireFox的webdriver,盡管后者更加直觀。

PhantomJS的優點雖然很多,但是缺點卻也不少,有一個不能稱之為缺點的缺點就是,PhantomJS的瀏覽器標識是“PhantomJS”(勇敢的做自己竟然有錯……:))

PhantomJS的標識本沒有什么問題,但是在現在越來越多的網站不斷升級自己的反爬蟲技術的情況下,PhantomJS顯然成為了一個和“requests”一樣的靶子。

只要服務器后臺識別到訪問者的User-Agent為PhantomJS,就有可能被服務器判定為爬蟲行為,而導致爬蟲失效。

如同在requests中修改header頭域以偽裝成瀏覽器一樣,我們可以在Selenium中將PhantomJS的瀏覽器標識修改為任意瀏覽器的標識。

PhantomJS的瀏覽器標識

首先來看看PhantomJS的瀏覽器標識是怎樣的。

http://service.spiritsoft.cn/ua.html是一個獲取瀏覽器標識User-Agent的網站,訪問它就會顯示當前使用的瀏覽器的標識:

在Python爬蟲中如何將PhantomJS偽裝成Chrome瀏覽器

我們使用Selunium操縱PhantomJS訪問http://service.spiritsoft.cn/ua.html,看看返回的結果:

在Python爬蟲中如何將PhantomJS偽裝成Chrome瀏覽器

在Python爬蟲中如何將PhantomJS偽裝成Chrome瀏覽器

很明顯的有PhantomJS的痕跡。接下來,我們對PhantomJS的瀏覽器標識進行修改。

偽裝成Chrome


引入一個關鍵的模塊——DesiredCapabilities:

在Python爬蟲中如何將PhantomJS偽裝成Chrome瀏覽器

這個模塊是干什么用的呢?我們看看源碼的解釋:

在Python爬蟲中如何將PhantomJS偽裝成Chrome瀏覽器

描述了一系列封裝的瀏覽器屬性的鍵值對,大致就是用來設置webdriverde的屬性。我們使用它來設置PhantomJS的User-Agent。

首先將DesiredCapabilities轉換為一個字典,方便添加鍵值對:

在Python爬蟲中如何將PhantomJS偽裝成Chrome瀏覽器

然后添加一個瀏覽器標識的鍵值對:

在Python爬蟲中如何將PhantomJS偽裝成Chrome瀏覽器

最后,在實例化PhantomJS中設為參數:

在Python爬蟲中如何將PhantomJS偽裝成Chrome瀏覽器

完整的代碼如下:

在Python爬蟲中如何將PhantomJS偽裝成Chrome瀏覽器

我們運行一下代碼:

在Python爬蟲中如何將PhantomJS偽裝成Chrome瀏覽器

成功地將PhantomJS標識為了Chrome瀏覽器。

上述內容就是在Python爬蟲中如何將PhantomJS偽裝成Chrome瀏覽器,你們學到知識或技能了嗎?如果還想學到更多技能或者豐富自己的知識儲備,歡迎關注億速云行業資訊頻道。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

嘉定区| 沙河市| 遂昌县| 盐津县| 习水县| 建宁县| 吴忠市| 灵武市| 建德市| 阿勒泰市| 老河口市| 巨鹿县| 兴国县| 峨边| 佛教| 满城县| 兴安盟| 阜城县| 姜堰市| 蛟河市| 东港市| 漾濞| 贵州省| 安西县| 西充县| 蒲江县| 红安县| 嘉善县| 南木林县| 和政县| 钟祥市| 宜兰县| 商丘市| 化隆| 南投市| 屯昌县| 东方市| 车致| 衡阳市| 于田县| 乌拉特后旗|