您好,登錄后才能下訂單哦!
在Python中利用grequests實現一個并發請求功能?相信很多沒有經驗的人對此束手無策,為此本文總結了問題出現的原因和解決方法,通過這篇文章希望你能解決這個問題。
前言
requests是Python發送接口請求非常好用的一個三方庫,由K神編寫,簡單,方便上手快。但是requests發送請求是串行的,即阻塞的。發送完一條請求才能發送另一條請求。
為了提升測試效率,一般我們需要并行發送請求。這里可以使用多線程,或者協程,gevent或者aiohttp,然而使用起來,都相對麻煩。
grequests簡單使用
首先構造一個請求列表,使用grequests.map()并行發送,得到一個響應列表。示例如下。
import grequests req_list = [ # 請求列表 grequests.get('http://httpbin.org/get?a=1&b=2'), grequests.post('http://httpbin.org/post', data={'a':1,'b':2}), grequests.put('http://httpbin.org/post', json={'a': 1, 'b': 2}), ] res_list = grequests.map(req_list) # 并行發送,等最后一個運行完后返回 print(res_list[0].text) # 打印第一個請求的響應文本
grequests支持get、post、put、delete等requests支持的HTTP請求方法,使用參數和requests一致,發送請求非常簡單。
通過遍歷res_list可以得到所有請求的返回結果。
grequests和requests性能對比
我們可以對比下requests串行和grequests并行請求100次github.com的時間,示例如下。
使用requests發送請求
import requests import time start = time.time() res_list = [requests.get('https://github.com') for i in range(100)] print(time.time()-start)
實際耗時約100s+
使用grequests發送
import grequests import time start = time.time() req_list = [grequests.get('https://github.com') for i in range(100)] res_list = grequests.map(req_list) print(time.time()-start)
際耗時約3.58s
異常處理
在批量發送請求時難免遇到某個請求url無法訪問或超時等異常,grequests.map()方法還支持自定義異常處理函數,示例如下。
import grequests def err_handler(request, exception): print("請求出錯") req_list = [ grequests.get('http://httpbin.org/delay/1', timeout=0.001), # 超時異常 grequests.get('http://fakedomain/'), # 該域名不存在 grequests.get('http://httpbin.org/status/500') # 正常返回500的請求 ] res_list = grequests.map(reqs, exception_handler=err_handler) print(res_list)
運行結果:
請求出錯
請求出錯
[None, None, <Response [500]>]
看完上述內容,你們掌握在Python中利用grequests實現一個并發請求功能的方法了嗎?如果還想學到更多技能或想了解更多相關內容,歡迎關注億速云行業資訊頻道,感謝各位的閱讀!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。