如何在Python3中使用進程池和回調函數

這篇文章給大家介紹如何在Python3中使用進程池和回調函數，內容非常詳細，感興趣的小伙伴們可以參考借鑒，希望對大家能有所幫助。

方式一

from multiprocessing import Pool


def deal_task(n):
 n -= 1
 return n


if __name__ == '__main__':
 n = 10
 p = Pool(4)
 for i in range(4):
  res = p.apply(deal_task, args=(n,))
  #調用apply是一個串行的效果，任務會被進程一個一個的處理，直接得到結果
  #前提是執行的任務必須要有返回值
  print(res)

方式二

from multiprocessing import Pool


def deal_task(n):
 n -= 1
 return n


if __name__ == '__main__':
 n = 10
 p = Pool(4)
 obj_l = []
 for i in range(4):
  #調用apply_async會返回一個對象，主進程會不斷扔任務給線程池，讓子線程處理
  obj = p.apply_async(deal_task, args=(n,))
  obj_l.append(obj)
 #首先函數要有返回值
 #調用close目的是防止join期間會有別的任務被添加到任務列表中
 #不調用close會報錯
 p.close()
 p.join()
 #join是要讓子進程全部處理完之后得到結果統一處理，還有一個非常重要的原因是進程池依附于主進程，主進程結束，進程池消失。進程池的任務沒有被處理程序就結束了。
 for obj in obj_l:
  print(obj.get())

方式三

from multiprocessing import Pool

import requests


def get_page(url):
 ret = requests.get(url).text
 return {'url': url, 'ret': ret}


def parse_page(ret):
 with open('ab.txt', 'a') as f:
  f.write('%s - %s\n' % (ret['url'], len(ret['ret'])))


if __name__ == '__main__':
 urls = [
  'https://www.baidu.com',
  'http://www.openstack.org',
  'https://www.python.org',
  'https://help.github.com/',
  'http://www.sina.com.cn/'
 ]
 p = Pool()
 for url in urls:
  #使用回調函數，當get_page下載完后，主線程調用parse_page自動處理get_page下載的結果，節省了parse_page的時間，該場景用于一個函數為耗時操作并且產生數據，另一個函數是非耗時操作，這樣就節省了非耗時操作函數的時間
  p.apply_async(get_page, args=(url,), callback=parse_page)

 p.close()
 p.join()
 print('主')

join是要讓子進程全部處理完之后得到結果統一處理，還有一個非常重要的原因是進程池依附于主進程，主進程結束，進程池消失。進程池的任務沒有被處理程序就結束了。

關于如何在Python3中使用進程池和回調函數就分享到這里了，希望以上內容可以對大家有一定的幫助，可以學到更多知識。如果覺得文章不錯，可以把它分享出去讓更多的人看到。