Python進程池Pool的示例分析

這篇文章主要介紹Python進程池Pool的示例分析，文中介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們一定要看完！

具體如下：

當需要創建的子進程數量不多時，可以直接利用multiprocessing中的Process動態成生多個進程，但如果是上百甚至上千個目標，手動的去創建進程的工作量巨大，此時就可以用到multiprocessing模塊提供的Pool方法。

初始化Pool時，可以指定一個最大進程數，當有新的請求提交到Pool中時，如果池還沒有滿，那么就會創建一個新的進程用來執行該請求；但如果池中的進程數已經達到指定的最大值，那么該請求就會等待，直到池中有進程結束，才會用之前的進程來執行新的任務，請看下面的實例：

# -*- coding:utf-8 -*-
from multiprocessing import Pool
import os, time, random
def worker(msg):
  t_start = time.time()
  print("%s開始執行,進程號為%d" % (msg,os.getpid()))
  # random.random()隨機生成0~1之間的浮點數
  time.sleep(random.random()*2) 
  t_stop = time.time()
  print(msg,"執行完畢，耗時%0.2f" % (t_stop-t_start))
po = Pool(3) # 定義一個進程池，最大進程數3
for i in range(0,10):
  # Pool().apply_async(要調用的目標,(傳遞給目標的參數元祖,))
  # 每次循環將會用空閑出來的子進程去調用目標
  po.apply_async(worker,(i,))
print("----start----")
po.close() # 關閉進程池，關閉后po不再接收新的請求
po.join() # 等待po中所有子進程執行完成，必須放在close語句之后
print("-----end-----")

運行結果:

----start----
0開始執行,進程號為21466
1開始執行,進程號為21468
2開始執行,進程號為21467
0 執行完畢，耗時1.01
3開始執行,進程號為21466
2 執行完畢，耗時1.24
4開始執行,進程號為21467
3 執行完畢，耗時0.56
5開始執行,進程號為21466
1 執行完畢，耗時1.68
6開始執行,進程號為21468
4 執行完畢，耗時0.67
7開始執行,進程號為21467
5 執行完畢，耗時0.83
8開始執行,進程號為21466
6 執行完畢，耗時0.75
9開始執行,進程號為21468
7 執行完畢，耗時1.03
8 執行完畢，耗時1.05
9 執行完畢，耗時1.69
-----end-----

multiprocessing.Pool常用函數解析：

• apply_async(func[, args[, kwds]]) ：使用非阻塞方式調用func（并行執行，堵塞方式必須等待上一個進程退出才能執行下一個進程），args為傳遞給func的參數列表，kwds為傳遞給func的關鍵字參數列表；

• close()：關閉Pool，使其不再接受新的任務；

• terminate()：不管任務是否完成，立即終止；

• join()：主進程阻塞，等待子進程的退出， 必須在close或terminate之后使用；

進程池中的Queue

如果要使用Pool創建進程，就需要使用multiprocessing.Manager()中的Queue()，而不是multiprocessing.Queue()，否則會得到一條如下的錯誤信息：

RuntimeError: Queue objects should only be shared between processes through inheritance.

下面的實例演示了進程池中的進程如何通信：

# -*- coding:utf-8 -*-
# 修改import中的Queue為Manager
from multiprocessing import Manager,Pool
import os,time,random
def reader(q):
  print("reader啟動(%s),父進程為(%s)" % (os.getpid(), os.getppid()))
  for i in range(q.qsize()):
    print("reader從Queue獲取到消息：%s" % q.get(True))
def writer(q):
  print("writer啟動(%s),父進程為(%s)" % (os.getpid(), os.getppid()))
  for i in "itcast":
    q.put(i)
if __name__=="__main__":
  print("(%s) start" % os.getpid())
  q = Manager().Queue() # 使用Manager中的Queue
  po = Pool()
  po.apply_async(writer, (q,))
  time.sleep(1) # 先讓上面的任務向Queue存入數據，然后再讓下面的任務開始從中取數據
  po.apply_async(reader, (q,))
  po.close()
  po.join()
  print("(%s) End" % os.getpid())

運行結果:

(11095) start
writer啟動(11097),父進程為(11095)
reader啟動(11098),父進程為(11095)
reader從Queue獲取到消息：i
reader從Queue獲取到消息：t
reader從Queue獲取到消息：c
reader從Queue獲取到消息：a
reader從Queue獲取到消息：s
reader從Queue獲取到消息：t
(11095) End

以上是“Python進程池Pool的示例分析”這篇文章的所有內容，感謝各位的閱讀！希望分享的內容對大家有幫助，更多相關知識，歡迎關注億速云行業資訊頻道！