您好,登錄后才能下訂單哦!
Job直譯過來就是工作,可以是任意的Python函數,你可以把你想要異步執行的任務都寫成Job函數。簡而言之,Job就是你想執行的操作。例如,我想統計任意網頁的字符數量,可以寫一個這樣的Job函數:
import requests
def count_words(url):
return len(requests.get(url).text.split())
這樣一個函數就可以稱之為Job。
當我有很多Job時,假如我現在有3個Job,分別是j1、j2、j3,那么當計算機要執行這些任務的時候,會按照j1、j2、j3加入的順序來執行這些Job,這樣的一個可以忘里面添加Job,并且能夠順序執行隊列稱之為Queue。
例如,我們可以這樣來構建一個Queue:
import redis from rq import Queue redis_conn = redis.Redis() q = Queue('default', connection=redis_conn) # 第一個參數是Queue的名稱,可以不傳,默認為default
j = q.enqueue(count_words, args=('https://www.baidu.com',))
enqueue第一參數是Job函數,args是Job函數的參數,關鍵字參數可以通過kwargs傳入。
Worker是Job的消費者,簡單來說,你把很多Job加入到了Queue,誰來運行這些Job呢?當然就是Worker啦,你也可以看出Worker必須是獨立的進程,這個進程從Redis里面獲取Job的信息(包括函數、參數等等),然后運行這個Job。
啟動Worker進程也很簡單:
$ rq worker low high default 16:56:02 RQ worker 'rq:worker:s2.6443' started, version 0.8.1 16:56:02 Cleaning registries for queue: low 16:56:02 Cleaning registries for queue: high 16:56:02 Cleaning registries for queue: default 16:56:02 16:56:02 *** Listening on low, high, default...
后面的三個參數low、high、default,就是這個Worker將要運行哪些Queue里面的Job,這個順序很重要,排在前面的Queue里面的Job將優先被運行。
jobs.py
[root@iZ2ze66bhrbxkc31nljgjnZ ~]# more jobs.py
import requests
import redis
from rq import Queue
import pymysql
def count_words(url):
return len(requests.get(url).text.split())
def recover_to_db(sql, dbinfo):
dbinfo['charset'] = 'utf8mb4'
dbinfo['autocommit'] = True
dbconn = pymysql.Connect(**dbinfo)
dbconn.autocommit(1)
cur = dbconn.cursor()
cur.execute(sql)
dbconn.close()
app.py
from jobs import count_words,recover_to_db
import requests
import redis
from rq import Queue
import time
def run():
redis_conn = redis.Redis()
q = Queue(connection=redis_conn)
for i in range(92,99):
j = q.enqueue(recover_to_db, 'insert into `tt`(`id`) VALUES (%d);' % i,{'host': '47.93.243.162', 'password': 'ESBecs00', 'port': 3306, 'user': 'root','db':'te
st'})
#j = q.enqueue(, 'https://www.baidu.com')
#print(j.result)
#time.sleep(3)
#print(j.result)
if __name__ == '__main__':
run()
啟動Worker:
$ rq worker
運行:
$ python app.py
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。