91超碰碰碰碰久久久久久综合_超碰av人澡人澡人澡人澡人掠_国产黄大片在线观看画质优化_txt小说免费全本

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

使用Python怎么爬取知乎圖片

發布時間:2021-06-04 18:01:27 來源:億速云 閱讀:173 作者:Leah 欄目:開發技術

本篇文章為大家展示了使用Python怎么爬取知乎圖片,內容簡明扼要并且容易理解,絕對能使你眼前一亮,通過這篇文章的詳細介紹希望你能有所收獲。

import requests
import re
import pymongo
import time
DATABASE_IP = '127.0.0.1'
DATABASE_PORT = 27017
DATABASE_NAME = 'sun'
client = pymongo.MongoClient(DATABASE_IP,DATABASE_PORT)
db = client.sun
db.authenticate("dba", "dba")
collection = db.zhihuone # 準備插入數據
BASE_URL = "https://www.zhihu.com/question/{}"
def get_totle_answers(article_id):
  headers = {
    "user-agent": "需要自己補全 Mozilla/5.0 (Windows NT 10.0; WOW64)"
  }
  with requests.Session() as s:
    with s.get(BASE_URL.format(article_id),headers=headers,timeout=3) as rep:
      html = rep.text
      pattern =re.compile( '<meta itemProp="answerCount" content="(\d*?)"/>')
      s = pattern.search(html)
      print("查找到{}條數據".format(s.groups()[0]))
      return s.groups()[0]
if __name__ == '__main__':
  # 用死循環判斷用戶輸入的是否是數字
  article_id = ""
  while not article_id.isdigit():
    article_id = input("請輸入文章ID:")
  totle = get_totle_answers(article_id)
  if int(totle)>0:
    zhi = ZhihuOne(article_id,totle)
    zhi.run()
  else:
    print("沒有任何數據!")

完善圖片下載部分,圖片下載地址在查閱過程中發現,存在json字段的content中,我們采用簡單的正則表達式將他匹配出來。細節如下圖展示

使用Python怎么爬取知乎圖片

編寫代碼吧,下面的代碼注釋請仔細閱讀,中間有一個小BUG,需要手動把pic3修改為pic2這個地方目前原因不明確,可能是我本地網絡的原因,還有請在項目根目錄先創建一個imgs的文件夾,用來存儲圖片

  def download_img(self,data):
    ## 下載圖片
    for item in data["data"]:
      content = item["content"]
      pattern = re.compile('<noscript>(.*?)</noscript>')
      imgs = pattern.findall(content)
      if len(imgs) > 0:
        for img in imgs:
          match = re.search('<img src="(.*?)"', img)
          download = match.groups()[0]
          download = download.replace("pic3", "pic2") # 小BUG,pic3的下載不到
          print("正在下載{}".format(download), end="")
          try:
            with requests.Session() as s:
              with s.get(download) as img_down:
                # 獲取文件名稱
                file = download[download.rindex("/") + 1:]
                content = img_down.content
                with open("imgs/{}".format(file), "wb+") as f: # 這個地方進行了硬編碼
                  f.write(content)

                print("圖片下載完成", end="\n")
          except Exception as e:
            print(e.args)
      else:
        pass

上述內容就是使用Python怎么爬取知乎圖片,你們學到知識或技能了嗎?如果還想學到更多技能或者豐富自己的知識儲備,歡迎關注億速云行業資訊頻道。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

郑州市| 梁河县| 广安市| 翁牛特旗| 陈巴尔虎旗| 彝良县| 富宁县| 休宁县| 辽宁省| 喜德县| 云安县| 介休市| 连云港市| 虞城县| 抚远县| 甘德县| 太和县| 金阳县| 盐津县| 东丽区| 泰宁县| 东山县| 石城县| 林口县| 长子县| 钟祥市| 咸宁市| 获嘉县| 旌德县| 麦盖提县| 克拉玛依市| 苗栗县| 大关县| 西和县| 上林县| 锡林浩特市| 本溪市| 九龙坡区| 嘉兴市| 遂宁市| 山东|