python scrapy.Request怎么發送請求

這篇文章主要講解了“python scrapy.Request怎么發送請求”，文中的講解內容簡單清晰，易于學習與理解，下面請大家跟著小編的思路慢慢深入，一起來研究和學習“python scrapy.Request怎么發送請求”吧！

說明

1、使用scrapy.Request()指定method,body參數發送post請求。

2、使用scrapy.FormRequest()發送post請求，也可以發送表格和ajax請求。

實例

import scrapy
 
 
class Git2Spider(scrapy.Spider):
    name = 'git2'
    allowed_domains = ['github.com']
    start_urls = ['http://github.com/login']
 
    def parse(self, response):
        username = 'GitLqr'
        password = 'balabala'
 
        # 從登錄頁面響應中解析出post數據
        token = response.xpath('//input[@name="authenticity_token"]/@value').extract_first()
 
        post_data = {
            'commit': 'Sign in',
            'authenticity_token': token,
            'login': username,
            'password': password,
            'webauthn-support': 'supported',
        }
        print(post_data)
 
        # 針對登錄url發送post請求
        yield scrapy.FormRequest(
            url='https://github.com/session',
            callback=self.after_login,
            formdata=post_data
        )
 
    def after_login(self, response):
        yield scrapy.Request('https://github.com/GitLqr', callback=self.check_login)
 
    def check_login(self, response):
        print(response.xpath('/html/head/title/text()').extract_first())

感謝各位的閱讀，以上就是“python scrapy.Request怎么發送請求”的內容了，經過本文的學習后，相信大家對python scrapy.Request怎么發送請求這一問題有了更深刻的體會，具體使用情況還需要大家實踐驗證。這里是億速云，小編將為大家推送更多相關知識點的文章，歡迎關注！