91超碰碰碰碰久久久久久综合_超碰av人澡人澡人澡人澡人掠_国产黄大片在线观看画质优化_txt小说免费全本

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

nodejs如何抓包工具

發布時間:2021-07-10 14:06:32 來源:億速云 閱讀:320 作者:小新 欄目:web開發

這篇文章主要介紹nodejs如何抓包工具,文中介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們一定要看完!

1.在你的電腦桌面新建一個reptileDemo文件夾。

然后進入文件夾,然后在改文件夾目錄下打開cmd。輸入下圖所示回車,連續按回車即可。

nodejs如何抓包工具

初始化完之后,你會在文件夾里面看下package.json文件,里面就是一些基本的包管理基本配置。

2.cmd輸入下圖所示,然后回車

nodejs如何抓包工具

這步是安裝cheerio模塊,主要是用來解釋html和使用jqueryAPI來操作請求返回的html。

3.cmd輸入下圖所示,然后回車

nodejs如何抓包工具

這步是安裝request模塊,主要是用來發請求處理的。

4.文件夾內添加一個data文件夾,用來存放抓包的數據。

5.文件夾內新建app.js文件。添加內容如下:

let fs = require('fs');
let cheerio = require('cheerio');
let request = require('request');
let path = require('path');
let i = 0;
let j = 0;
//初始需要抓取的頁面url 
let url = "http://www.silver.org.cn/cjyw/list_p_1.html";
let http = url.includes('https') ? require('https') : require('http');

function startRequest(x) {
  // 采用http模塊向服務器發起一次get請求   
  http.get(x, function(res) {
    // 用來存儲請求網頁的整個html內容
    var html = '';
    var titles = [];
    // 防止中文亂碼
    res.setEncoding('utf-8'); 
    // 監聽data事件,每次取一塊數據
    res.on('data', function(chunk) {
      html += chunk;
    });
    // 監聽end事件,如果整個網頁內容的html都獲取完畢,就執行回調函數
    res.on('end', function() {
      // 采用cheerio模塊解析html
      var $ = cheerio.load(html); 
      j = 0;
      savedContent($);
      i++;
      console.log('抓包頁碼:' + i);
      // 限制請求頁數
      if (i <= 10) {
        fetchPage(`http://www.silver.org.cn/cjyw/list_p_${i}.html`);
      } else {
        console.log('抓包完成');
      };
    });
  }).on('error', function(err) {
    console.log(err);
  });
}
//保存內容
function savedContent($) {
  var item = $('.lt_col li')[j]
  // 標題
  var x = $(item).find('h3').text().trim();
  // 內容
  var y = $(item).find('p').text().trim();
  // 圖片地址
  var z = $(item).find('img').attr('src');
  // 圖片文件名
  var o = path.basename(z);
  // 創建文件夾
  fs.mkdir(`./data/${x}`, err => {
    if (!err) {
      // 保存文本
      fs.appendFile(`./data/${x}/index.txt`, `標題:${x}\n內容:${y}`, 'utf-8', err => {
        if (err) {
          console.log(`****創建txt失敗****: ${x}`);
        }
      });
      // 保存圖片
      request.head(z, (err, res, body) => {
        if (err) {
          console.log(`****請求圖片失敗****: ${x}`);
        }
      });
      // 寫圖片到本地
      request(z).pipe(fs.createWriteStream(`./data/${x}/${o}`));
      j++;
      if (j <= $('.lt_col li').length - 1) {
        savedContent($)
      }

    }
  })
}

startRequest(url); //主程序開始運行

本項目主要是抓取一個新聞網站的新聞列表數據,有標題,內容和圖片。

6.package.json修改如下:

"scripts": {
  "test": "echo \"Error: no test specified\" && exit 1",
  "dev": "node app.js"
 },

nodejs如何抓包工具

完結。

做完上面操作之后你就可以使用cmd,然后輸入

nodejs如何抓包工具

預覽

nodejs如何抓包工具

nodejs如何抓包工具

這樣就搞定了,是不是很爽啊。

瘋狂的程序員決不是靠狂妄和拼命的程序員,而是能夠腳踏實地,持續努力的程序員,一個程序員真正做到這兩點,技術上去后,唯一能限制他的只有想象力,到那個時候才算“瘋狂的程序員”,這種程序員,才能令對手無比恐懼。

以上是“nodejs如何抓包工具”這篇文章的所有內容,感謝各位的閱讀!希望分享的內容對大家有幫助,更多相關知識,歡迎關注億速云行業資訊頻道!

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

肇庆市| 屏山县| 二手房| 崇礼县| 吉木乃县| 三门县| 韩城市| 吴旗县| 江源县| 麻江县| 达孜县| 保定市| 博野县| 綦江县| 开化县| 河北省| 淮滨县| 姚安县| 大足县| 井陉县| 东城区| 普陀区| 徐汇区| 修武县| 台东县| 盖州市| 土默特右旗| 定襄县| 峨山| 黄陵县| 通山县| 桓台县| 泉州市| 二连浩特市| 唐海县| 威远县| 乐平市| 北辰区| 齐河县| 满洲里市| 盐池县|