您好,登錄后才能下訂單哦!
今天就跟大家聊聊有關Storm中的URLInjector該怎么理解,可能很多人都不太了解,為了讓大家更加了解,小編給大家總結了以下內容,希望大家根據這篇文章可以有所收獲。
介紹: URLInjector,我封裝了的一個簡單的客戶端,我們將要放URLs,到一個分片隊列里面 【sharded queue】,只有放置到分片隊列的數據才會被Storm的管線所處理。
package com.digitalpebble.storm.crawler; import java.io.BufferedReader; import java.io.File; import java.io.FileReader; import com.digitalpebble.storm.crawler.util.Configuration; import com.digitalpebble.storm.fetchqueue.ShardedQueue; public class URLInjector { private ShardedQueue queue; URLInjector() throws Exception { Configuration config = StormConfiguration.create(); queue = ShardedQueue.getInstance(config); } public void add(String url) { try { queue.add(url); } catch (Exception e) { e.printStackTrace(); } } public void close() { queue.close(); } public static void main(String[] args) throws Exception { String messages = args[0]; URLInjector client = new URLInjector(); BufferedReader reader = new BufferedReader(new FileReader(new File( messages))); String line = null; while ((line = reader.readLine()) != null) { client.add(line.trim()); } reader.close(); client.close(); } }
看完上述內容,你們對Storm中的URLInjector該怎么理解有進一步的了解嗎?如果還想了解更多知識或者相關內容,請關注億速云行業資訊頻道,感謝大家的支持。
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。