您好,登錄后才能下訂單哦!
今天就跟大家聊聊有關Elasticsearch分布式架構原理是什么,可能很多人都不太了解,為了讓大家更加了解,小編給大家總結了以下內容,希望大家根據這篇文章可以有所收獲。
Elasticsearch雖然能從更強大的硬件中獲得更好的性能,但是縱向擴展有它的局限性。真正的擴展應該是橫向的,它通過增加節點來均攤負載和增加可靠性。
對于大多數數據庫而言,橫向擴展意味著你的程序將做非常大的改動才能利用這些新添加的設備。對比來說,Elasticsearch天生就是分布式的:它知道如何管理節點來提供高擴展和高可用。這意味著你的程序不需要關心這些。
es 中存儲數據的基本單位是索引,我們為了將數據添加到ES中,就需要添加索引(index)
這里需要說一下ES中索引與分片(shard)的關系:一個分片(shard)是一個最小級別“工作單元(worker unit)”,它只是保存了索引中所有數據的一部分;所有的文檔均存在分片中,而直接與應用程序進行交互的再而三索引。
下面我們以酒店搜索為例,添加所有酒店索引hotel_idx
PUT /hotel_idx { "settings" : { "number_of_shards" : 3, "number_of_replicas" : 1 } }
我們啟動三個ES節點,當前hotel_idx 分配3個主分片(primary shard),每個主分片1個副本分片(replica shard)。、
1,ES Client 會挑一個Node,上面挑選了NODE1,則成為協調節點,進行寫入數據,此時ES怎么才能知道將一個文檔(一條酒店數據)路由到哪個分片中呢,實際上,他是根據這個公式:
shard=hash(routing)%number_of_primary_shards
routing 是一個可變值,默認是文檔的 _id ,也可以設置成一個自定義的值,這里可以是酒店的hotel_id。routing 通過 hash 函數生成一個數字,然后這個數字再除以 number_of_primary_shards (主分片的數量)后得到 余數 。這個分布在 0 到 number_of_primary_shards-1 之間的余數,就是我們所尋求的文檔所在分片的位置。
2,寫完P0后就會同步到他的副本R0中去,同步成功則會返回給協調節點Node1,最后返回Client
3,ES client讀取數據均可以讀取主副分片
如上NODE1-master節點宕機了,ES則會進行重新選舉(如果需要后面考慮分享一下分布式選舉專題),假如選了NODE2為master。
如果是非master宕機(node2),master節點node1則會將Node3的R1副本轉為主分片P1接收寫操作,如果NODE2恢復了,則之前的P1轉為R1副本。
ES在創建索引時就需要指定主分片的數量,所以主分片指定了是不能再擴充的,當存儲容量超過了目前的ES節點,一般有些生產做法是,重新再建立了新索引比目前多一點shard,然后導入數據,但這種也是有些缺點的:這樣做將消耗的時間是我們無法提供的;
我們一般的做法是事先進行預分配,通過事先規劃,我們可以使用 預分配 的方式來完全避免這個問題。
其中,副本分片是可以動態擴展的,在讀取很大的場景下,適當的擴充副本會增加吞吐量。
PUT /hotel_idx/_settings { "number_of_replicas" : 2 }
其實這個是不好解釋的,因為實在有太多相關的因素了:你使用的硬件、文檔的大小和復雜度、文檔的索引分析方式、運行的查詢類型、執行的聚合以及你的數據模型等等。
生產中經驗建議:
基于你準備用于生產環境的硬件創建一個擁有單個節點的集群。
創建一個和你準備用于生產環境相同配置和分析器的索引,但讓它只有一個主分片無副本分片。
索引實際的文檔(或者盡可能接近實際)。
運行實際的查詢和聚合(或者盡可能接近實際)。
基本來說,你需要復制真實環境的使用方式并將它們全部壓縮到單個分片上直到它“掛掉。” 實際上 掛掉 的定義也取決于你:一些用戶需要所有響應在 50 毫秒內返回;另一些則樂于等上 5 秒鐘。
一旦你定義好了單個分片的容量,很容易就可以推算出整個索引的分片數。用你需要索引的數據總數加上一部分預期的增長,除以單個分片的容量,結果就是你需要的主分片個數。
看完上述內容,你們對Elasticsearch分布式架構原理是什么有進一步的了解嗎?如果還想了解更多知識或者相關內容,請關注億速云行業資訊頻道,感謝大家的支持。
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。