您好,登錄后才能下訂單哦!
本篇內容主要講解“kubernetes中etcd增刪改查的具體實現”,感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷,實用性強。下面就讓小編來帶大家學習“kubernetes中etcd增刪改查的具體實現”吧!
kubernetes中基于etcd實現集中的數據存儲,今天來學習下基于etcd如何實現數據讀取一致性、更新一致性、事務的具體實現
在k8s中有部分數據的存儲是需要經過處理之后才能存儲的,比如secret這種加密的數據,既然要存儲就至少包含兩個操作,加密存儲,解密讀取,transformer就是為了完成該操作而實現的,其在進行etcd數據存儲的時候回對數據進行加密,而在讀取的時候,則會進行解密
在etcd中進行修改(增刪改)操作的時候,都會遞增revision,而在k8s中也通過該值來作為k8s資源的ResourceVersion,該機制也是實現watch的關鍵機制,在操作etcd解碼從etcd獲取的數據的時候,會通過versioner組件來為資源動態的修改該值
將數據從etcd中讀取后,數據本身就是一個字節數組,如何將對應的數據轉換成我們真正的運行時對象呢?還記得我們之前的scheme與codec么,在這里我們知道對應的數據編碼格式,也知道資源對象的類型,則通過codec、字節數組、目標類型,我們就可以完成對應數據的反射
etcd中的數據寫入是基于leader單點寫入和集群quorum機制實現的,并不是一個強一致性的數據寫入,則如果如果我們訪問的節點不存在quorum的半數節點內,則可能造成短暫的數據不一致,針對一些強一致的場景,我們可以通過其revision機制來進行數據的讀取, 保證我們讀取到更新之后的數據
// 省略非核心代碼 func (s *store) Get(ctx context.Context, key string, resourceVersion string, out runtime.Object, ignoreNotFound bool) error { // 獲取key getResp, err := s.client.KV.Get(ctx, key, s.getOps...) // 檢測當前版本,是否達到最小版本的 if err = s.ensureMinimumResourceVersion(resourceVersion, uint64(getResp.Header.Revision)); err != nil { return err } // 執行數據轉換 data, _, err := s.transformer.TransformFromStorage(kv.Value, authenticatedDataString(key)) if err != nil { return storage.NewInternalError(err.Error()) } // 解碼數據 return decode(s.codec, s.versioner, data, out, kv.ModRevision) }
創建一個接口數據則會首先進行資源對象的檢查,避免重復創建對象,此時會先通過資源對象的version字段來進行初步檢查,然后在利用etcd的事務機制來保證資源創建的原子性操作
// 省略非核心代碼 func (s *store) Create(ctx context.Context, key string, obj, out runtime.Object, ttl uint64) error { if version, err := s.versioner.ObjectResourceVersion(obj); err == nil && version != 0 { return errors.New("resourceVersion should not be set on objects to be created") } if err := s.versioner.PrepareObjectForStorage(obj); err != nil { return fmt.Errorf("PrepareObjectForStorage failed: %v", err) } // 將數據編碼 data, err := runtime.Encode(s.codec, obj) if err != nil { return err } // 轉換數據 newData, err := s.transformer.TransformToStorage(data, authenticatedDataString(key)) if err != nil { return storage.NewInternalError(err.Error()) } startTime := time.Now() // 事務操作 txnResp, err := s.client.KV.Txn(ctx).If( notFound(key), // 如果之前不存在 這里是利用的etcd的ModRevision即修改版本為0, 寓意著對應的key不存在 ).Then( clientv3.OpPut(key, string(newData), opts...), // put修改數據 ).Commit() metrics.RecordEtcdRequestLatency("create", getTypeName(obj), startTime) if err != nil { return err } if !txnResp.Succeeded { return storage.NewKeyExistsError(key, 0) } if out != nil { // 獲取對應的Revision putResp := txnResp.Responses[0].GetResponsePut() return decode(s.codec, s.versioner, data, out, putResp.Header.Revision) } return nil } func notFound(key string) clientv3.Cmp { return clientv3.Compare(clientv3.ModRevision(key), "=", 0) }
刪除接口主要是通過CAS和事務機制來共同實現,確保在etcd不發生異常的情況,即使并發對同個資源來進行刪除操作也能保證至少有一個節點成功
// 省略非核心代碼 func (s *store) conditionalDelete(ctx context.Context, key string, out runtime.Object, v reflect.Value, preconditions *storage.Preconditions, validateDeletion storage.ValidateObjectFunc) error { startTime := time.Now() // 獲取當前的key的數據 getResp, err := s.client.KV.Get(ctx, key) for { // 獲取當前的狀態 origState, err := s.getState(getResp, key, v, false) if err != nil { return err } txnResp, err := s.client.KV.Txn(ctx).If( clientv3.Compare(clientv3.ModRevision(key), "=", origState.rev), // 如果修改版本等于當前狀態,就嘗試刪除 ).Then( clientv3.OpDelete(key), // 刪除 ).Else( clientv3.OpGet(key), // 獲取 ).Commit() if !txnResp.Succeeded { // 獲取最新的數據重試事務操作 getResp = (*clientv3.GetResponse)(txnResp.Responses[0].GetResponseRange()) klog.V(4).Infof("deletion of %s failed because of a conflict, going to retry", key) continue } // 將最后一個版本的數據解碼到out里面,然后返回 return decode(s.codec, s.versioner, origState.data, out, origState.rev) } }
更新接口實現上與刪除接口并無本質上的差別,但是如果多個節點同時進行更新,CAS并發操作必然會有一個節點成功,當發現已經有節點操作成功,則當前節點其實并不需要再做過多的操作,直接返回即可
// 省略非核心代碼 func (s *store) GuaranteedUpdate( ctx context.Context, key string, out runtime.Object, ignoreNotFound bool, preconditions *storage.Preconditions, tryUpdate storage.UpdateFunc, suggestion ...runtime.Object) error { // 獲取當前key的最新數據 getCurrentState := func() (*objState, error) { startTime := time.Now() getResp, err := s.client.KV.Get(ctx, key, s.getOps...) metrics.RecordEtcdRequestLatency("get", getTypeName(out), startTime) if err != nil { return nil, err } return s.getState(getResp, key, v, ignoreNotFound) } // 獲取當前數據 var origState *objState var mustCheckData bool if len(suggestion) == 1 && suggestion[0] != nil { // 如果提供了建議的數據,則會使用, origState, err = s.getStateFromObject(suggestion[0]) if err != nil { return err } //但是需要檢測數據 mustCheckData = true } else { // 嘗試重新獲取數據 origState, err = getCurrentState() if err != nil { return err } } transformContext := authenticatedDataString(key) for { // 檢查對象是否已經更新, 主要是通過檢測uuid/revision來實現 if err := preconditions.Check(key, origState.obj); err != nil { // If our data is already up to date, return the error if !mustCheckData { return err } // 如果檢查數據一致性錯誤,則需要重新獲取 origState, err = getCurrentState() if err != nil { return err } mustCheckData = false // Retry continue } // 刪除當前的版本數據revision ret, ttl, err := s.updateState(origState, tryUpdate) if err != nil { // If our data is already up to date, return the error if !mustCheckData { return err } // It's possible we were working with stale data // Actually fetch origState, err = getCurrentState() if err != nil { return err } mustCheckData = false // Retry continue } // 編碼數據 data, err := runtime.Encode(s.codec, ret) if err != nil { return err } if !origState.stale && bytes.Equal(data, origState.data) { // 如果我們發現我們當前的數據與獲取到的數據一致,則會直接跳過 if mustCheckData { origState, err = getCurrentState() if err != nil { return err } mustCheckData = false if !bytes.Equal(data, origState.data) { // original data changed, restart loop continue } } if !origState.stale { // 直接返回數據 return decode(s.codec, s.versioner, origState.data, out, origState.rev) } } // 磚漢數據 newData, err := s.transformer.TransformToStorage(data, transformContext) if err != nil { return storage.NewInternalError(err.Error()) } opts, err := s.ttlOpts(ctx, int64(ttl)) if err != nil { return err } trace.Step("Transaction prepared") startTime := time.Now() // 事務更新數據 txnResp, err := s.client.KV.Txn(ctx).If( clientv3.Compare(clientv3.ModRevision(key), "=", origState.rev), ).Then( clientv3.OpPut(key, string(newData), opts...), ).Else( clientv3.OpGet(key), ).Commit() metrics.RecordEtcdRequestLatency("update", getTypeName(out), startTime) if err != nil { return err } trace.Step("Transaction committed") if !txnResp.Succeeded { // 重新獲取數據 getResp := (*clientv3.GetResponse)(txnResp.Responses[0].GetResponseRange()) klog.V(4).Infof("GuaranteedUpdate of %s failed because of a conflict, going to retry", key) origState, err = s.getState(getResp, key, v, ignoreNotFound) if err != nil { return err } trace.Step("Retry value restored") mustCheckData = false continue } // 獲取put響應 putResp := txnResp.Responses[0].GetResponsePut() return decode(s.codec, s.versioner, data, out, putResp.Header.Revision) } }
到此,相信大家對“kubernetes中etcd增刪改查的具體實現”有了更深的了解,不妨來實際操作一番吧!這里是億速云網站,更多相關內容可以進入相關頻道進行查詢,關注我們,繼續學習!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。