0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

ClickHouse列式存儲數據庫的性能特性及底層存儲原理

數據分析與開發(fā) ? 來源:數據分析與開發(fā) ? 作者:數據分析與開發(fā) ? 2021-06-30 15:50 ? 次閱讀

ClickHouse是一款MPP架構的列式存儲數據庫,但MPP和列式存儲并不是什么"稀罕"的設計。擁有類似架構的其他數據庫產品也有很多,但是為什么偏偏只有ClickHouse的性能如此出眾呢?ClickHouse發(fā)展至今的演進過程一共經歷了四個階段,每一次階段演進,相比之前都進一步取其精華去其糟粕。可以說ClickHouse汲取了各家技術的精髓,將每一個細節(jié)都做到了極致。接下來將介紹ClickHouse的一些核心特性,正是這些特性形成的合力使得ClickHouse如此優(yōu)秀。

01完備的DBMS功能

ClickHouse擁有完備的管理功能,所以它稱得上是一個DBMS ( Database Management System,數據庫管理系統(tǒng)),而不僅是一個數據庫。作為一個DBMS,它具備了一些基本功能,如下所示。

?DDL (數據定義語言):可以動態(tài)地創(chuàng)建、修改或刪除數據庫、表和視圖,而無須重啟服務。

?DML (數據操作語言):可以動態(tài)查詢、插入、修改或刪除數據。

?權限控制:可以按照用戶粒度設置數據庫或者表的操作權限,保障數據的安全性。

?數據備份與恢復:提供了數據備份導出與導入恢復機制,滿足生產環(huán)境的要求。

?分布式管理:提供集群模式,能夠自動管理多個數據庫節(jié)點。

這里只列舉了一些最具代表性的功能,但已然足以表明為什么Click House稱得上是DBMS了。

02列式存儲與數據壓縮

列式存儲和數據壓縮,對于一款高性能數據庫來說是必不可少的特性。一個非常流行的觀點認為,如果你想讓查詢變得更快,最簡單且有效的方法是減少數據掃描范圍和數據傳輸時的大小,而列式存儲和數據壓縮就可以幫助我們實現(xiàn)上述兩點。列式存儲和數據壓縮通常是伴生的,因為一般來說列式存儲是數據壓縮的前提。

按列存儲與按行存儲相比,前者可以有效減少查詢時所需掃描的數據量,這一點可以用一個示例簡單說明。假設一張數據表A擁有50個字段A1~A50,以及100行數據。

a193ecc0-d8c0-11eb-9e57-12bb97331649.png

按列存儲相比按行存儲的另一個優(yōu)勢是對數據壓縮的友好性。同樣可以用一個示例簡單說明壓縮的本質是什么。假設有兩個字符串abcdefghi和bcdefghi,現(xiàn)在對它們進行壓縮,如下所示:

a1bb7efc-d8c0-11eb-9e57-12bb97331649.png

壓縮前:abcdefghi_bcdefghi

壓縮后:abcdefghi_(9,8)

可以看到,壓縮的本質是按照一定步長對數據進行匹配掃描,當發(fā)現(xiàn)重復部分的時候就進行編碼轉換。例如上述示例中的(9,8),表示如果從下劃線開始向前移動9個字節(jié),會匹配到8個字節(jié)長度的重復項,即這里的bcdefghi。

真實的壓縮算法自然比這個示例更為復雜,但壓縮的實質就是如此。數據中的重復項越多,則壓縮率越高;壓縮率越高,則數據體量越??;而數據體量越小,則數據在網絡中的傳輸越快,對網絡帶寬和磁盤IO的壓力也就越小。既然如此,那怎樣的數據最可能具備重復的特性呢?答案是屬于同一個列字段的數據,因為它們擁有相同的數據類型和現(xiàn)實語義,重復項的可能性自然就更高。

ClickHouse就是一款使用列式存儲的數據庫,數據按列進行組織,屬于同一列的數據會被保存在一起,列與列之間也會由不同的文件分別保存(這里主要指MergeTree表引擎)。數據默認使用LZ4算法壓縮,在Yandex.Metrica的生產環(huán)境中,數據總體的壓縮比可以達到8:1 (未壓縮前17PB,壓縮后2PB )。列式存儲除了降低IO和存儲的壓力之外,還為向量化執(zhí)行做好了鋪墊。

03向量化執(zhí)行引擎

坊間有句玩笑,即"能用錢解決的問題,千萬別花時間"。而業(yè)界也有種調侃如出一轍,即"能升級硬件解決的問題,千萬別優(yōu)化程序"。有時候,你千辛萬苦優(yōu)化程序邏輯帶來的性能提升,還不如直接升級硬件來得簡單直接。這雖然只是一句玩笑不能當真,但硬件層面的優(yōu)化確實是最直接、最高效的提升途徑之一。向量化執(zhí)行就是這種方式的典型代表,這項寄存器硬件層面的特性,為上層應用程序的性能帶來了指數級的提升。

向量化執(zhí)行,可以簡單地看作一項消除程序中循環(huán)的優(yōu)化。這里用一個形象的例子比喻。小胡經營了一家果汁店,雖然店里的鮮榨蘋果汁深受大家喜愛,但客戶總是抱怨制作果汁的速度太慢。小胡的店里只有一臺榨汁機,每次他都會從籃子里拿出一個蘋果,放到榨汁機內等待出汁。如果有8個客戶,每個客戶都點了一杯蘋果汁,那么小胡需要重復循環(huán)8次上述的榨汁流程,才能榨出8杯蘋果汁。如果制作一杯果汁需要5分鐘,那么全部制作完畢則需要40分鐘。為了提升果汁的制作速度,小胡想出了一個辦法。他將榨汁機的數量從1臺增加到了8臺,這么一來,他就可以從籃子里一次性拿出8個蘋果,分別放入8臺榨汁機同時榨汁。此時,小胡只需要5分鐘就能夠制作出8杯蘋果汁。為了制作n杯果汁,非向量化執(zhí)行的方式是用1臺榨汁機重復循環(huán)制作n次,而向量化執(zhí)行的方式是用n臺榨汁機只執(zhí)行1次。

為了實現(xiàn)向量化執(zhí)行,需要利用CPUSIMD指令。SIMD的全稱是Single Instruction Multiple Data,即用單條指令操作多條數據?,F(xiàn)代計算機系統(tǒng)概念中,它是通過數據并行以提高性能的一種實現(xiàn)方式(其他的還有指令級并行和線程級并行),它的原理是在CPU寄存器層面實現(xiàn)數據的并行操作。

在計算機系統(tǒng)的體系結構中,存儲系統(tǒng)是一種層次結構。典型服務器計算機的存儲層次結構如圖1所示。一個實用的經驗告訴我們,存儲媒介距離CPU越近,則訪問數據的速度越快。

a1c680d6-d8c0-11eb-9e57-12bb97331649.png

從上圖中可以看到,從左向右,距離CPU越遠,則數據的訪問速度越慢。從寄存器中訪問數據的速度,是從內存訪問數據速度的300倍,是從磁盤中訪問數據速度的3000萬倍。所以利用CPU向量化執(zhí)行的特性,對于程序的性能提升意義非凡。

ClickHouse目前利用SSE4.2指令集實現(xiàn)向量化執(zhí)行。

04關系模型與SQL查詢

相比HBase和Redis這類NoSQL數據庫,ClickHouse使用關系模型描述數據并提供了傳統(tǒng)數據庫的概念(數據庫、表、視圖和函數等)。與此同時,ClickHouse完全使用SQL作為查詢語言(支持GROUP BY、ORDER BY、JOIN、IN等大部分標準SQL ),這使得它平易近人,容易理解和學習。因為關系型數據庫和SQL語言,可以說是軟件領域發(fā)展至今應用最為廣泛的技術之一,擁有極高的"群眾基礎"。也正因為ClickHouse提供了標準協(xié)議的SQL查詢接口,使得現(xiàn)有的第三方分析可視化系統(tǒng)可以輕松與它集成對接。在SQL解析方面,ClickHouse是大小寫敏感的,這意味著SELECT a和SELECT A所代表的語義是不同的。

關系模型相比文檔和鍵值對等其他模型,擁有更好的描述能力,也能夠更加清晰地表述實體間的關系。更重要的是,在OLAP領域,已有的大量數據建模工作都是基于關系模型展開的(星型模型、雪花模型乃至寬表模型)。ClickHouse使用了關系模型,所以將構建在傳統(tǒng)關系型數據庫或數據倉庫之上的系統(tǒng)遷移到ClickHouse的成本會變得更低,可以直接沿用之前的經驗成果。

05多樣化的表引擎

也許因為Yandex.Metrica的最初架構是基于MySQL實現(xiàn)的,所以在ClickHouse的設計中,能夠察覺到一些MySQL的影子,表引擎的設計就是其中之一。與MySQL類似,ClickHouse也將存儲部分進行了抽象,把存儲引擎作為一層獨立的接口。截至本書完稿時,ClickHouse共擁有合并樹、內存、文件、接口和其他6大類20多種表引擎。其中每一種表引擎都有著各自的特點,用戶可以根據實際業(yè)務場景的要求,選擇合適的表引擎使用。

通常而言,一個通用系統(tǒng)意味著更廣泛的適用性,能夠適應更多的場景。但通用的另一種解釋是平庸,因為它無法在所有場景內都做到極致。

在軟件的世界中,并不會存在一個能夠適用任何場景的通用系統(tǒng),為了突出某項特性,勢必會在別處有所取舍。其實世間萬物都遵循著這樣的道理,就像信天翁和蜂鳥,雖然都屬于鳥類,但它們各自的特點卻鑄就了完全不同的體貌特征。信天翁擅長遠距離飛行,環(huán)繞地球一周只需要1至2個月的時間。因為它能夠長時間處于滑行狀態(tài),5天才需要扇動一次翅膀,心率能夠保持在每分鐘100至200次之間。而蜂鳥能夠垂直懸停飛行,每秒可以揮動翅膀70~100次,飛行時的心率能夠達到每分鐘1000次。如果用數據庫的場景類比信天翁和蜂鳥的特點,那么信天翁代表的可能是使用普通硬件就能實現(xiàn)高性能的設計思路,數據按粗粒度處理,通過批處理的方式執(zhí)行;而蜂鳥代表的可能是按細粒度處理數據的設計思路,需要高性能硬件的支持。

將表引擎獨立設計的好處是顯而易見的,通過特定的表引擎支撐特定的場景,十分靈活。對于簡單的場景,可直接使用簡單的引擎降低成本,而復雜的場景也有合適的選擇。

06多線程與分布式

ClickHouse幾乎具備現(xiàn)代化高性能數據庫的所有典型特征,對于可以提升性能的手段可謂是一一用盡,對于多線程和分布式這類被廣泛使用的技術,自然更是不在話下。

如果說向量化執(zhí)行是通過數據級并行的方式提升了性能,那么多線程處理就是通過線程級并行的方式實現(xiàn)了性能的提升。相比基于底層硬件實現(xiàn)的向量化執(zhí)行SIMD,線程級并行通常由更高層次的軟件層面控制?,F(xiàn)代計算機系統(tǒng)早已普及了多處理器架構,所以現(xiàn)今市面上的服務器都具備良好的多核心多線程處理能力。由于SIMD不適合用于帶有較多分支判斷的場景,ClickHouse也大量使用了多線程技術以實現(xiàn)提速,以此和向量化執(zhí)行形成互補。

如果一個籃子裝不下所有的雞蛋,那么就多用幾個籃子來裝,這就是分布式設計中分而治之的基本思想。同理,如果一臺服務器性能吃緊,那么就利用多臺服務的資源協(xié)同處理。為了實現(xiàn)這一目標,首先需要在數據層面實現(xiàn)數據的分布式。因為在分布式領域,存在一條金科玉律—計算移動比數據移動更加劃算。在各服務器之間,通過網絡傳輸數據的成本是高昂的,所以相比移動數據,更為聰明的做法是預先將數據分布到各臺服務器,將數據的計算查詢直接下推到數據所在的服務器。ClickHouse在數據存取方面,既支持分區(qū)(縱向擴展,利用多線程原理),也支持分片(橫向擴展,利用分布式原理),可以說是將多線程和分布式的技術應用到了極致。

07多主架構

HDFS、Spark、HBase和Elasticsearch這類分布式系統(tǒng),都采用了Master-Slave主從架構,由一個管控節(jié)點作為Leader統(tǒng)籌全局。而ClickHouse則采用Multi-Master多主架構,集群中的每個節(jié)點角色對等,客戶端訪問任意一個節(jié)點都能得到相同的效果。這種多主的架構有許多優(yōu)勢,例如對等的角色使系統(tǒng)架構變得更加簡單,不用再區(qū)分主控節(jié)點、數據節(jié)點和計算節(jié)點,集群中的所有節(jié)點功能相同。所以它天然規(guī)避了單點故障的問題,非常適合用于多數據中心、異地多活的場景。

08在線查詢

ClickHouse經常會被拿來與其他的分析型數據庫作對比,比如Vertica、SparkSQL、Hive和Elasticsearch等,它與這些數據庫確實存在許多相似之處。例如,它們都可以支撐海量數據的查詢場景,都擁有分布式架構,都支持列存、數據分片、計算下推等特性。這其實也側面說明了ClickHouse在設計上確實吸取了各路奇技淫巧。與其他數據庫相比,ClickHouse也擁有明顯的優(yōu)勢。例如,Vertica這類商用軟件價格高昂;SparkSQL與Hive這類系統(tǒng)無法保障90%的查詢在1秒內返回,在大數據量下的復雜查詢可能會需要分鐘級的響應時間;而Elasticsearch這類搜索引擎在處理億級數據聚合查詢時則顯得捉襟見肘。

正如ClickHouse的"廣告詞"所言,其他的開源系統(tǒng)太慢,商用的系統(tǒng)太貴,只有Clickouse在成本與性能之間做到了良好平衡,即又快又開源。ClickHouse當之無愧地闡釋了"在線"二字的含義,即便是在復雜查詢的場景下,它也能夠做到極快響應,且無須對數據進行任何預處理加工。

09Leetcode超級會員數據分片與分布式查詢

數據分片是將數據進行橫向切分,這是一種在面對海量數據的場景下,解決存儲和查詢瓶頸的有效手段,是一種分治思想的體現(xiàn)。ClickHouse支持分片,而分片則依賴集群。每個集群由1到多個分片組成,而每個分片則對應了ClickHouse的1個服務節(jié)點。分片的數量上限取決于節(jié)點數量( 1個分片只能對應1個服務節(jié)點)。

ClickHouse并不像其他分布式系統(tǒng)那樣,擁有高度自動化的分片功能。ClickHouse提供了本地表( Local Table )與分布式表( Distributed Table )的概念。一張本地表等同于一份數據的分片。而分布式表本身不存儲任何數據,它是本地表的訪問代理,其作用類似分庫中間件。借助分布式表,能夠代理訪問多個數據分片,從而實現(xiàn)分布式查詢。

這種設計類似數據庫的分庫和分表,十分靈活。例如在業(yè)務系統(tǒng)上線的初期,數據體量并不高,此時數據表并不需要多個分片。所以使用單個節(jié)點的本地表(單個數據分片)即可滿足業(yè)務需求,待到業(yè)務增長、數據量增大的時候,再通過新增數據分片的方式分流數據,并通過分布式表實現(xiàn)分布式查詢。這就好比一輛手動擋賽車,它將所有的選擇權都交到了使用者的手中。

云原生概念的誕生ClickHouse存儲層

ClickHouse從OLAP場景需求出發(fā),定制開發(fā)了一套全新的高效列式存儲引擎,并且實現(xiàn)了數據有序存儲、主鍵索引、稀疏索引、數據Sharding、數據Partitioning、TTL、主備復制等豐富功能。以上功能共同為ClickHouse極速的分析性能奠定了基礎。

列式存儲

與行存將每一行的數據連續(xù)存儲不同,列存將每一列的數據連續(xù)存儲。示例圖如下:

a1d0553e-d8c0-11eb-9e57-12bb97331649.jpg

相比于行式存儲,列式存儲在分析場景下有著許多優(yōu)良的特性。

1)如前所述,分析場景中往往需要讀大量行但是少數幾個列。在行存模式下,數據按行連續(xù)存儲,所有列的數據都存儲在一個block中,不參與計算的列在IO時也要全部讀出,讀取操作被嚴重放大。而列存模式下,只需要讀取參與計算的列即可,極大的減低了IO cost,加速了查詢。

2)同一列中的數據屬于同一類型,壓縮效果顯著。列存往往有著高達十倍甚至更高的壓縮比,節(jié)省了大量的存儲空間,降低了存儲成本。

3)更高的壓縮比意味著更小的data size,從磁盤中讀取相應數據耗時更短。

4)自由的壓縮算法選擇。不同列的數據具有不同的數據類型,適用的壓縮算法也就不盡相同??梢葬槍Σ煌蓄愋?,選擇最合適的壓縮算法。

5)高壓縮比,意味著同等大小的內存能夠存放更多數據,系統(tǒng)cache效果更好。

數據有序存儲

ClickHouse支持在建表時,指定將數據按照某些列進行sort by。

排序后,保證了相同sort key的數據在磁盤上連續(xù)存儲,且有序擺放。在進行等值、范圍查詢時,where條件命中的數據都緊密存儲在一個或若干個連續(xù)的Block中,而不是分散的存儲在任意多個Block, 大幅減少需要IO的block數量。另外,連續(xù)IO也能夠充分利用操作系統(tǒng)page cache的預取能力,減少page fault。

主鍵索引

ClickHouse支持主鍵索引,它將每列數據按照index granularity(默認8192行)進行劃分,每個index granularity的開頭第一行被稱為一個mark行。主鍵索引存儲該mark行對應的primary key的值。

對于where條件中含有primary key的查詢,通過對主鍵索引進行二分查找,能夠直接定位到對應的index granularity,避免了全表掃描從而加速查詢。

但是值得注意的是:ClickHouse的主鍵索引與MySQL等數據庫不同,它并不用于去重,即便primary key相同的行,也可以同時存在于數據庫中。要想實現(xiàn)去重效果,需要結合具體的表引擎ReplacingMergeTree、CollapsingMergeTree、VersionedCollapsingMergeTree實現(xiàn),我們會在未來的文章系列中再進行詳細解讀。

數據插入、更新、刪除

Clickhouse是個分析型數據庫。這種場景下,數據一般是不變的,因此Clickhouse對update、delete的支持是比較弱的,實際上并不支持標準的update、delete操作。

Clickhouse通過alter方式實現(xiàn)更新、刪除,它把update、delete操作叫做mutation(突變)。

標準SQL的更新、刪除操作是同步的,即客戶端要等服務端反回執(zhí)行結果(通常是int值);而Clickhouse的update、delete是通過異步方式實現(xiàn)的,當執(zhí)行update語句時,服務端立即反回,但是實際上此時數據還沒變,而是排隊等著。

Mutation具體過程

首先,使用where條件找到需要修改的分區(qū);然后,重建每個分區(qū),用新的分區(qū)替換舊的,分區(qū)一旦被替換,就不可回退;對于每個分區(qū),可以認為是原子性的;但對于整個mutation,如果涉及多個分區(qū),則不是原子性的。

? 更新功能不支持更新有關主鍵或分區(qū)鍵的列。

? 更新操作沒有原子性,即在更新過程中select結果很可能是一部分變了,一部分沒變,從上邊的具體過程就可以知道。

? 更新是按提交的順序執(zhí)行的。

? 更新一旦提交,不能撤銷,即使重啟Clickhouse服務,也會繼續(xù)按照system.mutations的順序繼續(xù)執(zhí)行。

? 已完成更新的條目不會立即刪除,保留條目的數量由finished_mutations_to_keep存儲引擎參數確定。超過數據量時舊的條目會被刪除。

? 更新可能會卡住,比如update intvalue='abc’這種類型錯誤的更新語句執(zhí)行不過去,那么會一直卡在這里,此時,可以使用KILL MUTATION來取消。

使用建議

按照官方的說明,update/delete的使用場景是一次更新大量數據,也就是where條件篩選的結果應該是一大片數據。

舉例:alter table test update status=1 where status=0 and day='2020-04-01',一次更新一天的數據。

那么,能否一次只更新一條數據呢?例如:alter table test update pv=110 where id=100當然也可以,但頻繁的這種操作,可能會對服務造成壓力。這很容易理解,如上文提到,更新的單位是分區(qū),如果只更新一條數據,那么需要重建一個分區(qū);如果更新100條數據,而這100條可能落在3個分區(qū)上,則需重建3個分區(qū);相對來說一次更新一批數據的整體效率遠高于一次更新一行。對于頻繁單條更新的這種場景,建議使用ReplacingMergeTree引擎來變相解決。具體如何使用,以后有時間再整理。

Hbase隨機讀寫,但是Hbase的update操作不是真的update,它的實際操作是insert一條新的數據,打上不同的timestamp,而老的數據會在有效期之后自動刪除。而Clickhouse干脆就不支持update和delete。

ClickHouse核心涉及模塊

1. Column與Field

Column和Field是ClickHouse數據最基礎的映射單元。作為一款百分之百的列式存儲數據庫,ClickHouse按列存儲數據,內存中的一列數據由一個Column對象表示。Column對象分為接口和實現(xiàn)兩個部分,在IColumn接口對象中,定義了對數據進行各種關系運算的方法,例如插入數據的insertRangeFrom和insertFrom方法、用于分頁的cut,以及用于過濾的filter方法等。而這些方法的具體實現(xiàn)對象則根據數據類型的不同,由相應的對象實現(xiàn),例如ColumnString、ColumnArray和ColumnTuple等。在大多數場合,ClickHouse都會以整列的方式操作數據,但凡事也有例外。如果需要操作單個具體的數值(也就是單列中的一行數據),則需要使用Field對象,F(xiàn)ield對象代表一個單值。與Column對象的泛化設計思路不同,F(xiàn)ield對象使用了聚合的設計模式。在Field對象內部聚合了Null、UInt64、String和Array等13種數據類型及相應的處理邏輯。

2. DataType

數據的序列化和反序列化工作由DataType負責。IDataType接口定義了許多正反序列化的方法,它們成對出現(xiàn),例如serializeBinary和deserializeBinary、serializeTextJSON和deserializeTextJSON等,涵蓋了常用的二進制、文本、JSON、XML、CSV和Protobuf等多種格式類型。IDataType也使用了泛化的設計模式,具體方法的實現(xiàn)邏輯由對應數據類型的實例承載,例如DataTypeString、DataTypeArray及DataTypeTuple等。

DataType雖然負責序列化相關工作,但它并不直接負責數據的讀取,而是轉由從Column或Field對象獲取。在DataType的實現(xiàn)類中,聚合了相應數據類型的Column對象和Field對象。例如,DataTypeString會引用字符串類型的ColumnString,而DataTypeArray則會引用數組類型的ColumnArray,以此類推。

3. Block與Block流

ClickHouse內部的數據操作是面向Block對象進行的,并且采用了流的形式。雖然Column和Filed組成了數據的基本映射單元,但對應到實際操作,它們還缺少了一些必要的信息,比如數據的類型及列的名稱。于是ClickHouse設計了Block對象,Block對象可以看作數據表的子集。Block對象的本質是由數據對象、數據類型和列名稱組成的三元組,即Column、DataType及列名稱字符串。Column提供了數據的讀取能力,而DataType知道如何正反序列化,所以Block在這些對象的基礎之上實現(xiàn)了進一步的抽象和封裝,從而簡化了整個使用的過程,僅通過Block對象就能完成一系列的數據操作。在具體的實現(xiàn)過程中,Block并沒有直接聚合Column和DataType對象,而是通過ColumnWithTypeAndName對象進行間接引用。

有了Block對象這一層封裝之后,對Block流的設計就是水到渠成的事情了。流操作有兩組頂層接口:IBlockInputStream負責數據的讀取和關系運算,IBlockOutputStream負責將數據輸出到下一環(huán)節(jié)。Block流也使用了泛化的設計模式,對數據的各種操作最終都會轉換成其中一種流的實現(xiàn)。IBlockInputStream接口定義了讀取數據的若干個read虛方法,而具體的實現(xiàn)邏輯則交由它的實現(xiàn)類來填充。

IBlockInputStream接口總共有60多個實現(xiàn)類,它們涵蓋了ClickHouse數據攝取的方方面面。這些實現(xiàn)類大致可以分為三類:第一類用于處理數據定義的DDL操作,例如DDLQueryStatusInputStream等;第二類用于處理關系運算的相關操作,例如LimitBlockInput-Stream、JoinBlockInputStream及AggregatingBlockInputStream等;第三類則是與表引擎呼應,每一種表引擎都擁有與之對應的BlockInputStream實現(xiàn),例如MergeTreeBaseSelect-BlockInputStream ( MergeTree表引擎)、TinyLogBlockInputStream ( TinyLog表引擎)及KafkaBlockInputStream ( Kafka表引擎)等。

IBlockOutputStream的設計與IBlockInputStream如出一轍。IBlockOutputStream接口同樣也定義了若干寫入數據的write虛方法。它的實現(xiàn)類比IBlockInputStream要少許多,一共只有20多種。這些實現(xiàn)類基本用于表引擎的相關處理,負責將數據寫入下一環(huán)節(jié)或者最終目的地,例如MergeTreeBlockOutputStream、TinyLogBlockOutputStream及StorageFileBlock-OutputStream等。

4. Table

在數據表的底層設計中并沒有所謂的Table對象,它直接使用IStorage接口指代數據表。表引擎是ClickHouse的一個顯著特性,不同的表引擎由不同的子類實現(xiàn),例如IStorageSystemOneBlock (系統(tǒng)表)、StorageMergeTree (合并樹表引擎)和StorageTinyLog (日志表引擎)等。IStorage接口定義了DDL (如ALTER、RENAME、OPTIMIZE和DROP等)、read和write方法,它們分別負責數據的定義、查詢與寫入。在數據查詢時,IStorage負責根據AST查詢語句的指示要求,返回指定列的原始數據。后續(xù)對數據的進一步加工、計算和過濾,則會統(tǒng)一交由Interpreter解釋器對象處理。對Table發(fā)起的一次操作通常都會經歷這樣的過程,接收AST查詢語句,根據AST返回指定列的數據,之后再將數據交由Interpreter做進一步處理。

文章出處:【微信公眾號:數據分析與開發(fā)】

責任編輯:gt

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 計算機
    +關注

    關注

    19

    文章

    7372

    瀏覽量

    87637
  • 服務器
    +關注

    關注

    12

    文章

    8965

    瀏覽量

    85087
  • 數據庫
    +關注

    關注

    7

    文章

    3752

    瀏覽量

    64235

原文標題:ClickHouse 特性及底層存儲原理

文章出處:【微信號:DBDevs,微信公眾號:數據分析與開發(fā)】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    數據庫數據恢復—通過拼接數據庫碎片恢復SQLserver數據庫

    一個運行在存儲上的SQLServer數據庫,有1000多個文件,大小幾十TB。數據庫每10天生成一個NDF文件,每個NDF幾百GB大小。數據庫包含兩個LDF文件。
    的頭像 發(fā)表于 10-31 13:21 ?97次閱讀
    <b class='flag-5'>數據庫</b><b class='flag-5'>數據</b>恢復—通過拼接<b class='flag-5'>數據庫</b>碎片恢復SQLserver<b class='flag-5'>數據庫</b>

    基于分布式存儲WDS的金融信創(chuàng)云承載數據庫類關鍵應用

    基于分布式存儲WDS的金融信創(chuàng)云承載數據庫類關鍵應用
    的頭像 發(fā)表于 08-16 09:42 ?228次閱讀
    基于分布式<b class='flag-5'>存儲</b>WDS的金融信創(chuàng)云承載<b class='flag-5'>數據庫</b>類關鍵應用

    數據庫數據恢復—SqlServer數據庫底層File Record被截斷為0的數據恢復案例

    SQL Server數據庫數據無法被讀取。 經過數據庫數據恢復工程師的初步檢測,發(fā)現(xiàn)SQL Server數據庫文件無法被讀取的原因是
    的頭像 發(fā)表于 07-26 11:27 ?324次閱讀
    <b class='flag-5'>數據庫</b><b class='flag-5'>數據</b>恢復—SqlServer<b class='flag-5'>數據庫</b><b class='flag-5'>底層</b>File Record被截斷為0的<b class='flag-5'>數據</b>恢復案例

    大型數據庫可選擇WDS作為其數據庫一體機產品存儲底座

    大型數據庫可選擇WDS作為其數據庫一體機產品存儲底座
    的頭像 發(fā)表于 07-25 09:42 ?208次閱讀
    大型<b class='flag-5'>數據庫</b>可選擇WDS作為其<b class='flag-5'>數據庫</b>一體機產品<b class='flag-5'>存儲</b>底座

    數據庫數據恢復—raid5陣列上層Sql Server數據庫數據恢復案例

    數據庫數據恢復環(huán)境: 5塊硬盤組建一組RAID5陣列,劃分LUN供windows系統(tǒng)服務器使用。windows系統(tǒng)服務器內運行了Sql Server數據庫存儲空間在操作系統(tǒng)層面劃分
    的頭像 發(fā)表于 05-08 11:43 ?467次閱讀
    <b class='flag-5'>數據庫</b><b class='flag-5'>數據</b>恢復—raid5陣列上層Sql Server<b class='flag-5'>數據庫</b><b class='flag-5'>數據</b>恢復案例

    數據庫數據恢復—ndf文件大小變?yōu)?KB的數據恢復案例

    存儲設備損壞導致存儲中SQL Server數據庫崩潰。對數據庫文件進行恢復后,用戶發(fā)現(xiàn)有4個ndf文件的大小變?yōu)?KB。該SQL Server數據庫
    的頭像 發(fā)表于 05-07 11:19 ?388次閱讀

    時序數據庫是什么?時序數據庫的特點

    時序數據庫是一種在處理時間序列數據方面具有高效和專門化能力的數據庫。它主要用于存儲和處理時間序列數據,比如傳感器
    的頭像 發(fā)表于 04-26 16:02 ?587次閱讀

    態(tài)勢數據存儲方式有哪些

    智慧華盛恒輝態(tài)勢數據存儲方式主要取決于數據特性、規(guī)模以及訪問需求。以下是幾種常見的態(tài)勢數據存儲
    的頭像 發(fā)表于 04-22 19:28 ?277次閱讀

    態(tài)勢數據如何存儲

    智慧華盛恒輝態(tài)勢數據存儲主要依賴于數據庫技術和文件存儲系統(tǒng)。以下是一些關于如何存儲態(tài)勢數據的建
    的頭像 發(fā)表于 04-22 17:29 ?313次閱讀

    態(tài)勢數據如何存儲數據庫里面呢

    、穩(wěn)定的數據,強調維護數據的完整性、一致性 , 其性能目標是高系統(tǒng)吞吐量和低代價 , 但對處理的定時限制沒有嚴格要求。而實時數據庫系統(tǒng)需要結合實時
    的頭像 發(fā)表于 04-22 16:46 ?328次閱讀

    華為存儲攜手優(yōu)炫軟件,共促中國多主數據庫加速發(fā)展

    可靠、高性能共享存儲多寫多讀集群數據庫(以下簡稱“多主數據庫”)解決方案,加速中國多主數據庫產業(yè)發(fā)展步伐。
    的頭像 發(fā)表于 12-11 09:12 ?653次閱讀

    常見的存儲Idea數據庫的地方

    Idea的數據庫存儲在許多不同的地方,取決于應用程序和使用的技術。下面將詳細描述一些常見的存儲Idea數據庫的地方。 關系型數據庫(RDB
    的頭像 發(fā)表于 12-06 14:15 ?896次閱讀

    redis是關系型數據庫

    Redis不是關系型數據庫,它是一種基于鍵值對的NoSQL數據庫。在本文中,我將對Redis進行詳細介紹,包括其特點、用途、常見命令和應用場景等。 Redis(REmote DIctionary
    的頭像 發(fā)表于 12-05 10:32 ?1469次閱讀

    NoSQL 數據庫如何選型

    什么是NoSQL數據庫?為什么要使用NoSQL數據庫?鍵值數據庫內存鍵值數據庫文檔數據庫列式
    的頭像 發(fā)表于 11-26 08:05 ?425次閱讀
    NoSQL <b class='flag-5'>數據庫</b>如何選型

    MySQL數據庫基礎知識

    MySQL 是一種開源的關系型數據庫管理系統(tǒng),它是目前最流行的數據庫之一。MySQL 提供了一種結構化的方法來管理大量的數據,并且具有高效、可靠和可擴展的特性。本文將介紹 MySQL
    的頭像 發(fā)表于 11-21 11:09 ?927次閱讀