hive中order by,distribute by,sort by,cluster by有什么用

小編給大家分享一下hive中order by,distribute by,sort by,cluster by有什么用，相信大部分人都還不怎么了解，因此分享這篇文章給大家參考一下，希望大家閱讀完這篇文章后大有收獲，下面讓我們一起去了解一下吧！

order by,distribute by,sort by,cluster by  查詢使用說明

// 根據年份和氣溫對氣象數據進行排序，以確保所有具有相同年份的行最終都在一個reducer分區中 

// 一個reduce(海量數據,速度很慢)
select year, temperature
order by year asc, temperature desc
limit 100;  


// 多個reduce(海量數據,速度很快)
select year, temperature  
distribute by year  
sort by year asc, temperature desc
limit 100;

order by  (全局排序 )
order by 會對輸入做全局排序，因此只有一個reducer（多個reducer無法保證全局有序）
只有一個reducer，會導致當輸入規模較大時，需要較長的計算時間。

在hive.mapred.mode=strict模式下，強制必須添加limit限制，這么做的目的是減少reducer數據規模
例如，當限制limit 100時， 如果map的個數為50， 則reducer的輸入規模為100*50



distribute by  (類似于分桶)
根據distribute by指定的字段對數據進行劃分到不同的輸出reduce 文件中。


sort by   (類似于桶內排序)
sort by不是全局排序，其在數據進入reducer前完成排序。
因此，如果用sort by進行排序，并且設置mapred.reduce.tasks>1， 則sort by只保證每個reducer的輸出有序，不保證全局有序。



cluster by
cluster by 除了具有 distribute by 的功能外還兼具 sort by 的功能。 
但是排序只能是倒序排序，不能指定排序規則為asc 或者desc。

因此，常常認為cluster by = distribute by + sort by

以上是“hive中order by,distribute by,sort by,cluster by有什么用”這篇文章的所有內容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內容對大家有所幫助，如果還想學習更多知識，歡迎關注億速云行業資訊頻道！