Hive分區表的分區操作方法

本篇內容主要講解“Hive分區表的分區操作方法”，感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷，實用性強。下面就讓小編來帶大家學習“Hive分區表的分區操作方法”吧!

Hive 沒有行級別的數據的增刪改，往表中裝載數據唯一途徑就是 使用大量數據進行裝載，可以通過load 可以 insert

動態分區 ，動態靜態

所以hive提供了一個動態分區功能，其可以基于查詢參數的位置去推斷分區的名稱，從而建立分區

注意：使用，insert...select 往表中導入數據時，查詢的字段個數必須和目標的字段個數相同，不能多，也不能少,否則會報錯。但是如果字段的類型不一致的話，則會使用null值填充，不會報錯。而使用load data形式往hive表中裝載數據時，則不會檢查。如果字段多了則會丟棄，少了則會null值填充。同樣如果字段類型不一致，也是使用null值填充。
多個分區字段時，實現半自動分區（部分字段靜態分區，注意靜態分區字段要在動態前面）

為了對表進行合理的管理以及提高查詢效率，Hive可以將表組織成“分區”。一個分區實際上就是表下的一個目錄，一個表可以在多個維度上進行分區，分區之間的關系就是目錄樹的關系。

1、創建分區表
通過 PARTITIONED BY 子句指定，分區的順序決定了誰是父目錄，誰是子目錄。
創建有一個分區的分區表：

CREATE TABLE IF NOT EXISTS part_test(         
  c1       string
 ,c2       string
 ,c3       string 
 ,c4       string
)PARTITIONED BY (day_id string)
ROW FORMAT DELIMITED FIELDS TERMINATED BY '|'
STORED AS TEXTFILE;

創建有兩個分區的分區表：

CREATE TABLE IF NOT EXISTS part_test_1(                
  c1       string
 ,c2       string   
 ,c3       string 
 ,c4       string   
) PARTITIONED BY (month_id string,day_id string)
ROW FORMAT DELIMITED FIELDS TERMINATED BY '|'
STORED AS TEXTFILE;

2、    外部分區表
外部表也可以建成分區表，如hdfs目錄/user/tuoming/part下有

201805和201806兩個目錄，201805下有一個20180509子目錄,201806下有20180609和20180610兩個子目錄。

創建一個映射到/user/tuoming/part目錄的外部分區表：

CREATE EXTERNAL TABLE IF NOT EXISTS part_test_2(
  c1       string
 ,c2       string
 ,c3       string
 ,c4       string
)PARTITIONED BY (month_id string,day_id string)
ROW FORMAT DELIMITED FIELDS TERMINATED BY ','
STORED AS TEXTFILE

LOCATION '/user/tuoming/part';為part_test_2增加分區：

alter table part_test_2 add partition(month_id='201805',day_id='20180509') location '/user/tuoming/part/201805/20180509';


alter table part_test_2 add partition(month_id='201806',day_id='20180609') location '/user/tuoming/part/201806/20180609';


alter table part_test_2 add partition(month_id='201806',day_id='20180610') location '/user/tuoming/part/201806/20180610';

使用show partitions語句查看part_test_2有哪些分區：
show partitions part_test_2;3、    內部分區表
創建一個主分區為month_id，子分區為day_id的內部分區表：

CREATE TABLE IF NOT EXISTS part_test_3(                
  c1       string
 ,c2       string   
 ,c3       string 
 ,c4       string   
)PARTITIONED BY (month_id string,day_id string)
ROW FORMAT DELIMITED FIELDS TERMINATED BY '|'

STORED AS TEXTFILE;

為內部分區表加載數據
（1）使用load data inpath…overwrite into table partition語句從hdfs目錄加載：

load data inpath '/user/tuoming/test/test' overwrite into table part_test_3 partition(month_id='201805',day_id='20180509');

數據內容如下：

（2）使用insert overwrite table/ insert into…partition語句從查詢結果中加載：
覆蓋插入：

insert overwrite table part_test_3 partition(month_id='201805',day_id='20180509') select * from part_test_temp;

追加插入：

insert into part_test_3 partition(month_id='201805',day_id='20180509') select * from part_test_temp;

注意：使用以上兩種方法為內部分區表加載數據不需要預創建分區，加載數據時會自動創建相應的分區。如果想要為內部表預先創建分區，需要使用hadoop fs  –mkdir命令在表目錄下先創建相應的分區目錄，然后再使用alter table add partition語句增加分區：

4、    刪除分區
使用alter table…drop partition語句刪除對應分區：

alter table part_test_3 drop partition(day_id='20180509');

注意：外部分區表使用alter table…drop partition語句刪除分區，只會刪除元數據，相應的目錄和文件并不會刪除。內部表使用該語句刪除分區，既會刪除元數據，也會刪除相應的目錄和數據文件。

5、    動態分區
上述使用insert overwrite table…partition…從查詢結果加載數據到分區，必須指定特定的分區，而且每個分區都需要使用一條插入語句。當需要一次插入多個分區的數據時，可以使用動態分區，根據查詢得到的數據動態分配到分區里。動態分區與靜態分區的區別就是不指定分區目錄，由hive根據實際的數據選擇插入到哪一個分區。

#啟動動態分區功能
set hive.exec.dynamic.partition=true;  
#允許全部分區都是動態分區
set hive.exec.dynamic.partition.mode=nostrick;

#month_id為靜態分區，day_id為動態分區：

insert overwrite table dynamic_test partition(month_id='201710',day_id)  
select c1,c2,c3,c4,c5,c6,c7,day_id from kafka_offset
where substr(day_id,1,6)='201710';

# month_id和 day_id均為動態分區：

insert overwrite table dynamic_test partition(month_id,day_id)  
select c1,c2,c3,c4,c5,c6,c7,substr(day_id,1,6) as month_id,day_id from kafka_offset;

為了讓分區列的值相同的數據盡量在同一個mapreduce中，這樣每一個mapreduce可以盡量少的產生新的文件夾，可以借助distribute by的功能，將分區列值相同的數據放到一起。

insert overwrite table dynamic_test partition(month_id,day_id)
select c1,c2,c3,c4,c5,c6,c7,substr(day_id,1,6) as month_id,day_id from kafka_offset
distribute by month_id,day_id;

Hive中的幾種不同的數據導出方式。可以根據導出的地方不一樣，將這些方式分為三種：

• 導出到本地文件系統；

• 導出到HDFS中；

• 導出到Hive的另一個表中。

為了避免單純的文字，我將一步一步地用命令進行說明。

文章目錄

• 1 導出到本地文件系統

• 2 導出到HDFS中

• 3 導出到Hive的另一個表中

導出到本地文件系統

hive> insert overwrite local directory '/home/wyp/wyp' select * from wyp;

這條HQL的執行需要啟用Mapreduce完成，運行完這條語句之后，將會在本地文件系統的/home/wyp/wyp目錄下生成文件，這個文件是Reduce產生的結果（這里生成的文件名是000000_0），我們可以看看這個文件的內容：

[wyp@master ~/wyp]$ vim 000000_0

5^Awyp1^A23^A131212121212

6^Awyp2^A24^A134535353535

7^Awyp3^A25^A132453535353

8^Awyp4^A26^A154243434355

1^Awyp^A25^A13188888888888

2^Atest^A30^A13888888888888

3^Azs^A34^A899314121

和導入數據到Hive不一樣，不能用 insert into 來將數據導出：可以看出，這就是wyp表中的所有數據。數據中的列與列之間的分隔符是 ^A (ascii碼是 \00001 )。

導出到HDFS中

和導入數據到本地文件系統一樣的簡單，可以用下面的語句實現：

hive> insert overwrite directory '/home/wyp/hdfs' select * from wyp;

將會在HDFS的 /home/wyp/hdfs 目錄下保存導出來的數據。注意，和導出文件到本地文件系統的HQL少一個local，數據的存放路徑就不一樣了。

導出到Hive的另一個表中

其實這個在《Hive幾種數據導入方式》文中就用到了，這也是Hive的數據導入方式，如下操作：

hive> insert into table test

    > partition (age='25')

    > select id, name, tel

    > from wyp;

#####################################################################

           這里輸出了一堆Mapreduce任務信息，這里省略

#####################################################################

Total MapReduce CPU Time Spent: 1 seconds 310 msec

OK

Time taken: 19.125 seconds

hive> select * from test;

OK

5       wyp1    131212121212    25

6       wyp2    134535353535    25

7       wyp3    132453535353    25

8       wyp4    154243434355    25

1       wyp     13188888888888  25

2       test    13888888888888  25

3       zs      899314121       25

Time taken: 0.126 seconds, Fetched: 7 row(s)

如果你用的Hive版本是0.11.0，那么你可以在導出數據的時候來指定列之間的分隔符（可以參見本博客的《Hive0.11查詢結果保存到文件并指定列之間的分隔符》），操作如下：細心的讀者可能會問，怎么導入數據到文件中，數據的列之間為什么不是wyp表設定的列分隔符呢？其實在Hive 0.11.0版本之間，數據的導出是不能指定列之間的分隔符的，只能用默認的列分隔符，也就是上面的^A來分割，這樣導出來的數據很不直觀，看起來很不方便！

這個很不錯吧！

其實，我們還可以用hive的 -e 和 -f 參數來導出數據。其中-e 表示后面直接接帶雙引號的sql語句；而-f是接一個文件，文件的內容為一個sql語句，如下：

　　

[wyp@master ~/local]$  hive -e "select * from wyp" >> local/wyp.txt

[wyp@master ~/local]$  cat wyp.txt

5       wyp1    23      131212121212

6       wyp2    24      134535353535

7       wyp3    25      132453535353

8       wyp4    26      154243434355

1       wyp     25      13188888888888

2       test    30      13888888888888

3       zs      34      899314121

[wyp@master ~/local]$ cat wyp.sql

select * from wyp

[wyp@master ~/local]$ hive -f wyp.sql >> local/wyp2.txt

得到的結果也是用 \t 分割的。也可以用-f參數實現：

上述語句得到的結果也是 \t 分割的。

到此，相信大家對“Hive分區表的分區操作方法”有了更深的了解，不妨來實際操作一番吧！這里是億速云網站，更多相關內容可以進入相關頻道進行查詢，關注我們，繼續學習！