您好,登錄后才能下訂單哦!
這篇文章主要講解了“HBase集群環境搭建的方法是什么”,文中的講解內容簡單清晰,易于學習與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學習“HBase集群環境搭建的方法是什么”吧!
1、基礎描述
Hadoop原生的特點是解決大規模數據的離線批量處理場景,HDFS具備強大存儲能力,但是并沒有提供很強的數據查詢機制。HBase組件則是基于HDFS文件系統之上提供類似于BigTable服務。
HBase是一種分布式、可擴展、支持海量結構化數據存儲的NoSQL數據庫。HBase在Hadoop之上提供了類似于Bigtable的能力,基于列存儲模式的而不是基于行的模式。存儲數據特點:非結構化或者松散的半結構化數據,存儲大表自然是需要具備水平擴展的能力,基于服務集群處理海量龐大數據。
2、數據模型
基于Hbase的數據結構的基本描述;
表-Table:由行和列組成,列劃分為若干個列族;
行-Row:行鍵(Key)作標識,行代表數據對象;
列族:列族支持動態擴展,以字符串形式存儲;
列標識:列族中的數據通過列標識符來定位;
單元格:行鍵,列族,列標識符共同確定一個單元;
單元數據:存儲在單元里的數據稱為單元數據;
時間戳:默認基于時間戳來進行版本標識;
HBase的數據模型同關系型數據庫很類似,數據存儲在一張表中,有行有列。但從HBase的底層物理存儲結構看更像是Map(K-V)集合。
數據管理是基于列存儲的特點;
簡單的數據模型,內容存儲為字符串;
沒有復雜的表關系,簡單的增刪查操作;
從整體上看數據模型,HBase是一個稀疏、多維度、排序的映射表,這張表的索引是行鍵、列族、列限定符和時間戳每個值是一個未經解釋的字符串。
1、解壓文件
tar -zxvf hbase-1.3.1-bin.tar.gz
2、配置環境變量
vim /etc/profile export HBASE_HOME=/opt/hbase-1.3.1 export PATH=$PATH:$HBASE_HOME/bin source /etc/profile
3、配置:hbase-env
vim /opt/hbase-1.3.1/conf/hbase-env.sh export JAVA_HOME=/opt/jdk1.8 export HBASE_MANAGES_ZK=false
4、配置:hbase-site
vim /opt/hbase-1.3.1/conf/hbase-site.xml <configuration> <!--HDFS存儲--> <property> <name>hbase.rootdir</name> <value>hdfs://hop01:9000/HBase</value> </property> <!--開啟集群--> <property> <name>hbase.cluster.distributed</name> <value>true</value> </property> <!-- 端口 --> <property> <name>hbase.master.port</name> <value>16000</value> </property> <!--ZK集群--> <property> <name>hbase.zookeeper.quorum</name> <value>hop01,hop02,hop03</value> </property> <!--ZK數據--> <property> <name>hbase.zookeeper.property.dataDir</name> <value>/data/zookeeper/data/</value> </property> </configuration>
5、配置:regionservers
vim /opt/hbase-1.3.1/conf/regionservers hop01 hop02 hop03
6、配置:軟連接
軟連接hadoop配置文件到HBase
ln -s /opt/hadoop2.7/etc/hadoop/core-site.xml /opt/hbase-1.3.1/conf/core-site.xml ln -s /opt/hadoop2.7/etc/hadoop/hdfs-site.xml /opt/hbase-1.3.1/conf/hdfs-site.xml
7、同步集群服務環境
也可以手動配置集群,或者使用同步命令。
xsync hbase/
8、啟動集群
在hop01節點啟動即可。
/opt/hbase-1.3.1/bin/start-hbase.sh
啟動日志:
hop03: starting regionserver, logging to /opt/hbase-1.3.1/bin/../logs/hbase-root-regionserver-hop03.out hop02: starting regionserver, logging to /opt/hbase-1.3.1/bin/../logs/hbase-root-regionserver-hop02.out hop01: starting regionserver, logging to /opt/hbase-1.3.1/bin/../logs/hbase-root-regionserver-hop01.out
9、查看狀態
jps HMaster:主節點 HRegionServer:分區節點
10、停止集群
在hop01節點停止即可。
/opt/hbase-1.3.1/bin/stop-hbase.sh
11、查看界面
http://hop01:16010
1、切入客戶端
/opt/hbase-1.3.1/bin/hbase shell
2、查看表
hbase(main):002:0> list
3、創建表
hbase(main):003:0> create 'user','info' 0 row(s) in 2.7910 seconds => Hbase::Table - user
4、查看表結構
hbase(main):010:0> describe 'user'
5、添加數據
put 'user','id01','info:name','tom' put 'user','id01','info:age','18' put 'user','id01','info:sex','male' put 'user','id02','info:name','jack' put 'user','id02','info:age','20' put 'user','id02','info:sex','female'
6、查看表數據
hbase(main):010:0> scan 'user' ROW COLUMN+CELL id01 column=info:age, timestamp=1594448524308, value=18 id01 column=info:name, timestamp=1594448513534, value=tom id01 column=info:sex, timestamp=1594448530817, value=male id02 column=info:age, timestamp=1594448542631, value=20 id02 column=info:name, timestamp=1594448536520, value=jack id02 column=info:sex, timestamp=1594448548005, value=female
這些表結構和數據會在集群之間自動同步。
7、查詢指定列
hbase(main):012:0> get 'user','id01' COLUMN CELL info:age timestamp=1594448524308, value=18 info:name timestamp=1594448513534, value=tom info:sex timestamp=1594448530817, value=male
8、統計行數
hbase(main):013:0> count 'user'
9、刪除行數據
hbase(main):014:0> deleteall 'user','id02'
10、清空表數據
hbase(main):016:0> truncate 'user'
11、刪除表
hbase(main):018:0> disable 'user' hbase(main):019:0> drop 'user'
1、核心依賴
<dependency> <groupId>org.apache.hbase</groupId> <artifactId>hbase-client</artifactId> <version>1.3.1</version> </dependency>
2、基礎配置
這里連接zookeeper集群地址即可。
zookeeper: address: 集群地址Url,逗號分隔
編寫HBase配置和常用工具方法。
@Component public class HBaseConfig { private static String address; private static final Object lock=new Object(); public static Configuration configuration = null; public static ExecutorService executor = null; public static Connection connection = null; /** * 獲取連接 */ public static Connection getConnection(){ if(null == connection){ synchronized (lock) { if(null == connection){ configuration = new Configuration(); configuration.set("hbase.zookeeper.quorum", address); try { executor = Executors.newFixedThreadPool(10); connection = ConnectionFactory.createConnection(configuration, executor); } catch (Exception e) { e.printStackTrace(); } } } } return connection; } /** * 獲取 HBaseAdmin */ public static HBaseAdmin getHBaseAdmin(){ HBaseAdmin admin = null; try{ admin = (HBaseAdmin)getConnection().getAdmin(); }catch(Exception e){ e.printStackTrace(); } return admin; } /** * 獲取 Table */ public static Table getTable(TableName tableName) { Table table = null ; try{ table = getConnection().getTable(tableName); }catch(Exception e){ e.printStackTrace(); } return table ; } /** * 關閉資源 */ public static void close(HBaseAdmin admin,Table table){ try { if(admin!=null) { admin.close(); } if(table!=null) { table.close(); } } catch (IOException e) { e.printStackTrace(); } } @Value("${zookeeper.address}") public void setAddress (String address) { HBaseConfig.address = address; } }
3、查詢案例
查詢數據參考上述全表掃描結果:
@RestController public class HBaseController { /** * 掃描全表 */ @GetMapping("/scanTable") public String scanTable () throws Exception { Table table = HBaseConfig.getTable(TableName.valueOf("user")); try { ResultScanner resultScanner = table.getScanner(new Scan()); for (Result result : resultScanner) { printResult(result); } } finally { HBaseConfig.close(null, table); } return "success"; } /** * 根據RowKey掃描 */ @GetMapping("/scanRowKey") public void scanRowKey() throws Exception { String rowKey = "id02"; Table table = HBaseConfig.getTable(TableName.valueOf("user")); try { Result result = table.get(new Get(rowKey.getBytes())); printResult(result); } finally { HBaseConfig.close(null, table); } } /** * 輸出 Result */ private void printResult (Result result){ NavigableMap<byte[], NavigableMap<byte[], NavigableMap<Long, byte[]>>> map = result.getMap(); Set<Map.Entry<byte[], NavigableMap<byte[], NavigableMap<Long, byte[]>>>> set = map.entrySet(); for (Map.Entry<byte[], NavigableMap<byte[], NavigableMap<Long, byte[]>>> entry : set) { Set<Map.Entry<byte[], NavigableMap<Long, byte[]>>> entrySet = entry.getValue().entrySet(); for (Map.Entry<byte[], NavigableMap<Long, byte[]>> entry2 : entrySet) { System.out.print(new String(result.getRow())); System.out.print("\t"); System.out.print(new String(entry.getKey())); System.out.print(":"); System.out.print(new String(entry2.getKey())); System.out.print(" value = "); System.out.println(new String(entry2.getValue().firstEntry().getValue())); } } } }
感謝各位的閱讀,以上就是“HBase集群環境搭建的方法是什么”的內容了,經過本文的學習后,相信大家對HBase集群環境搭建的方法是什么這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是億速云,小編將為大家推送更多相關知識點的文章,歡迎關注!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。