數據到hadoop的遷移步驟

本篇內容主要講解“數據到hadoop的遷移步驟”，感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷，實用性強。下面就讓小編來帶大家學習“數據到hadoop的遷移步驟”吧!

最近在用flume和sqoop來做非關系數據(日志)和關系數據(MYSQL)遷移到hdfs的工作，簡單記錄下使用過程，以此總結
一 flume的使用
使用flume把web的log日志數據導入到hdfs上
步驟
1 在 elephant 節點上
先安裝flume sudo yum install --assumeyes flume-ng
2 創建配置文件
vi /etc/hadoop/conf/flume-conf.properties

tail1.sources = src1
tail1.channels = ch2
tail1.sinks = sink1
tail1.sources.src1.type = exec
tail1.sources.src1.command = tail -F /tmp/access_log
tail1.sources.src1.channels = ch2
tail1.channels.ch2.type = memory
tail1.channels.ch2.capacity = 500
tail1.sinks.sink1.type = avro
tail1.sinks.sink1.hostname = localhost
tail1.sinks.sink1.port = 6000
tail1.sinks.sink1.batch-size = 1
tail1.sinks.sink1.channel = ch2
##
collector1.sources = src1
collector1.channels = ch2
collector1.sinks = sink1
collector1.sources.src1.type = avro
collector1.sources.src1.bind = localhost
collector1.sources.src1.port = 6000
collector1.sources.src1.channels = ch2
collector1.channels.ch2.type = memory
collector1.channels.ch2.capacity = 500
collector1.sinks.sink1.type = hdfs
collector1.sinks.sink1.hdfs.path = flume/collector1
collector1.sinks.sink1.hdfs.filePrefix = access_log
collector1.sinks.sink1.channel = ch2

配置文件說明結構是
src取日志數據,通過內存傳送到本地以avro文件格式保存，做中轉，然后從avro文件，通過內存傳送到hdfs上。hdfs保存路徑是flume/collector1，

3 在hfds上創建保存目錄
hadoop fs -mkdir -p flume/collector1

4 模擬產生大量日志文件，在log目錄中
$ accesslog-gen.bash /tmp/access_log
5 啟動日志收集器
flume-ng agent --conf /etc/hadoop/conf/ \
--conf-file /etc/hadoop/conf/flume-conf.properties \
--name collector1
6 啟動日志采集器
$ flume-ng agent \
--conf-file /etc/hadoop/conf/flume-conf.properties \
--name tail1

二 sqoop的使用
使用sqoop把mysql中的表數據導入到hdfs
1安裝sqoop
sudo yum install --assumeyes sqoop
2在sqoop的lib下創建一個mysql連接的驅動鏈接，也就是在sqoop的lib下面能找到mysql的驅動包
就是在/usr/lib/sqoop/lib目錄，創建 $ sudo ln -s /usr/share/java/mysql-connector-java.jar /usr/lib/sqoop/lib/
3導入數據
sqoop help
用sqoop查看mysql中有哪些數據庫
sqoop list-databases \
--connect jdbc:mysql://localhost \
--username training --password training
再看看庫里有哪些表
sqoop list-tables \
--connect jdbc:mysql://localhost/movielens \
--username training --password training
開始導入命令表movie到hdfs，表中字段的數據用tab分割
sqoop import \
--connect jdbc:mysql://localhost/movielens \
--table movie --fields-terminated-by '\t' \
--username training --password training
4驗證
hadoop fs -ls movie
hadoop fs -tail movie/part-m-00000
可以看到數據已文件形式保存到hdfs

到此，相信大家對“數據到hadoop的遷移步驟”有了更深的了解，不妨來實際操作一番吧！這里是億速云網站，更多相關內容可以進入相關頻道進行查詢，關注我們，繼續學習！