查看kafka broker里topic和consumer group狀態的相關命令

這篇文章主要講解了“查看kafka broker里topic和consumer group狀態的相關命令”，文中的講解內容簡單清晰，易于學習與理解，下面請大家跟著小編的思路慢慢深入，一起來研究和學習“查看kafka broker里topic和consumer group狀態的相關命令”吧！

最近工作中遇到需要使用kafka的場景，測試消費程序啟動后，要莫名的過幾十秒乃至幾分鐘才能成功獲取到到topic的partition和offset，而后開始消費數據，于是學習了一下查看kafka broker里topic和consumer group狀態的相關命令，這里記錄一下。

以下命令中使用的zookeeper配置地址為127.0.0.1:2181，bootstrap--server(即broker)地址為: 127.0.0.1:9292

1，查看kafka topic列表，使用--list參數

bin/kafka-topics.sh --zookeeper 127.0.0.1:2181 --list
__consumer_offsets
lx_test_topic
test

2，查看kafka特定topic的詳情，使用--topic與--describe參數

bin/kafka-topics.sh --zookeeper 127.0.0.1:2181 --topic lx_test_topic --describe
Topic:lx_test_topic     PartitionCount:1        ReplicationFactor:1     Configs:
        Topic: lx_test_topic    Partition: 0    Leader: 0       Replicas: 0     Isr: 0

列出了lx_test_topic的parition數量、replica因子以及每個partition的leader、replica信息

3，查看consumer group列表，使用--list參數

查看consumer group列表有新、舊兩種命令，分別查看新版(信息保存在broker中)consumer列表和老版(信息保存在zookeeper中)consumer列表，因而需要區分指定bootstrap--server和zookeeper參數：

bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server 127.0.0.1:9292 --list
lx_test

bin/kafka-consumer-groups.sh --zookeeper 127.0.0.1:2181 --list
console-consumer-86845
console-consumer-11967

4，查看特定consumer group 詳情，使用--group與--describe參數

同樣根據新/舊版本的consumer，分別指定bootstrap-server與zookeeper參數:

bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server 127.0.0.1:9292 --group lx_test --describe
GROUP                          TOPIC                          PARTITION  CURRENT-OFFSET  LOG-END-OFFSET  LAG             OWNER
lx_test                        lx_test_topic             0          465             465             0               kafka-python-1.3.1_/127.0.0.1

bin/kafka-consumer-groups.sh --zookeeper 127.0.0.1:2181 --group console-consumer-11967 --describe
GROUP                          TOPIC                          PARTITION  CURRENT-OFFSET  LOG-END-OFFSET  LAG             OWNER
Could not fetch offset from zookeeper for group console-consumer-11967 partition [lx_test_topic,0] due to missing offset data in zookeeper.
console-consumer-11967         lx_test_topic             0          unknown         465             unknown         console-consumer-11967_aws-lx-1513787888172-d3a91f05-0

其中依次展示group名稱、消費的topic名稱、partition id、consumer group最后一次提交的offset、最后提交的生產消息offset、消費offset與生產offset之間的差值、當前消費topic-partition的group成員id(不一定包含hostname)

上面示例中console-consumer-11967是為了測試臨時起的一個console consumer，缺少在zookeeper中保存的current_offset信息。

感謝各位的閱讀，以上就是“查看kafka broker里topic和consumer group狀態的相關命令”的內容了，經過本文的學習后，相信大家對查看kafka broker里topic和consumer group狀態的相關命令這一問題有了更深刻的體會，具體使用情況還需要大家實踐驗證。這里是億速云，小編將為大家推送更多相關知識點的文章，歡迎關注！