本篇内容介绍了“使用kafka-console-consumer.sh不停报WARN如何解决”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!
kafka-console-consumer.sh不停报WARN的解决
首先确认你的服务器你所需要的所有端口都打开了!
./kafka-console-consumer.sh --bootstrap-server 宿主机IP:9092 --topic 主题名 --from-beginning
端口都打开的情况使用以上命令还继续各种报WARN请检查kafka相关配置
listeners=PLAINTEXT://*********:9092
以上*处配置IP应为宿主机IP地址一致
./kafka-console-consumer.sh --bootstrap-server *********:9092 --topic 主题名 --from-beginning
问题得到解决
我是这个原因,可以从报错信息中得知解析地址中的broker失败了修改为宿主机IP得到解决
WARN [Consumer clientId=consumer-console-consumer-21595-1, groupId=console-consumer-21595] Connection to node -1 (localhost/127.0.0.1:9092) could not be established. Broker may not be available. (org.apache.kafka.clients.NetworkClient)
使用Kafka的kafka-console-consumer.sh不能消费消息
使用Ambari搭建的kafka集群,在使用kafka-console-producer.sh的时候,指定--broker-list的值需要从server.properties中查看listeners=PLAINTEXT://的值。
同理,使用kafka-console-consumer.sh的时候,指定--bootstrap-server也需要从server.properties中查看listeners=PLAINTEXT://的值。
所以,以上已经是确保了配置没有问题的情况下,出现了kafka使用kafka-console-consumer.sh没有消费消息。
问题
使用kafka-console-consumer.sh没有消费消息
解决
(1)在无意中查看了kafka的server.log日志,发现一直在报如下错误
ERROR [KafkaApi-1001] Number of alive brokers '2' does not meet the required replication factor '3' for the offsets topic (configured via 'offsets.topic.replication.factor'). This error can be ignored if the cluster is starting up and not all brokers are up yet. (kafka.server.KafkaApis)
(2)分析了下局面意思,大概就是broker的数量为2,但是server.properties配置的offsets.topic.replication.factor的值为3。
看到这里我大概有两个解决方案
一、添加broker的数目
二、修改server.properties中offsets.topic.replication.factor的值,改成2【Ambari中该值在kafka-broker中修改】