使用Java连接Kafka需引入kafka-clients依赖,配置生产者序列化参数并发送消息,消费者设置组ID和反序列化器后订阅Topic拉取消息,通过poll循环处理,确保网络通畅与序列化匹配即可实现通信。

用Java连接Kafka发送和消费消息,核心是使用Kafka客户端库,通过配置生产者和消费者来完成通信。整个过程不复杂,只要把依赖、配置和代码逻辑写对,很快就能跑通。
项目基于Maven构建的话,先在pom.xml中引入Kafka客户端依赖。推荐使用官方提供的kafka-clients,通用性强,不绑定特定框架。
以下是常用依赖配置:
<dependency> <groupId>org.apache.kafka</groupId> <artifactId>kafka-clients</artifactId> <version>3.4.0</version></dependency>如果你用的是Spring Boot,也可以直接引入spring-kafka,它封装了底层操作,使用更方便。
立即学习“Java免费学习笔记(深入)”;
生产者负责把数据发到指定的Topic。创建KafkaProducer对象时,需要设置必要的参数。
基础步骤如下:
示例代码片段:
Properties props = new Properties();
props.put("bootstrap.servers", "localhost:9092");
props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer");
props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer");
try (KafkaProducer<String, String> producer = new KafkaProducer<>(props)) {
ProducerRecord<String, String> record = new ProducerRecord<>("test-topic", "key1", "Hello Kafka");
producer.send(record, (metadata, exception) -> {
if (exception == null) {
System.out.printf("发送成功,分区:%d,偏移量:%d%n", metadata.partition(), metadata.offset());
} else {
exception.printStackTrace();
}
});
}消费者从Topic订阅并拉取消息,需要配置组ID(group.id),以便Kafka管理消费进度(offset)。
基本流程是:
简单消费示例:
Properties props = new Properties();
props.put("bootstrap.servers", "localhost:9092");
props.put("group.id", "test-group");
props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
props.put("auto.offset.reset", "earliest");
try (KafkaConsumer<String, String> consumer = new KafkaConsumer<>(props)) {
consumer.subscribe(Arrays.asList("test-topic"));
while (true) {
ConsumerRecords<String, String> records = consumer.poll(Duration.ofMillis(100));
for (ConsumerRecord<String, String> record : records) {
System.out.printf("收到消息:topic=%s, partition=%d, offset=%d, key=%s, value=%s%n",
record.topic(), record.partition(), record.offset(), record.key(), record.value());
}
}
}基本上就这些。本地启动Kafka服务,创建好Topic,再运行生产和消费代码,就能看到消息通了。调试时注意看日志,网络和序列化问题最常见。
以上就是java怎么连接Kafka发送和消费消息 教你在Java中实现Kafka消息通信的详细内容,更多请关注php中文网其它相关文章!
Kafka Eagle是一款结合了目前大数据Kafka监控工具的特点,重新研发的一块开源免费的Kafka集群优秀的监控工具。它可以非常方便的监控生产环境中的offset、lag变化、partition分布、owner等,有需要的小伙伴快来保存下载体验吧!
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号