Kafka 入门教程
FreeGuideOnline
最新
2026-07-15
bash
下载二进制包(请根据最新版本号调整)
wget https://downloads.apache.org/kafka/3.6.0/kafka_2.13-3.6.0.tgz tar -xzf kafka_2.13-3.6.0.tgz cd kafka_2.13-3.6.0
### 2. 以 KRaft 模式启动
Kafka 3.3+ 默认可以 KRaft 模式运行,只需生成集群 ID 并格式化存储目录。
```bash
# 生成集群 UUID
KAFKA_CLUSTER_ID="$(bin/kafka-storage.sh random-uuid)"
# 格式化存储目录(使用默认的 /tmp/kraft-combined-logs)
bin/kafka-storage.sh format -t $KAFKA_CLUSTER_ID -c config/kraft/server.properties
# 启动 Kafka Broker
bin/kafka-server-start.sh config/kraft/server.properties
看到输出中出现 [KafkaServer id=0] started 即表示启动成功。
(默认 Broker 监听 localhost:9092)
基本操作:创建主题、生产与消费消息
创建一个 Topic
bin/kafka-topics.sh --create --topic test-topic --bootstrap-server localhost:9092 --partitions 3 --replication-factor 1
--partitions 3:创建 3 个分区--replication-factor 1:单节点集群只能设置为 1
查看已创建的主题:
bin/kafka-topics.sh --list --bootstrap-server localhost:9092
命令行生产者发送消息
bin/kafka-console-producer.sh --topic test-topic --bootstrap-server localhost:9092
进入交互模式后,每输入一行文本并回车,该文本作为一条消息发送到 Kafka。
命令行消费者接收消息
新开一个终端,执行:
bin/kafka-console-consumer.sh --topic test-topic --from-beginning --bootstrap-server localhost:9092
--from-beginning 表示从最早未被消费的消息开始读取(对于新消费者组而言)。
使用 Java 客户端编写生产者和消费者
在实际开发中,更多使用官方客户端库。以下是最简化的 Demo。
依赖(Maven pom.xml):
<dependency>
<groupId>org.apache.kafka</groupId>
<artifactId>kafka-clients</artifactId>
<version>3.6.0</version>
</dependency>
生产者示例
import org.apache.kafka.clients.producer.*;
import java.util.Properties;
public class SimpleProducer {
public static void main(String[] args) throws Exception {
Properties props = new Properties();
props.put("bootstrap.servers", "localhost:9092");
props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer");
props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer");
Producer<String, String> producer = new KafkaProducer<>(props);
ProducerRecord<String, String> record =
new ProducerRecord<>("test-topic", "key1", "Hello Kafka!");
producer.send(record, (metadata, exception) -> {
if (exception == null) {
System.out.printf("发送成功,分区 %d,偏移量 %d%n",
metadata.partition(), metadata.offset());
} else {
exception.printStackTrace();
}
});
producer.close();
}
}
消费者示例
import org.apache.kafka.clients.consumer.*;
import java.time.Duration;
import java.util.Collections;
import java.util.Properties;
public class SimpleConsumer {
public static void main(String[] args) {
Properties props = new Properties();
props.put("bootstrap.servers", "localhost:9092");
props.put("group.id", "my-group");
props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
props.put("auto.offset.reset", "earliest"); // 从最早消息开始消费
Consumer<String, String> consumer = new KafkaConsumer<>(props);
consumer.subscribe(Collections.singletonList("test-topic"));
while (true) {
ConsumerRecords<String, String> records = consumer.poll(Duration.ofMillis(100));
for (ConsumerRecord<String, String> record : records) {
System.out.printf("收到消息:key=%s, value=%s, 分区=%d, 偏移量=%d%n",
record.key(), record.value(),
record.partition(), record.offset());
}
}
}
}