Kafka 入门教程

FreeGuideOnline 最新 2026-07-15

bash

下载二进制包(请根据最新版本号调整)

wget https://downloads.apache.org/kafka/3.6.0/kafka_2.13-3.6.0.tgz tar -xzf kafka_2.13-3.6.0.tgz cd kafka_2.13-3.6.0


### 2. 以 KRaft 模式启动

Kafka 3.3+ 默认可以 KRaft 模式运行,只需生成集群 ID 并格式化存储目录。

```bash
# 生成集群 UUID
KAFKA_CLUSTER_ID="$(bin/kafka-storage.sh random-uuid)"

# 格式化存储目录(使用默认的 /tmp/kraft-combined-logs)
bin/kafka-storage.sh format -t $KAFKA_CLUSTER_ID -c config/kraft/server.properties

# 启动 Kafka Broker
bin/kafka-server-start.sh config/kraft/server.properties

看到输出中出现 [KafkaServer id=0] started 即表示启动成功。
(默认 Broker 监听 localhost:9092


基本操作:创建主题、生产与消费消息

创建一个 Topic

bin/kafka-topics.sh --create --topic test-topic --bootstrap-server localhost:9092 --partitions 3 --replication-factor 1
  • --partitions 3:创建 3 个分区
  • --replication-factor 1:单节点集群只能设置为 1

查看已创建的主题:

bin/kafka-topics.sh --list --bootstrap-server localhost:9092

命令行生产者发送消息

bin/kafka-console-producer.sh --topic test-topic --bootstrap-server localhost:9092

进入交互模式后,每输入一行文本并回车,该文本作为一条消息发送到 Kafka。

命令行消费者接收消息

新开一个终端,执行:

bin/kafka-console-consumer.sh --topic test-topic --from-beginning --bootstrap-server localhost:9092

--from-beginning 表示从最早未被消费的消息开始读取(对于新消费者组而言)。


使用 Java 客户端编写生产者和消费者

在实际开发中,更多使用官方客户端库。以下是最简化的 Demo。

依赖(Maven pom.xml):

<dependency>
    <groupId>org.apache.kafka</groupId>
    <artifactId>kafka-clients</artifactId>
    <version>3.6.0</version>
</dependency>

生产者示例

import org.apache.kafka.clients.producer.*;
import java.util.Properties;

public class SimpleProducer {
    public static void main(String[] args) throws Exception {
        Properties props = new Properties();
        props.put("bootstrap.servers", "localhost:9092");
        props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer");
        props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer");

        Producer<String, String> producer = new KafkaProducer<>(props);
        ProducerRecord<String, String> record =
                new ProducerRecord<>("test-topic", "key1", "Hello Kafka!");
        producer.send(record, (metadata, exception) -> {
            if (exception == null) {
                System.out.printf("发送成功,分区 %d,偏移量 %d%n",
                        metadata.partition(), metadata.offset());
            } else {
                exception.printStackTrace();
            }
        });
        producer.close();
    }
}

消费者示例

import org.apache.kafka.clients.consumer.*;
import java.time.Duration;
import java.util.Collections;
import java.util.Properties;

public class SimpleConsumer {
    public static void main(String[] args) {
        Properties props = new Properties();
        props.put("bootstrap.servers", "localhost:9092");
        props.put("group.id", "my-group");
        props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
        props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
        props.put("auto.offset.reset", "earliest"); // 从最早消息开始消费

        Consumer<String, String> consumer = new KafkaConsumer<>(props);
        consumer.subscribe(Collections.singletonList("test-topic"));

        while (true) {
            ConsumerRecords<String, String> records = consumer.poll(Duration.ofMillis(100));
            for (ConsumerRecord<String, String> record : records) {
                System.out.printf("收到消息:key=%s, value=%s, 分区=%d, 偏移量=%d%n",
                        record.key(), record.value(),
                        record.partition(), record.offset());
            }
        }
    }
}