温馨提示×

Debian如何配置Kafka

小樊
51
2026-07-11 16:12:47
栏目: 智能运维

下面给你一个在 Debian 系统上配置 Apache Kafka 的完整流程示例,适用于 Debian 11 / 12,Kafka 版本以 3.x(自带 Zookeeper) 为例。如果你用的是 KRaft 模式(无 Zookeeper),我也可以单独给你说明。


一、前置条件

1. 安装 Java(Kafka 依赖)

Kafka 需要 Java 8 或以上(推荐 Java 17)。

sudo apt update
sudo apt install -y openjdk-17-jdk

验证:

java -version

二、下载并安装 Kafka

1. 创建安装目录

sudo mkdir -p /opt/kafka
cd /opt/kafka

2. 下载 Kafka

从官网下载(示例为 3.6.1):

wget https://downloads.apache.org/kafka/3.6.1/kafka_2.13-3.6.1.tgz

2.13 是 Scala 版本,不影响使用

3. 解压

tar -xzf kafka_2.13-3.6.1.tgz
mv kafka_2.13-3.6.1/* .
rm -rf kafka_2.13-3.6.1 kafka_2.13-3.6.1.tgz

三、配置 Kafka(Zookeeper 模式)

1. 配置 Zookeeper

编辑配置文件:

nano config/zookeeper.properties

常见配置:

dataDir=/var/lib/zookeeper
clientPort=2181

创建数据目录:

sudo mkdir -p /var/lib/zookeeper

2. 配置 Kafka

编辑:

nano config/server.properties

关键配置(单机示例):

broker.id=0
listeners=PLAINTEXT://localhost:9092
log.dirs=/var/lib/kafka-logs
zookeeper.connect=localhost:2181

创建日志目录:

sudo mkdir -p /var/lib/kafka-logs

四、启动 Kafka

1. 启动 Zookeeper

bin/zookeeper-server-start.sh config/zookeeper.properties

后台运行(可选):

bin/zookeeper-server-start.sh -daemon config/zookeeper.properties

2. 启动 Kafka

bin/kafka-server-start.sh config/server.properties

后台运行:

bin/kafka-server-start.sh -daemon config/server.properties

五、测试 Kafka 是否正常运行

1. 创建 Topic

bin/kafka-topics.sh \
  --create \
  --topic test-topic \
  --bootstrap-server localhost:9092 \
  --partitions 1 \
  --replication-factor 1

查看 Topic:

bin/kafka-topics.sh --list --bootstrap-server localhost:9092

2. 发送消息

bin/kafka-console-producer.sh \
  --topic test-topic \
  --bootstrap-server localhost:9092

输入测试内容后 Ctrl+C 退出。


3. 消费消息

bin/kafka-console-consumer.sh \
  --topic test-topic \
  --from-beginning \
  --bootstrap-server localhost:9092

六、配置为 systemd 服务(推荐)

1. Zookeeper service

sudo nano /etc/systemd/system/zookeeper.service
[Unit]
Description=Apache Zookeeper
After=network.target

[Service]
Type=simple
ExecStart=/opt/kafka/bin/zookeeper-server-start.sh /opt/kafka/config/zookeeper.properties
ExecStop=/opt/kafka/bin/zookeeper-server-stop.sh
Restart=on-failure

[Install]
WantedBy=multi-user.target

2. Kafka service

sudo nano /etc/systemd/system/kafka.service
[Unit]
Description=Apache Kafka
After=zookeeper.service

[Service]
Type=simple
ExecStart=/opt/kafka/bin/kafka-server-start.sh /opt/kafka/config/server.properties
ExecStop=/opt/kafka/bin/kafka-server-stop.sh
Restart=on-failure

[Install]
WantedBy=multi-user.target

3. 启动并设置开机自启

sudo systemctl daemon-reload
sudo systemctl enable zookeeper
sudo systemctl enable kafka
sudo systemctl start zookeeper
sudo systemctl start kafka

七、常见问题

1. Kafka 启动慢

  • 检查 /var/lib/kafka-logs 权限
  • Java 版本是否匹配

2. 端口占用

ss -lntp | grep 9092

3. 生产环境建议

  • 使用 KRaft 模式(无 Zookeeper)
  • 多 broker
  • 配置 listeners 为内网/公网 IP
  • 开启认证(SASL / SSL)

八、可选:KRaft 模式(无 Zookeeper)

如果你需要 Kafka 3.x + KRaft(推荐新项目),我可以给你:

  • 单节点 KRaft 配置
  • 多节点集群配置
  • 与 Zookeeper 模式对比

只要告诉我 ✅

0