温馨提示×

如何配置Debian Kafka

小樊
37
2026-08-06 18:38:28
栏目: 智能运维

在 Debian 系统上配置 Apache Kafka,通常分为 安装、配置、启动、验证 四个步骤。下面给你一个从零开始的完整示例(单机模式),适合开发或测试环境;如果你需要集群/生产环境,我也可以再补充。


一、环境准备

1. 系统要求

  • Debian 10 / 11 / 12
  • Java 8 或以上(推荐 Java 11/17)

2. 安装 Java

sudo apt update
sudo apt install openjdk-17-jdk -y

验证:

java -version

二、下载并安装 Kafka

1. 创建用户(推荐)

sudo useradd -r -m -s /bin/bash kafka

2. 下载 Kafka

cd /opt
sudo wget https://downloads.apache.org/kafka/3.6.1/kafka_2.13-3.6.1.tgz
sudo tar -xzf kafka_2.13-3.6.1.tgz
sudo mv kafka_2.13-3.6.1 kafka
sudo chown -R kafka:kafka /opt/kafka

三、配置 Kafka

1. Zookeeper 配置(Kafka 内置)

Kafka 3.x 仍可使用 Zookeeper(KRaft 模式可选)

编辑:

sudo nano /opt/kafka/config/zookeeper.properties

常见配置:

dataDir=/var/lib/zookeeper
clientPort=2181
maxClientCnxns=0

创建数据目录:

sudo mkdir -p /var/lib/zookeeper
sudo chown -R kafka:kafka /var/lib/zookeeper

2. Kafka Server 配置

sudo nano /opt/kafka/config/server.properties

关键配置(单机示例):

broker.id=0
listeners=PLAINTEXT://localhost:9092
log.dirs=/var/lib/kafka-logs
zookeeper.connect=localhost:2181

创建日志目录:

sudo mkdir -p /var/lib/kafka-logs
sudo chown -R kafka:kafka /var/lib/kafka-logs

四、启动 Kafka 和 Zookeeper

1. 启动 Zookeeper

sudo -u kafka /opt/kafka/bin/zookeeper-server-start.sh -daemon /opt/kafka/config/zookeeper.properties

2. 启动 Kafka

sudo -u kafka /opt/kafka/bin/kafka-server-start.sh -daemon /opt/kafka/config/server.properties

五、验证 Kafka 是否运行

1. 查看进程

jps

应看到:

QuorumPeerMain
Kafka

2. 创建 Topic

/opt/kafka/bin/kafka-topics.sh \
--create \
--topic test-topic \
--bootstrap-server localhost:9092 \
--partitions 1 \
--replication-factor 1

3. 查看 Topic

/opt/kafka/bin/kafka-topics.sh --list --bootstrap-server localhost:9092

4. 发送 / 消费消息

# 生产者
/opt/kafka/bin/kafka-console-producer.sh \
--topic test-topic \
--bootstrap-server localhost:9092

# 消费者(新终端)
/opt/kafka/bin/kafka-console-consumer.sh \
--topic test-topic \
--from-beginning \
--bootstrap-server localhost:9092

六、配置为 systemd 服务(推荐)

1. Zookeeper service

sudo nano /etc/systemd/system/zookeeper.service
[Unit]
Description=Zookeeper
After=network.target

[Service]
Type=simple
User=kafka
ExecStart=/opt/kafka/bin/zookeeper-server-start.sh /opt/kafka/config/zookeeper.properties
ExecStop=/opt/kafka/bin/zookeeper-server-stop.sh
Restart=on-failure

[Install]
WantedBy=multi-user.target

2. Kafka service

sudo nano /etc/systemd/system/kafka.service
[Unit]
Description=Apache Kafka
After=zookeeper.service

[Service]
Type=simple
User=kafka
ExecStart=/opt/kafka/bin/kafka-server-start.sh /opt/kafka/config/server.properties
ExecStop=/opt/kafka/bin/kafka-server-stop.sh
Restart=on-failure

[Install]
WantedBy=multi-user.target

3. 启动并设置开机启动

sudo systemctl daemon-reload
sudo systemctl enable zookeeper kafka
sudo systemctl start zookeeper kafka

七、常见问题

1. Kafka 启动慢

  • 检查 /var/lib/kafka-logs 权限
  • Java 版本是否匹配

2. 端口被占用

ss -lntp | grep 9092

3. 生产环境建议

  • 使用 KRaft 模式(无 Zookeeper)
  • 配置多个 broker
  • 调整 log.retention.hours
  • 配置 JVM 内存

八、下一步你可以做什么?

✅ 配置 KRaft 单节点 / 集群
✅ 配置 外网访问(listeners / advertised.listeners)
✅ 配置 Kafka + Debian + Docker
✅ 配置 Kafka Connect / Kafka Streams

如果你告诉我:

  • 开发 / 测试 / 生产
  • 是否 需要集群
  • 是否 用 Docker

我可以给你更精确的配置方案。

0