温馨提示×

如何配置debian上的kafka

小樊
49
2026-08-31 22:59:05
栏目: 智能运维

下面给你一个在 Debian(如 Debian 11/12)上从零配置 Kafka 的实用指南,包含 单节点最小可用配置,以及常见可调参数。


一、环境准备

1. 安装 Java(Kafka 依赖 JVM)

Kafka 3.x 推荐使用 Java 8 / 11 / 17

sudo apt update
sudo apt install -y openjdk-17-jdk

验证:

java -version

二、下载并安装 Kafka

1. 下载 Kafka

以 Kafka 3.6 为例:

cd /opt
sudo wget https://downloads.apache.org/kafka/3.6.1/kafka_2.13-3.6.1.tgz
sudo tar -xzf kafka_2.13-3.6.1.tgz
sudo mv kafka_2.13-3.6.1 kafka

说明:
2.13 是 Scala 版本,不影响使用


三、配置 Kafka(核心)

1. Kafka 目录结构

/opt/kafka
 ├── config
 │   ├── server.properties
 │   ├── zookeeper.properties
 ├── bin

四、配置 Zookeeper(Kafka 2.x / 3.x 仍可用)

✅ Kafka 3.x 支持 KRaft(无 Zookeeper),但新手建议先用 Zookeeper

编辑:

sudo nano /opt/kafka/config/zookeeper.properties

最小配置:

dataDir=/var/lib/zookeeper
clientPort=2181

创建数据目录:

sudo mkdir -p /var/lib/zookeeper

五、配置 Kafka Server

sudo nano /opt/kafka/config/server.properties

最小可用配置

broker.id=0
listeners=PLAINTEXT://:9092
advertised.listeners=PLAINTEXT://localhost:9092

log.dirs=/var/lib/kafka-logs
num.partitions=1
default.replication.factor=1

zookeeper.connect=localhost:2181

创建日志目录:

sudo mkdir -p /var/lib/kafka-logs

六、启动 Kafka(测试用)

1. 启动 Zookeeper

/opt/kafka/bin/zookeeper-server-start.sh /opt/kafka/config/zookeeper.properties

2. 启动 Kafka

/opt/kafka/bin/kafka-server-start.sh /opt/kafka/config/server.properties

建议分别用两个终端测试


七、基础验证

1. 创建 Topic

/opt/kafka/bin/kafka-topics.sh \
  --create \
  --topic test \
  --bootstrap-server localhost:9092 \
  --partitions 1 \
  --replication-factor 1

2. 发送消息

/opt/kafka/bin/kafka-console-producer.sh \
  --topic test \
  --bootstrap-server localhost:9092

3. 消费消息

/opt/kafka/bin/kafka-console-consumer.sh \
  --topic test \
  --from-beginning \
  --bootstrap-server localhost:9092

八、配置为 systemd 服务(推荐)

1. Zookeeper

sudo nano /etc/systemd/system/zookeeper.service
[Unit]
Description=Zookeeper
After=network.target

[Service]
Type=simple
ExecStart=/opt/kafka/bin/zookeeper-server-start.sh /opt/kafka/config/zookeeper.properties
ExecStop=/opt/kafka/bin/zookeeper-server-stop.sh
Restart=on-failure

[Install]
WantedBy=multi-user.target

2. Kafka

sudo nano /etc/systemd/system/kafka.service
[Unit]
Description=Kafka
After=zookeeper.service

[Service]
Type=simple
ExecStart=/opt/kafka/bin/kafka-server-start.sh /opt/kafka/config/server.properties
ExecStop=/opt/kafka/bin/kafka-server-stop.sh
Restart=on-failure

[Install]
WantedBy=multi-user.target

启用:

sudo systemctl daemon-reload
sudo systemctl enable --now zookeeper
sudo systemctl enable --now kafka

九、常见配置说明(调优)

配置项 说明
num.partitions 默认分区数
log.retention.hours 日志保留时间
offsets.retention.minutes 消费位移保留
auto.create.topics.enable 是否自动建 Topic
delete.topic.enable 是否允许删除 Topic

示例:

log.retention.hours=168
auto.create.topics.enable=false
delete.topic.enable=true

十、下一步你可以做的

  • ✅ Kafka + SASL / SSL 安全配置
  • ✅ KRaft 模式(无 Zookeeper)
  • ✅ 集群部署(多 broker)
  • ✅ 接入 Spring / Flink / Logstash

如果你告诉我:

  • Debian 版本
  • Kafka 用途(日志 / 消息队列 / 流处理)
  • 是否集群

我可以给你更精确的生产级配置

0