在 Debian 上部署 Apache Kafka,其配置和运行主要依赖以下几类内容(系统、运行环境、Kafka 自身配置、可选组件):
sudo apt update
sudo apt install -y wget curl tar gzip
Kafka 是用 Scala/Java 编写的,必须安装 JVM。
sudo apt install -y openjdk-17-jdk
验证:
java -version
⚠️ Kafka 3.x 已不再推荐 Java 8
wget https://downloads.apache.org/kafka/3.6.1/kafka_2.13-3.6.1.tgz
tar -xzf kafka_2.13-3.6.1.tgz
格式说明:
kafka_2.13-3.6.1.tgz
2.13:Scala 版本3.6.1:Kafka 版本
Kafka 自带:
路径:
config/server.properties
常见关键配置:
broker.id=1
listeners=PLAINTEXT://:9092
log.dirs=/var/lib/kafka-logs
num.partitions=3
offsets.topic.replication.factor=1
如果是 Kafka 3.x:
KAFKA_CLUSTER_ID=$(bin/kafka-storage.sh random-uuid)
bin/kafka-storage.sh format -t $KAFKA_CLUSTER_ID -c config/kraft/server.properties
config/kraft/server.properties
关键配置:
process.roles=broker,controller
node.id=1
controller.quorum.voters=1@localhost:9093
listeners=PLAINTEXT://:9092,CONTROLLER://:9093
log.dirs=/var/lib/kafka-logs
config/zookeeper.properties
启动:
bin/zookeeper-server-start.sh config/zookeeper.properties
✅ 新项目不建议再使用 ZooKeeper
常见端口:
9092:Kafka 客户端9093:KRaft Controller2181:ZooKeeper(如启用)sudo ufw allow 9092
ulimit -n 100000
或写入:
/etc/security/limits.conf
| 组件 | 说明 |
|---|---|
| systemd | 配置 Kafka 开机自启 |
| Prometheus | Kafka 监控 |
| JMX | Kafka 性能监控 |
| Schema Registry | Confluent 生态 |
| Kafka Connect | 数据集成 |
Debian 上运行 Kafka 只需:Java + Kafka 安装包 + 正确配置文件
如果你愿意,我可以帮你:
直接告诉我你的 Kafka 版本 + 使用场景 即可。