温馨提示×

Ubuntu中Kafka怎么配置

小樊
44
2026-08-02 15:17:16
栏目: 智能运维

下面是在 Ubuntu 上安装并配置 Kafka(以 Kafka 3.x + 为例,假设使用 Kafka 自带的 Zookeeper)常见完整流程。如果你已经有 Kafka 并只想看核心配置点,也可以直接跳到「四、常用配置说明」。


一、环境准备

1. 安装 Java(必须)

Kafka 依赖 Java:

sudo apt update
sudo apt install openjdk-11-jdk -y

验证:

java -version

二、下载并安装 Kafka

1. 下载 Kafka

去官网复制最新链接(示例为 3.6.1):

cd /opt
sudo wget https://downloads.apache.org/kafka/3.6.1/kafka_2.13-3.6.1.tgz
sudo tar -xzf kafka_2.13-3.6.1.tgz
sudo mv kafka_2.13-3.6.1 kafka

三、启动 Zookeeper(旧架构)或 KRaft(新架构)

✅ 方式一:使用 Zookeeper(最常见)

1. 启动 Zookeeper

cd /opt/kafka
bin/zookeeper-server-start.sh config/zookeeper.properties

后台运行:

nohup bin/zookeeper-server-start.sh config/zookeeper.properties > zookeeper.log 2>&1 &

2. 配置 Kafka Server

编辑配置文件:

vim config/server.properties

关键配置项:

# broker 唯一 ID
broker.id=0

# 监听地址(重要)
listeners=PLAINTEXT://localhost:9092
# 或允许远程访问
# listeners=PLAINTEXT://0.0.0.0:9092

# 对外暴露地址
advertised.listeners=PLAINTEXT://localhost:9092

# 日志存储目录
log.dirs=/tmp/kafka-logs

# Zookeeper 地址
zookeeper.connect=localhost:2181

# 是否允许删除 topic
delete.topic.enable=true

3. 启动 Kafka

bin/kafka-server-start.sh config/server.properties

后台运行:

nohup bin/kafka-server-start.sh config/server.properties > kafka.log 2>&1 &

✅ 方式二:KRaft 模式(无需 Zookeeper,Kafka 3.x+)

1. 生成集群 ID

bin/kafka-storage.sh random-uuid

假设得到:

xtz1234567890

2. 格式化存储

bin/kafka-storage.sh format -t xtz1234567890 -c config/kraft/server.properties

3. 修改配置

vim config/kraft/server.properties

关键配置:

process.roles=broker,controller
node.id=1
controller.quorum.voters=1@localhost:9093
listeners=PLAINTEXT://localhost:9092,CONTROLLER://localhost:9093
advertised.listeners=PLAINTEXT://localhost:9092
log.dirs=/tmp/kafka-logs

4. 启动 Kafka

bin/kafka-server-start.sh config/kraft/server.properties

四、常用配置说明(重点)

1. listeners vs advertised.listeners

配置项 作用
listeners Kafka 实际监听的地址
advertised.listeners 客户端连接时使用的地址

远程访问示例:

listeners=PLAINTEXT://0.0.0.0:9092
advertised.listeners=PLAINTEXT://服务器公网IP:9092

2. 数据保留策略

log.retention.hours=168
log.retention.bytes=-1
log.segment.bytes=1073741824

3. Topic 默认分区数

num.partitions=3

五、测试 Kafka 是否可用

1. 创建 Topic

bin/kafka-topics.sh --create \
--topic test \
--bootstrap-server localhost:9092 \
--partitions 1 \
--replication-factor 1

2. 发送消息

bin/kafka-console-producer.sh \
--topic test \
--bootstrap-server localhost:9092

3. 消费消息

bin/kafka-console-consumer.sh \
--topic test \
--from-beginning \
--bootstrap-server localhost:9092

六、设置开机自启(systemd,推荐)

如果你需要,我可以帮你写:

  • kafka.service
  • zookeeper.service

七、常见问题

❌ 无法远程连接

  • 检查 advertised.listeners
  • 检查防火墙:
sudo ufw allow 9092

❌ broker.id 冲突

  • 每个 broker 必须唯一

八、总结

✅ Ubuntu 上 Kafka 的核心步骤:

  1. 安装 Java
  2. 下载 Kafka
  3. 配置 server.properties
  4. 启动 Zookeeper / KRaft
  5. 启动 Kafka
  6. 测试 Topic 生产与消费

如果你告诉我:

  • 单机 / 集群
  • 是否远程访问
  • Kafka 版本
  • 是否用于生产环境

我可以给你一份完全贴合你场景的 Kafka 配置模板

0