温馨提示×

centos zookeeper与kafka集成方法

小樊
34
2025-11-08 06:25:57
栏目: 智能运维

在CentOS上集成Zookeeper和Kafka,可以按照以下步骤进行:

1. 安装Java

Kafka和Zookeeper都需要Java环境,因此首先需要安装Java。

sudo yum install java-1.8.0-openjdk-devel

2. 下载并安装Zookeeper

  1. 下载Zookeeper:
wget https://archive.apache.org/dist/zookeeper/zookeeper-3.7.0/apache-zookeeper-3.7.0-bin.tar.gz
  1. 解压并移动到合适的位置:
tar -xzf apache-zookeeper-3.7.0-bin.tar.gz
sudo mv apache-zookeeper-3.7.0-bin /opt/zookeeper
  1. 创建数据和日志目录:
sudo mkdir -p /var/lib/zookeeper/data
sudo mkdir -p /var/log/zookeeper
  1. 配置Zookeeper:

编辑/opt/zookeeper/conf/zoo.cfg文件:

tickTime=2000
dataDir=/var/lib/zookeeper/data
clientPort=2181
initLimit=5
syncLimit=2
server.1=zoo1:2888:3888
server.2=zoo2:2888:3888
server.3=zoo3:2888:3888

/var/lib/zookeeper/data目录下创建myid文件,内容为服务器的ID(例如,第一台服务器为1):

echo 1 | sudo tee /var/lib/zookeeper/data/myid
  1. 启动Zookeeper:
/opt/zookeeper/bin/zkServer.sh start

3. 下载并安装Kafka

  1. 下载Kafka:
wget https://archive.apache.org/dist/kafka/2.8.0/kafka_2.13-2.8.0.tgz
  1. 解压并移动到合适的位置:
tar -xzf kafka_2.13-2.8.0.tgz
sudo mv kafka_2.13-2.8.0 /opt/kafka
  1. 配置Kafka:

编辑/opt/kafka/config/server.properties文件:

broker.id=1
listeners=PLAINTEXT://:9092
log.dirs=/var/lib/kafka/logs
zookeeper.connect=zoo1:2181,zoo2:2181,zoo3:2181

4. 启动Kafka

启动Kafka服务器:

/opt/kafka/bin/kafka-server-start.sh /opt/kafka/config/server.properties

5. 创建Topic

创建一个Kafka Topic:

/opt/kafka/bin/kafka-topics.sh --create --topic test --bootstrap-server zoo1:9092 --replication-factor 3 --partitions 3

6. 验证集成

  1. 创建一个生产者:
/opt/kafka/bin/kafka-console-producer.sh --topic test --bootstrap-server zoo1:9092
  1. 创建一个消费者:
/opt/kafka/bin/kafka-console-consumer.sh --topic test --from-beginning --bootstrap-server zoo1:9092

在生产者端输入一些消息,然后在消费者端查看这些消息,确保Kafka和Zookeeper正常工作。

通过以上步骤,你可以在CentOS上成功集成Zookeeper和Kafka。

0