温馨提示×

Kafka生产者消费者模式怎么实现

小亿
99
2024-05-06 18:12:57
栏目: 大数据

Kafka是一个开源的分布式流处理平台,其中提供了生产者-消费者模式用于实时数据的传输和处理。下面是实现Kafka生产者消费者模式的基本步骤:

  1. 安装Kafka:首先需要安装和配置Kafka集群,可以参考官方文档进行安装和配置。

  2. 创建主题(Topic):在Kafka中,数据通过主题进行传输,首先需要创建一个主题。

  3. 编写生产者代码:创建一个生产者应用来发送数据到指定的主题。

import org.apache.kafka.clients.producer.KafkaProducer;
import org.apache.kafka.clients.producer.ProducerRecord;

public class SimpleProducer {
    public static void main(String[] args) {
        Properties props = new Properties();
        props.put("bootstrap.servers", "localhost:9092");
        props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer");
        props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer");

        KafkaProducer<String, String> producer = new KafkaProducer<>(props);
        ProducerRecord<String, String> record = new ProducerRecord<>("test-topic", "key", "value");

        producer.send(record);

        producer.close();
    }
}
  1. 编写消费者代码:创建一个消费者应用来接收从指定主题发送过来的数据。
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.KafkaConsumer;

public class SimpleConsumer {
    public static void main(String[] args) {
        Properties props = new Properties();
        props.put("bootstrap.servers", "localhost:9092");
        props.put("group.id", "test-group");
        props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
        props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");

        KafkaConsumer<String, String> consumer = new KafkaConsumer<>(props);
        consumer.subscribe(Collections.singletonList("test-topic"));

        while (true) {
            ConsumerRecords<String, String> records = consumer.poll(Duration.ofMillis(100));
            records.forEach(record -> {
                System.out.println("key = " + record.key() + ", value = " + record.value());
            });
        }
    }
}
  1. 运行代码:分别运行生产者和消费者代码,可以在控制台看到数据的生产和消费过程。

通过以上步骤,就可以实现Kafka的生产者消费者模式。当然,在实际应用中还可以根据需求对代码进行扩展和优化。

0