温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

选择Pulsar而不是Kafka的7 大理由分别是什么

发布时间:2021-12-15 10:48:16 来源:亿速云 阅读:173 作者:柒染 栏目:大数据

选择Pulsar而不是Kafka的7 大理由分别是什么,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。

导读:  对于云原生分布式应用程序的开发人员来说,为把更多精力放在应用程序和微服务开发上,而不是浪费时间处理复杂的消息基础架构,他们需要一个解决方案帮助管理好这些基础架构。 

构建消息基础架构的第一步是选择合适的消息中间件技术。可选方案有很多,从各种开源框架(如 RabbitMQ、ActiveMQ、NATS)到一些商用产品(如 IBM MQ 或者 RedHat AMQ),除此之外,我们还有 Kafka。不过,我们最后没有使用 Kafka,而是选择了 Pulsar。

为什么最终选择了 Pulsar?下面列出了选择 Pulsar 而不是 Kafka 的 7 大理由。

1. 流式处理和队列的合体  

Pulsar 就像一个合二为一的产品,不仅可以像 Kafka 那样处理高速率的实时场景,还支持标准的消息队列模式,比如多消费者、失效备援订阅和消息扇出等等。Pulsar 会自动跟踪客户端的读取位置,并把这些信息保存在高性能的分布式 ledger(BookKeeper)当中。

与 Kafka 不同,Pulsar 具备传统消息队列(如 RabbitMQ)的功能,因此,只需要运行一个 Pulsar 系统就可以同时处理实时流和消息队列。

2. 支持分区,但不是必需的  

如果你用过 Kafka,就一定知道分区是怎么回事。Kafka 中的所有主题都是分区的,这样可以增加吞吐量。通过分区进而划分到不同的 broker,单个主题的处理速率可以得到大幅提升。但如果某些主题不需要太高的处理速率,又该怎么办呢?对于这类情况,如果能不考虑分区,避免随之而来的 API 和管理工作,不是更好吗?

Pulsar 就可以做到。如果只需要一个主题,可以使用一个主题而无需使用分区。如果需要保持多个消费者实例的处理速率,也不需要使用分区,Pulsar 的共享订阅可以达到这一目的。

如果确实需要分区来进一步提升性能,Pulsar 也可以支持分区的使用。

3. 日志固然不错,但 ledger 更胜一筹  

Kafka 开发团队预见了日志对于一个实时数据交换系统的重要性。日志通过追加的方式写入系统,写入速度很快。日志中的数据是串行的,可以按照写入的顺序快速读取数据。相比随机读取和写入,串行读取和写入速度更快。对于任何一个提供数据保证的系统来说,持久化存储方面的交互都是一个瓶颈,而日志抽象最大限度地提升了这方面的效率。

日志固然好,但当数据量过大时,也会给我们带来一些麻烦,单台服务器上保存所有日志已经成为一个挑战。在日志占满服务器存储之后该怎么办?如何进行扩容?或者保存日志的服务器宕机,需要重新从副本创建新的服务器时,该怎么办?将日志从一台服务器拷贝到另一台服务器耗时很长,特别是想要同时保持系统实时数据时,完成这个操作就更难了。

Pulsar 对日志进行分段,从而避免了拷贝大块的日志。通过 BookKeeper, Pulsar 将日志分段分散到多台不同的服务器上。也就是说,日志不会保存在单台服务器上,任何一台服务器都不会成为整个系统的瓶颈。这使故障处理和扩容更加简单,只需要加入新的服务器,而无需进行再均衡处理。

4. 无状态  

对于云原生应用程序开发人员来说,最喜欢的东西就是无状态。无状态组件启动速度快、可替换,还可以实现无缝扩容。如果消息中间件也是无状态的,那岂不是更好?

Kafka 不是无状态的,每个 broker 都包含了分区的所有日志,如果一个 broker 宕机,不是所有 broker 都可以接替它的工作。如果工作负载太高,也不能随意添加新的 broker 来分担,而是必须与持有其分区副本的  broker 进行状态同步。

在 Pulsar 架构中,broker 是无状态的。但是完全无状态的系统无法持久化消息,所以 Pulsar 不是依靠 broker 来实现消息持久化的。在 Pulsar 架构中,数据的分发和保存是相互独立的。broker 从生产者接收数据,然后将数据发送给消费者,但数据保存在 BookKeeper 中。

Pulsar 的 broker 是无状态的,所以如果工作负载很高,可以直接添加新的 broker,快速接管工作负载。

5. 简单的跨域复制  

跨域复制是 Pulsar 的拿手好戏。Pulsar 在设计之初就考虑到了这个特性,配置也很容易。无论是全局分布式应用程序还是灾备方案,都可以通过 Pulsar  搞定。

6. 稳定的表现  

基准测试(http://openmessaging.cloud/docs/benchmarks/pulsar/)表明,Pulsar 可以在提供较高吞吐量的同时保持较低的延迟。

7. 完全开源  

Pulsar 提供了很多与 Kafka 相似的特性,比如跨域复制、流式消息处理(Pulsar Functions)、连接器(Pulsar IO)、基于 SQL 的主题查询(Pulsar SQL)、schema registry,还有一些 Kafka 没有的特性,比如分层存储和多租户。更赞的是,这些功能特性都是开源的。

关于选择Pulsar而不是Kafka的7 大理由分别是什么问题的解答就分享到这里了,希望以上内容可以对大家有一定的帮助,如果你还有很多疑惑没有解开,可以关注亿速云行业资讯频道了解更多相关知识。

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI