`
bit1129
  • 浏览: 1051631 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

【Kafka十二】关于Kafka是一个Commit Log Service

 
阅读更多

Kafka is a distributed, partitioned, replicated commit log service.这里的commit log如何理解?

 

A message is considered "committed" when all in sync replicas for that partition have applied it to their log. Only committed messages are ever given out to the consumer. This means that the consumer need not worry about potentially seeing a message that could be lost if the leader fails. Producers, on the other hand, have the option of either waiting for the message to be committed or not, depending on their preference for tradeoff between latency and durability. This preference is controlled by the request.required.acks setting that the producer uses.

 

The guarantee that Kafka offers is that a committed message will not be lost, as long as there is at least one in sync replica alive, at all times.

Kafka will remain available in the presence of node failures after a short fail-over period, but may not remain available in the presence of network partitions.

 

Kafka是一个基于副本的高可靠的消息系统,在消息可用前,Kafka保证消息已经提交到足够的副本中(这个在min.insync.replicas中配置),这种逻辑类似于Zookeeper的写操作(Leader写,然后指定个数的Follower完成同步)。

 

Kafka不同于Zookeeper,Zookeeper是可以在网络发生分区后,能够继续工作

 

分享到:
评论

相关推荐

    Apache Kafka

    kafka是一个分布式消息发布订阅系统,它最初由LinkedIn公司基于独特的设计实现为一个分布式的提交日志系统( a distributed commit log),,之后成为Apache项目的一部分。Kafka系统快速、可扩展并且可持久化。它的...

    开课吧-01分布式消息系统Kafka.pdf

    Kafka 的应用场景很多,这里就举几个最常见的场景。  消息系统 Messaging  Web 站点活动追踪 Website Activity Tracking  数据监控 Metrics  日志聚合 Log Aggregation  流处理 Stream Processiong 主讲:...

    Kafka_ The Definitive Guide

    It is often described as a “distributed commit log” or more recently as a “distrib‐ uting streaming platform.” A filesystem or database commit log is designed to provide a durable record of all ...

    apache kafka 介绍

    Kafka is a distributed, partitioned, replicated commit log service. It provides the functionality of a messaging system, but with a unique design.

    pouchdb-commit-log

    pouchdb 提交日志 集群友好的基于附加主题的提交日志 + pouchdb 的物化视图实现(受 apache kafka 和 samza 启发)例子 var Pouch = require ( 'pouchdb' )var CommitLog = require ( 'pouchdb-commit-log' )var ...

    kafka–1-基本概念

    kafka 强依赖 zookeeper。 应用在大数据场景,例如大数据的日志收集。 Borker — 每台机器上可以运行一个或多个...Partition是一个有序的Message序列,这些message按顺序添加到一个叫做commit log的文件中,每个part

    jocko:Kafka通过内置协调在Golang中实现(无需ZooKeeper,单个二进制安装,Cloud Native)

    目标: 协议与Kafka兼容,因此Kafka客户端和服务可与Jocko一起使用分发一个二进制文件使用Serf进行发现,使用Raft进行共识(并消除了运行ZooKeeper的需要) 更简单的配置设置去做 地图功能缺失 广泛的协议符合性测试...

    rust-reactive-log:高性能事务可组合持久性

    [WIP] rust-reactive-log 此自述文件目前主要是设计规范。 其中大部分尚未实施。 ...一次只有一个进程可以事务性地消费一个特定的消费者 ID 这个库没有强制执行这些警告! extern crate reactiv

    4399大数据笔试题.pdf

    四个⼟豪在⼀次聚会中⽐拼财产的逻辑推理题。 A:四个⼈中,B最富。 B:四个⼈中,C最富。 C:我不是最富有的。 D:C⽐我富,A⽐C富。 已知,其中只有⼀个⼈在说假话。 请问:四个⼈中谁最富?从最富到最不富的顺序...

    php-rdkafka客户端库.zip

    这是一个可以发送和接受消息的客户端,下面给大家演示一下发送和接受的操作,需要的朋友可以自行下载后尝试一下。发送消息<?phptry {  $rcf = new RdKafka\Conf();  $rcf->set('group.id', 'test');  ...

    spring-boot-reference.pdf

    Git Commit Information 50.10.4. Build Information 50.10.5. Writing Custom InfoContributors 51. Monitoring and Management over HTTP 51.1. Customizing the Management Endpoint Paths 51.2. Customizing ...

    voik:W [WIP]实验性〜分布式〜提交日志

    实验性分布式流媒体平台 地位 目前,在存储层的基础上工作。 发现了问题? 想要贡献? 请务必先查看我们的。 要了解有关组件内部,性能和参考的更多信息,请查看文档。 ...实施类似Kinesis的流服务 ...

Global site tag (gtag.js) - Google Analytics