`

Kafka 基本应用--创建集群并且容错测试

 
阅读更多

 

Start zookeeper

bin/zookeeper-server-start.sh config/zookeeper.properties

 

Setting up a multi-broker cluster 

cp config/server.properties config/server-1.properties

cp config/server.properties config/server-2.properties

cp config/server.properties config/server-3.properties

 

config/server-1.properties:

broker.id=1

listeners=PLAINTEXT://:9093

log.dir=/tmp/kafka-logs-1

 

config/server-2.properties:

broker.id=2

listeners=PLAINTEXT://:9094

log.dir=/tmp/kafka-logs-2

 

config/server-3.properties:

broker.id=3

listeners=PLAINTEXT://:9094

log.dir=/tmp/kafka-logs-3

 

Start multi-broker cluster 

bin/kafka-server-start.sh config/server-1.properties &

bin/kafka-server-start.sh config/server-2.properties &

bin/kafka-server-start.sh config/server-3.properties &

 

Create a topic

bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 3 --partitions 1 --topic my-replicated-topic

 

Check topics

bin/kafka-topics.sh --list --zookeeper localhost:2181

bin/kafka-topics.sh --describe --zookeeper localhost:2181 --topic my-replicated-topic

 

Send some messages

bin/kafka-console-producer.sh --broker-list localhost:9092 --topic my-replicated-topic

 

Start a consumer

bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --from-beginning --topic my-replicated-topic

 

Fault-tolerance Test

Kill one Kafka process

ps aux | grep server-1.properties

kill -9 7564

 

Check the topic again

bin/kafka-topics.sh --describe --zookeeper localhost:2181 --topic my-replicated-topic

 

The messages are still available for consumption even though the leader that took the writes originally is down

bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --from-beginning --topic my-replicated-topic

 

参考:

 http://kafka.apache.org/documentation/

分享到:
评论

相关推荐

    Kafka技术内幕-图文详解Kafka源码设计与实现

    本书以0.10版本的源码为基础,深入分析了Kafka的设计与实现,包括生产者和消费者的消息处理流程,新旧消费者不同的设计方式,存储层的实现,协调者和控制器如何确保Kafka集群的分布式和容错特性,两种同步集群工具...

    Kafka学习思维导图-Kafka原理-kafka简介

    2.kafka集群的架构 代理(Broker):缓存代理,Kafka的核心功能 生产者(Producer):消息和数据生产者 消费者(Consumer):消息和数据消费者 消费管理(Topic) 分区(part):把一个topic分成不同的分区,提高负载 ...

    Kafka最新Ubuntu安装包

    kafka_2.13-3.5.0.tgz 是Apache Kafka的一个特定版本,针对Scala 2.13构建。Apache Kafka是一个开源的流...部署后,您可以设置Kafka集群,生产和消费消息,以及使用Kafka的其他高级功能,如流处理、连接外部系统等。

    徐老师大数据-Kafka

    徐老师大数据-Kafka视频,[mukedaba.com]徐老师大数据-01-Kafka概述.mp4、[mukedaba.com]...04-Kafka考查在zk的组件与分布情况.mp4、[mukedaba.com]徐老师大数据-05-Kafka部署多broker集群以及考查容错性.mp4等等。

    Go操作kafka—-kafka简介

    2.kafka集群的架构 代理(Broker):缓存代理,Kafka的核心功能 生产者(Producer):消息和数据生产者 消费者(Consumer):消息和数据消费者 消费管理(Topic) 分区(part):把一个topic分成不同的分区,提高负载 ...

    Java实现Kafka数据生产者

    "Java实现Kafka数据生产者"这个功能可以让你使用Java编程语言创建一个能够连接到指定的Kafka集群(通过bootstrap servers)并向其中发送数据的应用程序。通过这个功能,你可以将数据以消息的形式发送到Kafka主题中,...

    Kafka技术内幕:图文详解Kafka源码设计与实现(完整版)

    本书以0.10版本的源码为基础,深入分析了Kafka的设计与实现,包括生产者和消费者的消息处理流程,新旧消费者不同的设计方式,存储层的实现,协调者和控制器如何确保Kafka集群的分布式和容错特性,两种同步集群工具...

    Kafka快速实战与基本原理详解:从零到精通

    通过对Kafka生产者和消费者的代码示例分析,文档展示了消息的发送和接收过程,同时探讨了Kafka集群的搭建和运维,包括主题创建、分区管理、消息复制和容错处理等核心功能。此外,本文还探讨了Kafka的Java客户端访问...

    KafkaStream-CQRS-EventSourcing:Kafka Streams的事件源(CQRS)和实例化视图

    Kafka Streams将数据存储在Kafka集群(Kafka State Stores)中,并快速获取数据检票口。 该存储库通过Kafka Streaming演示了事件源(材料化视图)( ) 在典型的生产环境中,我们有多个带有专用数据库的微服务,...

    Kafka技术内幕图文详解源码设计与实现

    本书以0.10版本的源码为基础,深入分析了Kafka的设计与实现,包括生产者和消费者的消息处理流程,新旧消费者不同的设计方式,存储层的实现,协调者和控制器如何确保Kafka集群的分布式和容错特性,两种同步集群工具...

    Kafka技术内幕

    本书以0.10版本的源码为基础,深入分析了Kafka的设计与实现,包括生产者和消费者的消息处理流程,新旧消费者不同的设计方式,存储层的实现,协调者和控制器如何确保Kafka集群的分布式和容错特性,两种同步集群工具...

    kafka技术内幕

    本书以0.10版本的源码为基础,深入分析了Kafka的设计与实现,包括生产者和消费者的消息处理流程,新旧消费者不同的设计方式,存储层的实现,协调者和控制器如何确保Kafka集群的分布式和容错特性,两种同步集群工具...

    kafka面试题.docx

    容错:Kafka能够抵抗集群中的节点/机器故障。 耐久性:由于Kafka支持消息复制,因此消息永远不会丢失。这是耐久性背后的原因之一。 可扩展性:卡夫卡可以扩展,而不需要通过添加额外的节点而在运行中造成任何停机。

    Kafka 入门基础篇.pptx

    Kafka 的主要特点是可以实时处理大量数据,並且具有高吞吐量、可扩展性强、容错性好等特点。 Kafka 使用 Scala 语言编写,并于 2010 年被 LinkedIn 公司贡献给 Apache 基金会,成为顶级开源项目。 Kafka 的组成部分...

    kafka概述及原理.pdf

    分布式和容错性:Kafka集群由多个Broker组成,这些Broker可以分布在不同的物理或虚拟机上。每个Broker都是独立的,并且可以处理来自生产者和消费者的请求。这种分布式架构使得Kafka具有高可用性,即使部分Broker发生...

    大纲及下载地址.doc

    11 - Kafka客户端容错体系源 12 - Kafka服务端高性能架构设计源码剖析 13 - Kafka数据管理源码剖析 14 - 大数据集群资源如何评估 15 - DT时代转型中的数据中台建设 16 - 数据中台建设数据治理篇 17 - Scala视频

    高吞吐量、低延迟:kafka每秒可以处理几十万条消息,它的延迟最低只有几毫秒;.txt

    可扩展性:kafka集群支持热扩展;持久性、可靠性:消息被持久化到本地磁盘,并且支持数据备份防止数据丢失;容错性:允许集群中节点故障(若副本数量为n,则允许n-1个节点故障);高并发:支持数千个客户端同时读写。

    Kafka技术内幕(图文详解Kafka源码设计与实现)【图灵最新版】

    本书以0.10版本的源码为基础,深入分析了Kafka的设计与实现,包括生产者和消费者的消息处理流程,新旧消费者不同的设计方式,存储层的实现,协调者和控制器如何确保Kafka集群的分布式和容错特性,两种同步集群工具...

Global site tag (gtag.js) - Google Analytics