首页 > 其他分享 >6.4 Kafka集群之副本集

6.4 Kafka集群之副本集

时间:2022-10-24 18:01:34浏览次数:85  
标签:adminClient AdminClient kafka topic 6.4 static Kafka 副本


1.简介
kafka的数据是存储在日志文件中的,kafka副本集(副本因子)是指将这些日志文件复制多份从而起到数据备份的目的。kafka中的topic只是个逻辑概念,实际存储数据的是partition,所以真正被复制的也是partition。

2.特点
(1).kafka可以通过配置设置默认的副本集数量
(2).kafka可以为每个topic设置副本集,所以副本集是相对于topic的
(3).一个topic的副本集可以分布在多个broker中,当一个broker挂掉了,其他的broker上还有数据,这就提高了数据的可靠性

3.设置

public class AdminSample {
private static final String topicName = "steven";

private static final int partitionNumber = 1;

private static final Short replicationFactor = 1;

/**
* 创建AdminClient
*/
public static AdminClient adminClient() {
Properties properties = new Properties();
properties.setProperty(AdminClientConfig.BOOTSTRAP_SERVERS_CONFIG, "127.0.0.1:9092");
AdminClient adminClient = AdminClient.create(properties);
return adminClient;
}

/**
* 创建topic
*/
public static void main(String[] args) throws ExecutionException, InterruptedException {
AdminClient adminClient = AdminSample.adminClient();
NewTopic newTopic = new NewTopic(topicName, partitionNumber, replicationFactor);
CreateTopicsResult topicsResult = adminClient.createTopics(Arrays.asList(newTopic));
//创建是一个异步过程,但是如果主线程退出了,创建还没执行完就会失败,所以下面的语句是防止主线程退出
topicsResult.all().get();
System.out.println("CreateTopicsResult:" + topicsResult.values());
}
}


标签:adminClient,AdminClient,kafka,topic,6.4,static,Kafka,副本
From: https://blog.51cto.com/u_15843693/5790761

相关文章

  • 6.5 Kafka集群之Leader选举
    1.Broker选举(1).不采用多数投票方式选举的原因kafka并没有采用多数投票来选举leader的(redis和es采用的是多数投票方式来进行选举的),原因有两个,一是防止选举时选举到了数......
  • Kafka Consumer指定时间戳位置消费消息
    KafkaConsumer指定时间戳位置消费消息若用户不想从最旧的或最早的offset位置开始消费,想指定某个时间戳位置开始消费,是否可行呢?答案:可行的用户给定时间戳,kafkaserve......
  • 15.Linux下安装Kafka
    1.解压解压安装包并将解压后的目录移动到/usr/local/kafka目录下。tar-zxvfkafka_2.11-2.3.0.tgzmvkafka_2.11-2.3.0/usr/local/kafkacd2.启动cd3.检验执行jps命令,如......
  • 聊聊kafka
    两个月因为忙于工作毫无输出了,最近想给团队小伙伴分享下kafka的相关知识,于是就想着利用博客来做个提前的准备工作了;接下来会对kafka做一个简单的介绍,包括利用akf原则来解析......
  • kafka springBoot 报错 not present and missingTopicsFatal is true kafka missing-t
    这个问题可以追溯到springboot和kafka的版本问题,解决这个问题太麻烦,要去看官方文档,我选择不看。这里提供一种通用的解决方式在kafkaConfig配置文件中添加下面的代码/**......
  • 《Kafka: a Distributed Messaging System for Log Processing》论文阅读
    《Kafka:aDistributedMessagingSystemforLogProcessing》论文阅读这篇论文是LinkedIn在2011年发表的关于Kafka的论文;论文发表时,kafka还不够完善,使用的人也很少,但......
  • kafka listeners和advertised.listeners配置
    一、概述#Theaddressthesocketserverlistenson.Itwillgetthevaluereturnedfrom#java.net.InetAddress.getCanonicalHostName()ifnotconfigured.#FORMA......
  • Flink如何使用DataStreamAPI消费Kafka
    1、到官网查询所在版本的依赖,导入pom.xml(在此用Flink1.13)官网->教程->connectors->datastream->kafka网址:https://nightlies.apache.org/flink/flink-docs-release-1.1......
  • 103-windows 安装kafka
    下载地址:http://mirrors.hust.edu.cn/apache/zookeeper/2)下载后解压到一个目录:eg:D:\Java\Tool\zookeeper-3.4.103)在zookeeper-3.4.10目录下,新建文件夹,并命名(......
  • kafka日常维护
     1.列出topics[yeemiao@elk1bin]$./kafka-topics.sh--zookeeper10.26.41.102:2181,10.26.41.60:2181,10.27.181.169:2181--list__consumer_offsetsbusiness-logsngi......