首页 > 其他分享 >Kafka 创建的时候只有一个 Topic 的优化

Kafka 创建的时候只有一个 Topic 的优化

时间:2023-07-27 17:46:45浏览次数:42  
标签:__ topic producer 10 创建 kafka Topic import Kafka

  1. 在 kafka 的启动配置中修改 num.partitions=2
    每一个配置参考文档 https://blog.csdn.net/lizhitao/article/details/25667831

  2. python 代码在创建的时候, 将 partion 指定为 10 个

### producer
from kafka.admin import NewTopic
from kafka import KafkaProducer
from kafka.admin import KafkaAdminClient
from kafka.errors import TopicAlreadyExistsError

producer = KafkaProducer(bootstrap_servers=['xxx:9092'])

value = {"type": "test", "value": {"requestNo": "1", "auditStatus": "2", "failReason": "3"}}

bytesDict = bytes('{}'.format(value), 'utf-8')

print(bytesDict)

topic = 'test_topic31'

if __name__ == '__main__':
    # 让 kafka 自动化创建 topic, 默认的个数在config/server.properties配置 num.partitions=10
    # producer.send(topic, bytesDict)
    # producer.close()

    # 先创建 topic, 然后指定该 topic 的分区为 10
    try:
        admin_client = KafkaAdminClient(bootstrap_servers=['xxx:9092'])
        admin_client.create_topics([NewTopic(topic, 10, 1)])
    except TopicAlreadyExistsError:
        pass

    producer.send(topic, bytesDict)
    producer.close()



### consumer
from kafka import KafkaConsumer

topic = 'test_topic31'

consumer = KafkaConsumer(topic, bootstrap_servers=['xxx:9092'])
if __name__ == '__main__':
    for m in consumer:
        print(m)
        print(m.topic)

先启动消费者, 然后启动生产者, 生产者一旦运行就会去创建一个新的 Topic, 去 kafka 中查看该 Topic 是否真的为10 个
kafka-topics.sh --bootstrap-server localhost:9092 --describe --topic test_topic31

标签:__,topic,producer,10,创建,kafka,Topic,import,Kafka
From: https://www.cnblogs.com/Dr-wei/p/17585591.html

相关文章

  • 创建k8s 镜像仓库登录密钥
    原标题:k8s使用私有镜像仓库的访问凭据配置k8s创建私有仓库凭据有两种方式1.使用kubectl命令创建secret2.使用docker凭证作为k8s的凭据。文章来源地址https://www.yii666.com/blog/458024.html1.使用kubectl命令创建secretkubectlcreatesecretdocker-registry<name>--do......
  • jenkins 配合 GitLab 实现分支的自动合并、自动创建 Tag
    背景GitFlow工作流简介Gitflow工作流定义了一个围绕项目发布的严格分支模型,它会相对复杂一点,但提供了用于一个健壮的用于管理大型项目的框架,非常适合用来管理大型项目的发布和维护。贯穿整个开发周期,master和develop分支是一直存在的,master分支可以被视为稳定的分支,而develop......
  • java 销毁创建的线程
    Java销毁创建的线程在Java中,线程是执行程序的基本单位。我们可以通过创建线程来并发执行多个任务。然而,有时候我们需要在程序运行过程中销毁已经创建的线程。本文将讨论如何在Java中销毁创建的线程,并提供相应的代码示例。为什么要销毁线程?通常情况下,我们希望线程能够正常执行任......
  • Kafka集群数据同步 MirrorMaker详解
    1、什么是MirrorMaker?MirrorMaker是Kafka附带的一个用于在Kafka集群之间制作镜像数据的工具。该工具主要作用是从源集群中消费并生产到目标集群。一个集群可以启动多个MirrorMaker配置到多个Kafka集群;2、如果想在Kafka测试集群,同步线的Kafka数据,做测试使用1、在测试集群配置mi......
  • 创建vue项目
    1.vuecreateprojectname  2.选择vue33.创建成功 4.启动项目  5.在package.json中,查看启动命令,有时候不是npmrunserve  6.安装插件安装axios:npmiaxios安装bootstrap:[email protected]在main.j......
  • VMware安装与创建Ubuntu虚拟机
    一、VMware16下载与激活下载&激活\(\to\)https://www.ghxi.com/vmware15.html这里下载VMware_16.2.5-20904516_Setup.exe,安装,勾选增强型键盘驱动程序,其他按默认安装即可。二、创建Ubuntu虚拟机01镜像下载清华源下载ubuntu-23.04-desktop-amd64.iso02VMware创建虚......
  • Outlook创建约会/Skype会议时自动包含Teams会议链接
    故障现象用户通过Outlook客户端创建约会/Skype会议时,在会议邀请的最下方会自动带上一个Teams会议的链接。故障原因在Outlook选项中可以看到,是由于Addonlinemeetingtoallmeeting被自动勾选导致。该选项受如下注册表控制:Path:HKEY_CURRENT_USER\Software\Microsoft\Office\Outlo......
  • mongodb创建了视图后会生成system.views,但是没有权限查询
    环境:OS:Centos7mongodb:5.0.19mongodb创建了视图后会生成system.views,但是没有权限查询myrepl:PRIMARY>db.system.views.find()Error:error:{"ok":0,"errmsg":"notauthorizedondb_pushmsgtoexecutecommand{find:\"sy......
  • kafka rebalance 总结(更新中)
    KAFKA2.3 以后,consumer分为dynamic和static,以是否设置了group.instance.id属性区分。以默认的consumer为例,即dynamicconsumer,以下图描述其正常的生命周期:依赖FindCoordinator,JoinGroup,SyncGroup,Heatbeat,LeaveGroup等接口,kafkaconsumer 和broker联合......
  • Windows中安装和使用Kafka
    一、打开Kafka官网进行下载Kafka官网地址:https://kafka.apache.org/downloads我下载的版本是3.5.0二、下载完毕之后进行解压   因为Kafka的运行依赖于Zookeeper,所以还需要下并安装Zookeeper,ZooKeeper和Kafka版本之间有一定的对应关系,不同版本的ZooKeeper和Kafka可以......