首页 > 其他分享 >Kafka - kafka为啥这么快?(基于磁盘存储的,为何还能拥有高性能)

Kafka - kafka为啥这么快?(基于磁盘存储的,为何还能拥有高性能)

时间:2023-07-21 17:12:37浏览次数:40  
标签:顺序 读写 Kafka 缓存 磁盘 kafka

总结

1.顺序读写

  • 磁盘读写有两种方式:顺序读写或者随机读写。Kafka 是磁盘顺序读写,利用了一种分段式的、只追加 (Append-Only) 的日志,基本上把自身的读写操作限制为顺序 I/O,磁盘的顺序读写速度和内存持平(见图1.1)。
  • kafka topic的每一个 Partition 其实都是一个文件 ,收到消息后 Kafka 会把数据插入到文件末尾(虚框部分)(见图1.2)。这种方法采用了只读设计 ,所以 Kafka 是不会修改、删除数据的,它会把所有的数据都保留下来,每个消费者(Consumer)对每个 Topic 都有一个 offset 用来表示读取到了第几条数据 。(见图1.3)

 

2.页缓存

即便是顺序写入硬盘,硬盘的访问速度还是不可能追上内存。kafka通过 mmapMemory Mapped Files)技术,将磁盘文件映射到 PageCache 页缓存 ,用户通过修改 PageCache 页缓存 就能(在操作系统在适当的时候)同步到磁盘文件。

 

mmap 也有一个很明显的缺陷:不可靠,写到 mmap 中的数据并没有被真正的写到硬盘,操作系统会在程序主动调用 flush 的时候才把数据真正的写到硬盘。Kafka 提供了一个参数 producer.type 来控制是不是主动 flush。

 

(图1.1):顺序访问磁盘的速度,比随机访问内存的还要高!

 

(图1.2):

 

(图1.3):

 

 

参考文献

聊聊 Kafka:Kafka 为啥这么快?:https://baijiahao.baidu.com/s?id=1710624455165799096&wfr=spider&for=pc

Kafka高性能之页缓存(page cache)使用 :https://blog.csdn.net/LINBE_blazers/article/details/112444245

 

标签:顺序,读写,Kafka,缓存,磁盘,kafka
From: https://www.cnblogs.com/frankcui/p/17571956.html

相关文章

  • 编辑引导扇区修复分区引导解决磁盘分区打不开
    关键词:raw格式 数据错误循环冗余错误  编辑引导扇区 修复分区引导问题描述:E盘双击打不开,提示是否将其格式化,点取消,提示数据错误(循环冗余错误)。计算机-管理-磁盘管理显示格式为raw格式。系统变得很卡很卡。。。解决过程:1:用磁盘精灵DiskGenius-坏道检测与修复-开始检测,检测结......
  • MQTT 与 Kafka|物联网消息与流数据集成实践
    MQTT如何与Kafka一起使用?MQTT(MessageQueuingTelemetryTransport)是一种轻量级的消息传输协议,专为受限网络环境下的设备通信而设计。ApacheKafka是一个分布式流处理平台,旨在处理大规模的实时数据流。Kafka和MQTT是实现物联网数据端到端集成的互补技术。通过结合使用......
  • 人大金仓学习之三-表空间与跨磁盘存储和分区表
    人大金仓学习之三-表空间与跨磁盘存储和分区表背景最近在用人大金仓的数据库.前期学习了kwr和ksh等工具.今天想验证一下性能相关的情况.因为机器正好有多个磁盘的分区.想着能够将所有的硬盘都用上.提高性能,感觉总体还不错,所以想总结一下.注意这里只考虑OLTP比较......
  • 【项目实战】Kafka 生产者幂等性和事务
    ......
  • 【项目实战】Kafka 生产者写入分区的策略
    ......
  • 【项目实战】Kafka 重平衡 Consumer Group Rebalance 机制
    ......
  • python监控磁盘使用率
    #!/usr/bin/envpython#-*-coding:utf-8-*-#@Time:2023/6/2713:56#@Author:zk_linux#@File:Disk_monitoring.py.py#@Software:PyCharmfromtempimportail_the_alarmimportpsutilimportosthreshold_value=75os.path.dirname(os.path......
  • linux系统,kafka常用命令
    kafka版本过高所致,2.2+=的版本,已经不需要依赖zookeeper来查看/创建topic,新版本使用--bootstrap-server替换老版本的--zookeeper-server。[root@kwephis1160698bin]#./kafka-topics.sh--list--zookeeperlocalhost:2181Exceptioninthread"main"joptsimple.Unrecognized......
  • windows10下安装kafka
    安装JDK下载地址:www.oracle.com/java/technologies/downloads我是装的java17.0.8X64Installer,不是javer所以不懂区别。下好以后开始安装,一路下一步就是了,安装目录装在的D盘 D:\kafka\jdk-17.0.1现在开始添加环境变量在用户变量path里添加 %JAVA_HOME%\bin和 %JAVA_HO......
  • 【项目实战】Java 开发 Kafka 生产者
    ......