• 2024-05-29JVM 垃圾收集器分类
    参考官网https://docs.oracle.com/en/java/javase/17/gctuning/introduction-garbage-collection-tuning.html。垃圾收集器可以分为以下四类:1、Serial收集器这个收集器是一个单线程工作的收集器,但它的“单线程”的意义并不仅仅是说
  • 2024-01-31HBase-compact介绍
    一、minor和major的区别: MinorCompaction:指选取一些小的、相邻的HFile将他们合并成一个更大的HFile。默认情况下,minorcompaction会删除选取HFile中的TTL过期数据。MajorCompaction:指将一个Store中所有的HFile合并成一个HFile,这个过程会清理三类没有意义的数据:被删除的数据(打
  • 2023-10-15HBase入门指南
    本文已收录至GitHub,推荐阅读
  • 2023-09-19hbase truncate table后没有释放空间
    HBase中的truncatetable操作会清空表中的所有数据,但不会立即释放物理存储空间。这是因为HBase使用一种称为“MajorCompaction(主要合并)”的过程来清理和释放存储空间。MajorCompaction是HBase自动执行的周期性任务,通常在后台进行。MajorCompaction将删除表中已标记为删除的数
  • 2023-08-27Promethues手册
    Metrics类型promethues指标以向量的形式存储在时序数据中,每种metrics的存储都是一样的,但使用场景存在一定差异Counter只增不减的计数器http_requests_total服务器请求总数node_cpucpu使用总时长一般counter类型的指标建议以total结尾通过内置的PromQL可以进一步的
  • 2023-08-02hbase基础操作命令
    hdfsdfsadmin-reporthdfsdfs-ls/hbase/data/default/*hdfsdfs-du-s-h/hbase/data/default/*hdfsdfs-ls-R/hbase/data/default/table_name/|grep"column_family_name"disable'TraceV2'alter'TraceV2',{NAME=>'
  • 2023-07-31HBase-compact的作用、两种实现方式及区别
    在hbase中每当有memstore数据flush到磁盘之后,就形成一个storefile,当storeFile的数量达到一定程度后,就需要将storefile文件来进行compaction操作。Compact的作用:①合并文件②清除过期,多余版本的数据③提高读写数据的效率HBase中实现了两种compaction的方式:minorandmaj
  • 2023-07-28HBase Compaction 原理与线上调优实践
    作者:vivo互联网存储技术团队-HangZhengbo本文对HBaseCompaction的原理、流程以及限流的策略进行了详细的介绍,列举了几个线上进行调优的案例,最后对Compaction的相关参数进行了总结。一、Compaction介绍HBase是基于一种LSM-Tree(Log-StructuredMergeTree)体系架构的存储模
  • 2023-06-27【翻译】rocksdb write stall
    翻译自官方wiki:https://github.com/facebook/rocksdb/wiki/Write-Stalls转载请注明出处:https://www.cnblogs.com/morningli/p/16791706.htmlwritestall当flush或compaction无法跟上写入的速率时,rocksdb有旁路系统来减慢写入速率。如果没有这样的系统,用户如果持续写入比硬件能
  • 2023-05-09LSM 树 设计思想总结
    LSM树的设计思想很有意思。LSM树将对磁盘的随机写入转化为了磁盘友好型的顺序写(无论机械磁盘还是SSD,随机读写都要远远慢于顺序读写),从而大大提高了写性能。 1、怎么转化顺序写?核心就是在内存中维护一个有序的内存表(memtable),当内存表大于阈值的时候批量刷入磁盘,生成最新的S
  • 2023-04-28【图文详解】一文全面彻底搞懂HBase、LevelDB、RocksDB等NoSQL背后的存储原理:LSM-tree 日志结构合并树...
    LSM树广泛用于数据存储,例如RocksDB、ApacheAsterixDB、Bigtable、HBase、LevelDB、ApacheAccumulo、SQLite4、Tarantool、WiredTiger、ApacheCassandra、InfluxDB和ScyllaDB等。在这篇文章中,我们将深入探讨LogStructuredMergeTree,又名LSM树:许多高度可扩展的NoSQL分
  • 2023-03-30Rocksdb参数调优
    文章来源(为避免原作者删掉了文档,对这篇文章做了个拷贝):https://xiking.win/2018/12/05/rocksdb-tuning/RocksDB对比LevelDB暴露了很多参数来适应更多的应用场景,带来的好处就是可以通过tuning使系统性能达到最大,当然,如果tuning不合理会有相反的后果。在Facebook内部,RocksDB既能用在
  • 2023-02-12leveldb Compaction
    leveldb是典型的LSM树实现,因此需要对内存中的数据进行持久化。一次内存数据的持久化过程,在leveldb中称为MinorCompaction。一次minorcompaction的产出是一个0层的sstable
  • 2023-01-04RocketMQ Compaction Topic的设计与实现
    本文作者:刘涛,阿里云智能技术专家。01 CompactionTopic介绍一般来说,消息队列提供的数据过期机制有如下几种,比如有基于时间的过期机制——数据保存多长时间后即进行清理,也有
  • 2023-01-04RocketMQ Compaction Topic的设计与实现
    本文作者:刘涛,阿里云智能技术专家。 01 CompactionTopic介绍一般来说,消息队列提供的数据过期机制有如下几种,比如有基于时间的过期机制——数据保存多长时间后即进行
  • 2022-12-02【翻译】rocksdb调试指引
    rocksdb调试指引翻译自官方wiki:https://github.com/facebook/rocksdb/wiki/RocksDB-Tuning-Guide转载请注明出处:https://www.cnblogs.com/morningli/p/16788424.html
  • 2022-11-04Rocksdb auto tune -- compaction的自动调优策略
    文章目录​​优化背景​​​​优化演进思路​​​​Rocksdb的RateLimiter​​​​Rocksdb的autotune​​​​autotunedcompaction(rocskdb默认autotune基础上的优化)​
  • 2022-11-04存储引擎 K/V 分离下的index回写问题
    前言近期在做onnvmehash引擎相关的事情,对于非全序的数据集的存储需求,相比于我们传统的LSM或者B-tree的数据结构来说能够减少很多维护全序上的计算/存储资源。当然我们要
  • 2022-09-26leveldb versionSet 和 versionEdit
    前言Compaction和Version相关的部分交织在一起,不搞明白Version很难理解Compaction。其实这句话反过来说也是对的,如果不理解Compaction也很难理解VersionSet。versionEdit
  • 2022-08-31面试官:HBase 有哪些优化点?
    作者:大叔据来自:大叔据这是个相对开放的问题,问题没有那么得细,面对这种问题千万不要乱了阵脚,其实这种问题答得好是很加分的,可以从几个不同的方向来回答,这样显得有