首页 > 数据库 >云原生分布式 PostgreSQL+Citus 集群在 Sentry 后端的实践

云原生分布式 PostgreSQL+Citus 集群在 Sentry 后端的实践

时间:2022-10-21 17:12:38浏览次数:77  
标签:PostgreSQL Sentry Citus 请参阅 集群 https 分片 分布式

image

优化一个分布式系统的吞吐能力,除了应用本身代码外,很大程度上是在优化它所依赖的中间件集群处理能力。如:kafka/redis/rabbitmq/postgresql/分布式存储(CephFS,JuiceFS,C urve,Longhorn)等集群的处理能力。

分布式存储集群(Longhorn)

这里主要用于 Citus 集群的协调器(coordinator)工作器(worker) 节点的数据持久化。

具体文档,请参阅:

image

image

分布式 PostgreSQL 集群(Citus)

这里主要用于对 Sentry 事件源数据大表 nodestore_node 的分片。

具体文档,请参阅:

image

读写分离和高可用(PgPool+Repmgr)

这里主要用于对 Citus 节点(协调器/工作器)进行读写分离和主备高可用。

具体文档,请参阅:

image

image

管理集群节点(PgAdmin)

具体文档,请参阅:

image

nodestore_node 大表分片

选择分布式 key,并将表转换分布式表,这里将表划分为 64 个分片,数据平均分配到 6worker 节点:

# 创建分布式表
SELECT create_distributed_table('nodestore_node', 'id', colocate_with => 'none', shard_count => 64);
# 平衡分片
SELECT rebalance_table_shards();
# 查询分片
SELECT * FROM citus_shards;

image

总结

中间件集群基础设施建设,本身涉及细节较多,可以说是另一个领域。

本文提供了一种笔者的实践思路,抛砖引玉。

标签:PostgreSQL,Sentry,Citus,请参阅,集群,https,分片,分布式
From: https://www.cnblogs.com/hacker-linner/p/16814107.html

相关文章

  • 【TPC-DS】trino+S3+hive+postgresql性能测试----hadoop+mysql+hive安装部署(三)
    总体过程1、安装hadoop-3.2.02、安装hive-standalone-metastore-3.0.03、配置环境变量 安装hadoop-3.2.0下载hadoop的链接,选择hadoop3.2.0:​​https://archive.apache.org/......
  • 【TPC-DS】trino+S3+hive+postgresql性能测试----生成简单数据验证环境(四)
    1、安装与配置下载安装包gitclonehttps://github.com/gregrahn/tpcds-kit.gitcdtpcds-kit/toolsmakeOS=LINUX存放的位置为:/root/trino(备注:自己定义即可,尽量与trino-ser......
  • postgresql13源码安装部署并部署主从同步和切换
    环境:Os:Centos7DB:13.8主库:192.168.1.134从库:192.168.1.135 ########################################主库:192.168.1.134######################################......
  • 一文全搞懂postgresql的权限
    权限结构图pg中权限至上而下层次分明,首先要了解pg的逻辑架构,如下图需要注意的是在如上架构中数据库是严格分开的,这意味着不能同时使用两个不同的数据库,而模式不是严格分开的......
  • postgresql13源码安装部署
    环境:Os:Centos7DB:13.81.下载安装介质下载地址:源码下载地址:https://www.postgresql.org/ftp/source/二进制下载地址(新版本的没有二进制下载,只能使用源码安装):http......
  • 关于postgresql权限的一个bug
    PG中的bug根据SQL标准,一个模式的所有者总是拥有其中的所有对象。PostgreSQL允许模式包含由模式所有者以外的用户拥有的对象。这种情况才会发生在,当模式拥有者将模式的"CREAT......
  • PostgreSQL 数据库开发规范
    背景PostgreSQL的功能非常强大,但是要把PostgreSQL用好,开发人员是非常关键的。下面将针对PostgreSQL数据库原理与特性,输出一份开发规范,希望可以减少大家在使用PostgreSQL......
  • 常用PostgreSQL函数
    工作中用到的函数做一下记录加深影响。to_number用法:to_number(text1,text2)text1:需要转换的字符串text2:格式化模板,如模式9,代表一个数位......
  • Postgresql 安装pg_pathman 高效分区表实现
    ​介绍目前PostgreSQL社区版本的分区表功能比较弱,需要通过继承和触发器或RULE来实现分区表的功能,由于查询和更新涉及约束的检查、插入则涉及触发器或规则重写,导致分区功能性......
  • 数据库选型思考(PostgreSQL,MySQL,Oracle)
    背景https://www.enterprisedb.com/blog/postgresql-vs-mysql-360-degree-comparison-syntax-performance-scalability-and-features数据库选型是一件很大的事情,也是一件......