首页 > 其他分享 >笔记:海量数据的查询方法

笔记:海量数据的查询方法

时间:2023-02-03 11:25:58浏览次数:58  
标签:缓存 海量 查询方法 笔记 查询 sql 数据 主键

概述:

每年大约有几千万近一亿的业务数据量,如何提高查询性能。

具体方案:

  1. 在表结构初始化阶段时,需要添加查询条件的索引;并且可以使用uuid主键和数字主键的联合业务主键,根据不同场景判断不同的业务主键。
  2. 设计sql语句时,尽量避免使用group、like、union、函数转换等影响sql性能的条件,尽量做到简化sql,避免一条sql运行时间过长。
  3. 对于存储海量数据,可以采用按照分表字段进行分表储存的方法,或者使用分表中间件的处理,在这基础上可以添加归档操作。即固定时间条件新建空表(定时归档一个月的数据)建立逻辑表联系所有数据表。
  4. 针对前台页面首次进入统计页,也可以用redis缓存,通过定时任务的使用,查询需要的统计数据保存在缓存中,前台页面查询的数据皆在缓存中查询对应的数据。将近期(本年月日周)的数据快速的展示。注意:需要比对缓存与数据库实际数量是否一致。
  5. 中间表的使用。例如可以定时储存每日的数据量,避免查询业务直接操作数据表。
  6. 对于其他处理方法还有很多很多,比如读写分离,又或是负载均衡。

结语:

不同的业务场景下,选择不同的处理方法,不断学习并不断地优化。

标签:缓存,海量,查询方法,笔记,查询,sql,数据,主键
From: https://www.cnblogs.com/dream-007/p/17088508.html

相关文章

  • (笔记)【NTP系列:06】NTP报文解读
    一、概念NTP(NetworkTimeProtocol),互联网时间协议。 UTC(CoordinatedUniversalTime),协调通用时间。根据原子振荡周期所计算的物理时钟,这种计算方式对于时间的计算误差......
  • (笔记)NTP时间同步失败:Windows(W32Time)作为NTP时钟源服务端,Linux作为客户端
     一、问题现象使用windows(W32Time)作NTP时钟源服务端,控制板端Linux作为客户端,使用ntpd服务无法同步时间,但是ntpdate是可以同步成功。 二、问题分析 1.从报文的角度分......
  • 所学笔记
    nacos配置中心: 1.只需要配置server-addr、spring.application.name、profile.active、file-extension 2.namespace是分命名空间用的 3.用nacos作为配置中心必须先用nacos为......
  • TypeScript笔记 - 函数
    注解函数函数需要注解的部分其实只有参数值和返回值letcheckFunc=(str:string):boolean=>{returnstr['includes']('a')}checkFunc('abc') 使用接口......
  • consul学习笔记
    consul默认的服务端口是8500consul是google开源的一个使用go语言开发的服务发现、配置管理中心服务。内置了服务注册与发现框架、分布一致性协议实现、健康检查、Key/Va......
  • 2PC---两阶段 分布事务2 笔记20230203
        ......
  • nnUNet学习笔记(二):网络架构代码-1
    逐段解读文件:nnUNet/nnunet/network_architecture/neural_network.pyimportnumpyasnpfrombatchgenerators.augmentations.utilsimportpad_nd_imagefromnnunet.ut......
  • Shader入门精要笔记 - CH7.3_渐变图控制漫反射
    左边是使用了前面提到的SpecularPerPixel,中间是没加渐变图时,右边是加了渐变图 高光+渐变图漫反射(RampTex)Shader"My/Tex/RampTexture"{Properties{......
  • Shader入门精要笔记 - CH7.2_法线贴图
    左侧为没用法线贴图,就视觉上没有凹凸感  法线贴图+高光+贴图漫反射(MainTex)Shader"My/Tex/NormalMapInTagentSpace"{Properties{_MainTex("......
  • 《RPC实战与核心原理》学习笔记Day16
    23|如何在没有接口的情况下进行RPC调用?我们什么情况下需要在没有接口时进行RPC调用?列举2个典型场景:我们搭建一个测试平台,允许各个业务方在测试凭条上通过输入接口、......