首页 > 其他分享 >写了个 insert into select,就被开了?

写了个 insert into select,就被开了?

时间:2024-08-08 09:08:42浏览次数:11  
标签:insert into 扫描 问题 全表 select

血一般的教训,请慎用insert into select。同事应用之后,导致公司损失了近10w元,最终被公司开除。

1事情的起因

公司的交易量比较大,使用的数据库是 mysql,每天的增量差不多在百万左右,公司并没有分库分表,所以想维持这个表的性能只能考虑做数据迁移。

同事李某接到了这个任务,于是他想出了这两个方案

  • 先通过程序查询出来,然后插入历史表,再删除原表
  • 使用insert into select让数据库IO来完成所有操作

第一个方案使用的时候发现一次性全部加载,系统直接就OOM了,但是分批次做就过多io和时间长,于是选用了第二种方案,测试的时候没有任何问题,开开心心上线,然后被开除。

2到底发生了啥,我们复盘一下

先来看第一个方案,先看伪代码
// 1、查询对应需要迁移的数据
List<Object> list = selectData();

// 2、将数据插入历史表
insertData(list);

// 3、删除原表数据
deleteByIds(ids);

我们可以从这段代码中看到,OOM的原因很简单,我们直接将数据全部加载内存,内存不爆才怪。

再来看看第二个方案,到底发生了啥

为了维持表的性能,同时保留有效数据,经过商量定了一个量,保留10天的数据,差不多要在表里面保留1kw的数据。

所以同事就做了一个时间筛选的操作,直接insert into select ... dateTime < (Ten days ago),爽极了,直接就避免了要去分页查询数据,这样就不存在OOM啦。还简化了很多的代码操作,减少了网络问题。

为了测试,还特意建了1kw的数据来模拟,测试环境当然是没有问题啦,顺利通过。考虑到这个表是一个支付流水表,于是将这个任务做成定时任务,并且定在晚上8点执行。

晚上量也不是很大,自然是没有什么问题,但是第二天公司财务上班,开始对账,发现资金对不上,很多流水都没有入库。最终排查发现晚上8点之后,陆陆续续开始出现支付流水插入失败的问题,很多数据因此丢失。

最终定位到了是迁移任务引起的问题,刚开始还不明所以,白天没有问题,然后想到晚上出现这样的情况可能是晚上的任务出现了影响,最后停掉该任务的第二次上线,发现没有了这样的情况。

3复盘

问题在哪里?

为什么停掉迁移的任务之后就好了呢?这个insert into select操作到底做了什么?我们来看看这个语句的 explain。

从图中看出,这个查询语句直接走了全表扫描。

这个时候,我们猜想到一点点问题。如果全表扫描,我们这个表这么大,是不是意味着迁移的时间会很长?假若我们这个迁移时间为一个小时,那是不是意味着就解释了我们白天没有出现这样问题的原因了。

但是全表扫描是最根本的原因吗?

我们不妨试试,一边迁移,一边做些的操作,还原现场。最终还是会出现这样的问题。

这个时候,我们可以调整一下,大胆假设,如果不全表扫描,是不是就不会出现这样的问题。当我们将条件修改之后,果然发现没有走了全表扫描了。最终再次还原现场,问题解决了。

 

得出结论:全表扫描导致了这次事故的发生。

这样做就解决了发生的问题,但是做为陆陆续续开始失败这个就不好解释了。

原因

在默认的事务隔离级别下:insert into a select b的操作a表示直接锁表,b表是逐条加锁。这也就解释了为什么出现陆续的失败的原因。在逐条加锁的时候,流水表由于多数是复合记录,所以最终部分在扫描的时候被锁定,部分拿不到锁,最终导致超时或者直接失败,还有一些在这加锁的过程成功了。

为什么测试没有问题?

在测试的时候充分的使用了正式环境的数据来测试,但是别忽视一个问题,那就是测试环境毕竟是测试环境,在测试的时候,数据量真实并不代表就是真实的业务场景。比方说,这个情况里面就少了一个迁移的时候,大量数据的插入这样的情况。最终导致线上bug。

4解决办法

既然我们避免全表扫描就可以解决,我们避免它就行了。想要避免全表扫描,对where后面的条件做索引,让我们的select查询都走索引即可。

5insert into还能用吗?

可以

6总结

使用insert into select的时候请慎重,一定要做好索引。

标签:insert,into,扫描,问题,全表,select
From: https://www.cnblogs.com/shujuyr/p/18348219

相关文章

  • 高并发场景下慎用replace into来进行数据库操作
    概述REPLACEINTO操作虽然简单易用,但在使用时需要注意其带来的各种影响,包括锁粒度、性能开销、数据一致性、事务处理和并发控制等方面。在高并发和大数据量环境下,建议评估其性能影响,并根据实际需求选择合适的替代方案,如使用INSERT...ONDUPLICATEKEYUPDATE来避免不必......
  • 4、Flink SQL 与 DataStream API 集成处理 Insert-Only 流详解
    处理Insert-Only流StreamTableEnvironment提供以下方法来从DataStream转换和转换到DataStream:fromDataStream(DataStream):将insert-only和任意类型的流转换为表,默认情况下不传播事件时间和水印。fromDataStream(DataStream,Schema):将insert-only和任意类型......
  • WPF DataGrid Checkbox column to implement select and unselect items explicitly v
    <DataGridTemplateColumnHeader="Select"><DataGridTemplateColumn.CellTemplate><DataTemplate><CheckBoxIsThreeState="False"><behavior:Interaction.Triggers>......
  • 排序算法 选择排序 SelectSort -- C语言实现
    选择排序描述选择排序是一种简单直观的排序算法,无论什么数据进去都是O(n²)的时间复杂度。所以用到它的时候,数据规模越小越好。唯一的好处可能就是不占用额外的内存空间了。算法步骤首先在未排序序列中找到最小(大)元素,存放到排序序列的起始位置。再从剩余未排序元素中继续寻......
  • css实现el-select右侧箭头向上向下动画
    css实现el-select右侧箭头向上向下动画<divclass="chooseTag-tip"><i:class="['el-icon-arrow-up',tipFlag?'chooseTag-tip-up':'chooseTag-tip-down']"></i></div><script>tipFla......
  • ARC 180 D - Division into 3
    ARC180D-Divisioninto3首先考虑分成两段,首先两端中必定有一个是最大值,问题就是让另一段的最大值最小化。并且这两段一定一个是前缀\(\max\),一个是后缀\(\max\),那么显然就是只留第一个值或者只留最后一个值。所以就是\(mx+\min(a_l,a_r)\),然后考虑分成三段。对于一组询......
  • 深入理解select for update的含义和锁机制
    见博客:1、深入理解selectforupdate的含义和锁机制 2、selectforupdate锁的是行还是表?如果查询条件字段的不同,主键,索引,普通字段,那么锁的是行还是表,是不同的select...forupdate锁详解 3、select……forupdate到底是加了行锁,还是表锁?参考博客:https://baijiahao.baidu......
  • go select case的一个小坑
    业务背景之前在写很多ifelse时,对于不符合的分支条件总是习惯提前返回,减少对后面分支的心智负担,最近在写1个go项目时,对于比较少使用go,在forselect结构里遇到错误返回,导致直接返回了,后续tick就无效了代码抽离简化如下funcConsumer(){ tick:=time.NewTicker(time.Durati......
  • SQL Server 将查询的结果生成insert语句
    思路参考https://www.cnblogs.com/LeiYang5237/p/8549621.html总结:将查询结果插入新表,然后生成脚本自己操作过程:1、数据库表TEST初始数据2、将包含abc的数据查询,并插入到新表TEST2中3、新表TEST2中的数据4、最后生成脚本......
  • MySQL优化insert 语句
    当进行数据INSERT的时候,可以考虑采用以下几种优化方式:(1)如果同时从同一客户插入很多行,应尽量使用多个值表的INSERT语句,这种方式将大大缩减客户端与数据库之间的连接、关闭等消耗,使得效率比分开执行的单个INSERT语的快(在大部分情况下,使用多个值表的NSERT语句能比单个INSERT语向......