首页 > 其他分享 >我们的商城首页卡死了。。。

我们的商城首页卡死了。。。

时间:2023-12-25 11:34:07浏览次数:41  
标签:缓存 MongoDB redis 首页 卡死 数据 商城 内存

前言

最近我们的商城系统出现一个线上问题,用户访问商城首页的时候要差不多20秒,才返回数据,可以说卡爆了。

到底怎么回事呢?

1.案发现场

上周四晚上,我们有一个正常的迭代版本按照预期的时候上线。

本次迭代,我所涉及的功能,很快上线,并且测试通过了。

但没法下班,因为项目组其他同事,还有线上问题在紧急处理。

我过去了解了一下情况,用户访问商城首页的时候响应太慢了,要20秒才返回,有用户投诉过来了。

进一步了解之后发现,造成这个问题的根本原因是redis服务器挂了。

为什么会挂呢?

是因为一次性往redis中存储的数据太多了,导致内存不足。

这个商城系统部署到了阿里云上,当时购买了1G的内存空间。

但由于这次上线,有个新功能,需要在商城首页上,按不同的地区,推荐不同的商品。商品还要按不同的分类做区分。

原本商品只有几十万其实不多,但是按地区和分类做区分之后,保存的数据量乘以了几百倍,一下子占用了大量的内存。

redis挂了为什么会导致首页慢呢?

答:因为代码中有业务逻辑,如果从redis中没有获取到数据,或者访问redis失败了,会从数据库中获取。虽说当时是晚上,用户并发量不大,但是直接访问数据库,响应时间一下子下降了很多。

2.如何快速解决问题?

目前的这套方案,先从redis中获取数据,如果失败了,再从数据库中获取。

现在的问题是:redis内存不足,临时解决问题,只能加内存资源了。

因为加内存是最快的,直接加到了4G。如果要改代码,这个功能今天晚上可能没法上线,之前购买的1G的资源确实有点小。

在阿里云上redis加了内存之后,这个问题很快解决了,首页访问速度一下子提升。

但这不是问题的本质。

3.复盘

第二天,我们开始复盘问题。

发现之前的方案有点问题:

  1. 这次新增的推荐商品功能,保存到redis的数据量太大了,把有些为null值的字段,或者前端用不到的字段也保存到redis中了,数据结构设计不合理。
  2. redis出现问题之后的兜底方案有点问题,如果redis挂了,就直接访问了数据库,导致了用户访问慢的问题。如果是白天用户并发量上来,可能会直接导致数据库挂掉。

那么,如何优化呢?

4.如何优化?

数据结构不合理的问题,可以通过调整数据结构解决,非常容易。

但如果redis挂了该如何处理呢?

4.1 页面静态化

其实对于商城首页,最好的方案是做页面静态化处理。

但由于目前商城的用户并发量,还不算很大,而且如果改成页面静态化,前后端的改动都太大了。

因此,这个方案最先被我们否定了。

4.2 加本地缓存

为了防止后面再次出现商城首页访问慢的问题,可以在应用服务增加本地缓存。

这样不管redis以后能否正常运行,都不影响商城首页的功能。

但需要考虑一个事情:应用服务的内存是否够用?

显然如果将所有推荐的商品数据,都保存到应用服务的本地内存中,同样可能会导致应用服务的内存不足的问题。

因此,直接加本地内存是不行的。

4.3 改成MongoDB

使用MongoDB替代Redis保存数据。

Redis: 数据全部存在内存,定期写入磁盘,当内存不够时,可以选择指定的 LRU 算法删除数据。

MongoDB: 数据存在内存,由 linux系统 mmap 实现,当内存不够时,只将热点数据放入内存,其他数据存在磁盘。

显然MongoDB更适合保存大批量的结构化的文档数据。

由于我们之前在做其他功能时,使用过MongoDB,它的性能也是挺不错的。

但如果直接改成从MongoDB中获取数据,商城首页的访问速度可能会有所下降。

4.4 本地缓存 + MongoDB

上面说到过的加本地缓存,和使用MongoDB都有各自的优缺点。

为什么不把两种方案结合一下呢?

在本地缓存中保存热点数据,每隔5分钟更新一次。


用户的请求过来,先从本地缓存中获取推荐商品数据,如果有则直接返回。

如果没有,则从MongoDB获取数据。

这样可以解决性能的问题,也可以解决保存大量的数据。

5.兜底方案

上面的说的本地缓存 + MongoDB,基本可以解决redis挂了的问题。

但如果MongoDB挂了该怎么办呢?

这就需要有一套更好的兜底方案。

5.1 使用Apollo配置

如果MongoDB挂了,则直接返回Apollo配置中默认数据,默认是北京市东城区的推荐商品数据。

该配置由于在Apollo中,我们可以根据实际情况动态调整。

我们都知道Apollo可以配置成集群模式,是高可用的,一般不容易挂掉。

但它有一个硬伤,就是如果数据并更了,需要人手动调整数据。

没法保证数据的实时性。

5.2 再从数据库访问数据

如果从MongoDB中获取数据失败了,则直接从数据库中获取数据。

该方案从业务的角度来说,确实没有问题。

但万一真的出现这种情况,同样会出现商城首页访问很慢的问题。

5.3 再从redis访问数据

如果从MongoDB中获取数据失败了,则直接从redis中获取数据。

Redis中只保留热点商品数据。

这也是一种方案,不过要维护两份数据:MongoDB一份,Redis一份。

可能会存在数据不一致的问题。

5.4 再加一个本地缓存

在从数据库获取数据之后,再加一个本地缓存,保存默认的数据,即:北京市东城区的推荐商品数据。

这个本地缓存,只有在第一次访问数据库时写入,并且有效期是24小时。

相当于在MongoDB和数据库之间,再加了一层默认的本地缓存。

这样就能解决数据库访问慢的问题。

6.最终方案

经过激烈讨论之后,我们最终选择的方案是:本地缓存+MongoDB+本地默认缓存+数据库。

有时候选择的某一个技术方案,是根据当前的业务发展,或者公司现状,资金,资源,人手,技术能力等多方面考虑的。

很多技术问题都没有最完美的解决方案,只有最适合的方案。

最后说一句(求关注,别白嫖我)

如果这篇文章对您有所帮助,或者有所启发的话,帮忙扫描下发二维码关注一下,您的支持是我坚持写作最大的动力。
求一键三连:点赞、转发、在看。
关注公众号:【苏三说技术】,在公众号中回复:面试、代码神器、开发手册、时间管理有超赞的粉丝福利,另外回复:加群,可以跟很多BAT大厂的前辈交流和学习。
此外,如果想要加入我的技术交流群,可以添加微信:li_su123

标签:缓存,MongoDB,redis,首页,卡死,数据,商城,内存
From: https://www.cnblogs.com/12lisu/p/17925762.html

相关文章

  • 猜数字首页wxml代码
    <!-- index.wxml --><!-- 定义了三个类名class,primary主要按钮可以使按钮颜色从默认灰色变成绿色 --><view class="container">  <view class="button-container">    <button type="primary" class="button"  bindtap="naviga......
  • SpringCloudAlibaba商城
    功能预览用户端登录界面注册界面网站介绍保健品保健品详情养生知识养生知识详情文章中心文章详情--用户关注个人中心我的购物车我的订单我的养生知识文章管理文章发布/编辑  支付宝沙箱保健品结算保健品支付界面保健品支付成功界面支......
  • CS_Education 学习笔记——首页
    LearningCSEducationCSEducation全称为:TheMissingSemesterofYourCSEducation,其来自于麻省理工学院近几年开设的课程。主要讲述在学习计算机科学中会用到的一些自动化工具,如ssh、vim、git等。在学习该课程的过程中,记录了一些听课笔记与讲义重点,同时完成讲义留下的练习......
  • 【项目学习】谷粒商城学习记录8 - 购物车
    【项目学习】谷粒商城学习记录8-购物车本节起将不对一些重复细节进行详细说明一、环境搭建&准备工作1.1.创建新模块注意java版本信息后面在pom.xml文件里修改导入公共模块依赖写配置信息启动类加上注册发现和Feign功能修改网关-id:gulimall_cart_routeuri......
  • 【靶场部署】业务安全测试-大米CMS-V5.4电子商城
    1业务数据安全概述:商品数量篡改测试是通过在业务流程中抓包修改订购商品数量等字段,以判断服务器是否存在商品订购数量篡改漏洞。手段:将请求中的商品数量修改成任意非预期数额、负数等进行提交,查看业务系统能否以修改后的数量完成业务流程。目的:该项测试主要针对商品订购的过程中......
  • likeshop商城小程序接入第三方支付富友支付方法
    likeshop商城小程序接入富友支付的小程序支付功能需要用到富友的第三方插件一、开发步骤第一步:订单支付插件接口-封装报文;第二步:打开富友插件:https://mp.weixin.qq.com/wxopen/plugindevdoc?appid=wxe2ae77d4cbb8abf0&token=158753519&lang=zh_CN,第三步:小程序加入富友插件代码,把第......
  • 爬取汽车之家新闻首页数据
    1.分析网页如下图所知,该网页是一次性将所有数据全部返回2.使用get请求也可以正常获取数据1importrequests2res=requests.get('https://www.autohome.com.cn/news/1/#liststart').text3print(res)输出: 3.解析页面 4.解析数据importbs4importreques......
  • 【项目学习】谷粒商城学习记录7 - 认证服务
    【项目学习】谷粒商城学习记录7-认证服务一、环境搭建&准备工作1.创建新模块2.配置依赖pom.xml文件引入common模块,排除gulimall-common包的mybatis-plus将模块添加到注册中心添加配置信息添加服务发现注解启动类添加远程调用注解@EnableFeignClients测......
  • springboot+vue小白升级之路14-实现系统公告首页公告展示、springboot+vue小白升级之
    还是接着之前的内容,我把新增的功能代码贴出来,给大家参考学习。数据库droptableifexistsan_user;createtablean_user( idintnotnullauto_incrementprimarykeycomment'主键id', namevarchar(255)notnulluniquecomment'姓名', `password`varchar(255)notnu......
  • 谷粒商城-day4
    1、计算属性和侦听器     2、组件化基础  42、生命周期和钩子函数43、使用vue脚手架进行模块开发            44、整合element-ui快速开发               45、商品服......