基于 SpringBoot 实现商城限时秒杀系统项目

业余草

共 5569字,需浏览 12分钟

 ·

2022-01-16 23:06

这两天,拼多多上了头条。因为,拼多多的砍价细则被公开了,后面居然有6位小数。

基于热点,我想到了一个秒杀系统的设计与实现,今天分享给大家!

「在高并发情况下的秒杀优化,我们知道当并发数达到一定量的时候,会对数据库服务器带来很大的压力,那么如何缓解这些压力以及提高并发的 QPS 就是整个项目的解决重点,也是我们优化系统的目标。」

高并发也经常是我们面试中比问的知识点,最近我基于所学的知识,实现了一个秒杀系统。目前该系统拥有以下功能:

  • 接口限流防刷
  • 数学图形验证码
  • 秒杀接口地址隐藏
  • RabbitMQ异步下单
  • 秒杀静态化 + 订单详情静态化
  • 商品详情页面静态化(前后端分离)
  • 页面缓存 + URL缓存 + 对象缓存
  • 使用JMeter压测秒杀系统(秒杀接口的压测及结果)
  • 秒杀商品详情页 + 秒杀倒计时功能实现
  • 分布式Session
  • JSR303参数校验 + 全局异常处理
  • 多次 MD5 加密设计与登录实现
  • 通用缓存 Key 的设计与封装
  • 缓存击穿和缓存雪崩以及缓存一致性等
  • 。。。

项目的亮点:

  1. 使用分布式 Seesion,可以实现让多台服务器同时可以响应。
  2. 使用 redis 做缓存提高访问速度和并发量,减少数据库压力,利用内存标记减少 redis 的访问。
  3. 使用页面静态化,加快用户访问速度,提高 QPS,缓存页面至浏览器,前后端分离降低服务器压力。
  4. 使用消息队列完成异步下单,提升用户体验,削峰和降流。
  5. 安全性优化:双重 md5 密码校验,秒杀接口地址的隐藏,接口限流防刷,数学公式验证码。

「主要知识点:」

  • 「分布式Seesion」

    我们的秒杀服务,实际的应用可能不止部署在一个服务器上,而是分布式的多台服务器,这时候假如用户登录是在第一个服务器,第一个请求到了第一台服务器,但是第二个请求到了第二个服务器,那么用户的session信息就丢失了。

    解决:session同步,无论访问那一台服务器,session都可以取得到,利用「redis缓存的方法,另外使用一个redis服务器专门用于存放用户的session信息。这样就不会出现用户session丢失的情况」。(每次需要session,从缓存中取即可)

  • 「redis缓解数据库压力」

    本项目大量的利用了缓存技术,包括用户信息缓存(分布式session),商品信息的缓存,商品库存缓存,订单的缓存,页面缓存,对象缓存减少了对数据库服务器的访问。

  • 「通用缓存key封装」

    大量的缓存引用也出现了一个问题,如何识别不同模块中的缓存(key值重复,如何辨别是不同模块的key)

    解决:利用一个抽象类,定义BaseKey(前缀),在里面定义缓存key的前缀以及缓存的过期时间从而实现将缓存的key进行封装。让不同模块继承它,这样每次存入一个模块的缓存的时候,加上这个缓存特定的前缀,以及可以统一制定不同的过期时间。

  • 「页面静态化(前后端分离)」
    页面静态化的主要目的是为了加快页面的加载速度,将商品的详情和订单详情页面做成静态HTML(纯的HTML),数据的加载只需要通过ajax来请求服务器,并且做了静态化HTML页面可以缓存在客户端的浏览器。

  • 「消息队列完成异步下单」

    使用消息队列完成异步下单,提升用户体验,削峰和降流

    「思路:」

    1. 系统初始化,把商品库存数量stock加载到Redis上面来。
    2. 后端收到秒杀请求,Redis预减库存,如果库存已经到达临界值的时候,就不需要继续请求下去,直接返回失败,即后面的大量请求无需给系统带来压力。
    3. 判断这个秒杀订单形成没有,判断是否已经秒杀到了,避免一个账户秒杀多个商品,判断是否重复秒杀。
    4. 库存充足,且无重复秒杀,将秒杀请求封装后消息入队,同时给前端返回一个code (0),即代表返回排队中。(返回的并不是失败或者成功,此时还不能判断)
    5. 前端接收到数据后,显示排队中,并根据商品id轮询请求服务器(考虑200ms轮询一次)。
    6. 后端RabbitMQ监听秒杀MIAOSHA_QUEUE的这名字的通道,如果有消息过来,获取到传入的信息,执行真正的秒杀之前,要判断数据库的库存,判断是否重复秒杀,然后执行秒杀事务(秒杀事务是一个原子操作:库存减1,下订单,写入秒杀订单)。
    7. 此时,前端根据商品id轮询请求接口MiaoshaResult,查看是否生成了商品订单,如果请求返回-1代表秒杀失败,返回0代表排队中,返回>0代表商品id说明秒杀成功。
  • 「安全性优化」

    双重md5密码校验,秒杀接口地址的隐藏,接口限流防刷,数学公式验证码。

  • 「优雅的代码编写」

    接口的输出结果做了一个Result封装

    对错误的代码做了一个CodeMsg的封装

    访问缓存做了一个key的封装

项目难点及问题解决

压测

使用JMeter做压测的时候开启5000个线程,系统跑不起来,出现异常

原因:修改配置文件中 redis 的配置项 poolMaxTotal 将其设置成 1000。

#redis配置项
redis.poolMaxTotal=1000
redis.poolMaxldle=500
redis.poolMaxWait=500

缓存一致性

使用了大量缓存,那么就存在缓存击穿和缓存雪崩以及缓存一致性等问题?

  • 「缓存穿透指的是对某个一定不存在的数据进行请求,该请求将会穿透缓存到达数据库。」
    解决方案:对这些不存在的数据缓存一个空数据,对这类请求进行过滤。

  • 「缓存雪崩指的是由于数据没有被加载到缓存中,或者缓存数据在同一时间大面积失效(过期),又或者缓存服务器宕机,导致大量的请求都到达数据库。」

    解决方案:

    为了防止缓存在同一时间大面积过期导致的缓存雪崩,可以通过观察用户行为,合理设置缓存过期时间来实现;

    为了防止缓存服务器宕机出现的缓存雪崩,可以使用分布式缓存,分布式缓存中每一个节点只缓存部分的数据,当某个节点宕机时可以保证其它节点的缓存仍然可用。

    也可以进行缓存预热,避免在系统刚启动不久由于还未将大量数据进行缓存而导致缓存雪崩。

    例如:首先针对不同的缓存设置不同的过期时间,比如session缓存,在userKey这个前缀中,设置是30分钟过期,并且每次用户响应的话更新缓存时间。这样每次取session,都会延长30分钟,相对来说,就减少了缓存过期的几率

  • 「缓存一致性要求数据更新的同时缓存数据也能够实时更新。」

    解决方案:

    在数据更新的同时立即去更新缓存,「首先尝试从缓存读取,读到数据则直接返回;如果读不到,就读数据库,并将数据会写到缓存,并返回。」

    在读缓存之前先判断缓存是否是最新的,如果不是最新的先进行更新,「需要更新数据时,先更新数据库,然后把缓存里对应的数据失效掉(删掉)。」

减少redis的访问

大量的使用缓存,对于缓存服务器,也有很大的压力,思考如何减少redis的访问?

在redis预减库存的时候,内存中维护一个isOvermap作为一个内存标记,当没有库存的时候,将其置为true。每次秒杀业务访问redis之前,查一下map标记,如果true说明没有库存,就直接返回失败,无需再去请求redis服务器。

请求堆积

在高并发请求的业务场景,大量请求来不及处理,甚至出现请求堆积时候?

消息队列,用来异步处理请求。每次请求过来,先不去处理请求,而是放入消息队列,然后在后台布置一个监听器,分别监听不同业务的消息队列,有消息来的时候,才进行秒杀业务逻辑。这样防止多个请求同时操作的时候,数据库连接过多的异常。

重复下单

怎么保证一个用户不能重复下单?

解决:秒杀订单表中建立一个唯一索引(所引是用户Id与商品goodsId),使得第一个记录可以插入,第二个则出错,然后通过事务回滚,防止一个用户同时发出多个请求的处理,秒杀到多个商品。

唯一索引,即是唯一的意思,在数据库表结构中对字段添加唯一索引后进行数据库进行存储操作时数据库会判断库中是否已经存在此数据,不存在此数据时才能进行插入操作。

这虽然是个小技能,但实际上在业务开发中是个很实用的技能,比如在高并发业务中,数据库「如何杜绝数据并发插入两条相同的订单号呢?添加一个唯一索引」当然是最快捷的方法之一,当然是添加索引还是通过业务代码去解决因公司业务而定

超卖

怎么解决超卖现象?

超卖场景:不同用户在读请求的时候,发现商品库存足够,然后同时发起请求,进行秒杀操作,减库存,导致库存减为负数。

最简单的方法,更新数据库减库存的时候,进行库存限制条件,在reduceStock(GoodsVo goodsvo)这个方法里,sql要多加一个stock_count > 0 ,使用数据库特性来保证超卖的问题,只有stock_count还大于0的时候才去读stock_count然后减1操作

@Update("update miaosha_goods set stock_count=stock_count-1 where goods_id=#{goodsId} and stock_count>0")
 public void reduceStock(MiaoshaGoods goods);  

页面静态化

页面静态化的过程及什么是浏览器缓存?

将HTML静态页面缓存在客户端浏览器,只有数据通过ajax异步调用接口来获取,仅仅交互的是部分数据,减少了带宽,也加快用户访问的速度。

浏览器缓存就是把一个已经请求过的Web资源(如html页面,图片,js,数据等)拷贝一份副本储存在浏览器中。缓存会根据进来的请求保存输出内容的副本。当下一个请求来到的时候,如果是相同的URL,缓存会根据缓存机制决定是直接使用副本响应访问请求,还是向源服务器再次发送请求。比较常见的就是浏览器会缓存访问过网站的网页,当再次访问这个URL地址的时候,如果网页没有更新,就不会再次下载网页,而是直接使用本地缓存的网页。只有当网站明确标识资源已经更新,浏览器才会再次下载网页。

秒杀架构设计理念?

  • 限流:鉴于只有少部分用户能够秒杀成功,所以要限制大部分流量,只允许少部分流量进入服务后端。

  • 削峰:对于秒杀系统瞬时会有大量用户涌入,所以在抢购一开始会有很高的瞬间峰值。高峰值流量是压垮系统很重要的原因,所以如何把瞬间的高流量变成一段时间平稳的流量也是设计秒杀系统很重要的思路。实现削峰的常用的方法有利用缓存和消息中间件等技术。

  • 异步处理:秒杀系统是一个高并发系统,采用异步处理模式可以极大地提高系统并发量,其实异步处理就是削峰的一种实现方式。

  • 内存缓存:秒杀系统最大的瓶颈一般都是数据库读写,由于数据库读写属于磁盘IO,性能很低,如果能够把部分数据或业务逻辑转移到内存缓存,效率会有极大地提升。

  • 可拓展:当然如果我们想支持更多用户,更大的并发,最好就将系统设计成弹性可拓展的,如果流量来了,拓展机器就好了。像淘宝、京东等双十一活动时会增加大量机器应对交易高峰。

秒杀系统是怎么设计的?

  • 「将请求拦截在系统上游,降低下游压力:秒杀系统特点是并发量极大,但实际秒杀成功的请求数量却很少,所以如果不在前端拦截很可能造成数据库读写锁冲突,最终请求超时。」
  • 利用缓存:利用缓存可极大提高系统读写速度。
  • 消息队列:消息队列可以削峰,将拦截大量并发请求,这也是一个异步处理过程,后台业务根据自己的处理能力,从消息队列中主动的拉取请求消息进行业务处理。
秒杀系统是怎么设计

超时未支付

假如减了库存用户没有支付,库存怎么还原继续参加抢购?

设定一个最长付款时间,比如30分钟,后台有个定时任务(使用定时器Timer),轮训超过30分钟的待付款订单(数据库里面判定订单状态),然后关闭订单,恢复库存。

开发工具

IntelliJ IDEA 2017.3.1 x64。

开发环境

JDKMavenMysqlSpringBootredisRabbitMQ
1.83.2.25.51.5.9.RELEASE3.23.7.14

使用说明

  1. 下载百度网盘源码(链接: https://pan.baidu.com/s/1pYQs5RYvgqdfVM6q-8JExg?pwd=3xhp若连接过期,加我微信:xttblog2获取补充链接),将项目下载到 IDEA 里面
  2. 运行 sql 文件夹下的sql文件
  3. 到src/main/resources下的application.properties下修改你的数据库链接用户名与密码
  4. 安装redis、mysql、rabbitmq、maven等环境
  5. 启动前,检查配置 application.properties 中相关redis、mysql、rabbitmq地址
  6. 在数据库秒杀商品表里面设置合理的秒杀开始时间与结束时间
  7. 登录地址:http://localhost:8080/login/to_login
  8. 商品秒杀列表地址:http://localhost:8080/goods/to_list

其它说明

  1. 数据库共有一千个用户左右(手机号:15200000000~15200000997 密码为:123456),为压测准备的。

  2. 邮箱只实现了前端格式验证,只需输入一个正确的邮箱格式即可(例如:xttblog@xttblog.com)

图片演示

登录页面

登录页面

商品列表页面

商品列表页面

商品详情页面

商品详情页面

商品秒杀倒计时

商品秒杀倒计时

成功秒杀页面

成功秒杀页面

限于篇幅与时间,本文就不在贴具体的实现代码了。大家通过链接: https://pan.baidu.com/s/1pYQs5RYvgqdfVM6q-8JExg?pwd=3xhp下载源码,自行研究。如若连接过期,加我微信:xttblog2获取补充链接。

浏览 45
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报