缓存场景

304 阅读6分钟

1 缓存使用场景

  • DB 缓存 减轻服务器压力

上万时,数据库访问量增大,可以采用读写分离,分库分表。访问量10w,100w,需要引入缓存。已经访问过的内容或数据存储起来。再次访问时先找缓存。

  • 提高系统响应

在大量瞬间访问时(高并发)MySQL单机会因为频繁IO而造成无法响应。MySQL的InnoDB是有行锁,将数据缓存在Redis中,也就是存在了内存中。内存天然支持高并发访问。可以瞬间处理大量请求。qps到达10万读请求

  • Session分离

传统的session是由tomcat自己进行维护和管理。集群或分布式环境,不同的tomcat管理各自的session。只能在各个tomcat之间,通过网络和Io进行session的复制,极大的影响了系统的性能。将登录成功后的Session信息,存放在Redis中,这样多个服务器(Tomcat)可以共享Session信息。

  • 做分布式锁

一般讲锁是多线程的锁,是在一个进程中的。多个进程(JVM)在并发时也会产生问题,也要控制时序性可以采用分布式锁。使用Redis实现 sexNX

  • 做乐观锁(Redis)

同步锁和数据库中的行锁、表锁都是悲观锁。悲观锁的性能是比较低的,响应性比较差。高性能、高响应(秒杀)采用乐观锁Redis可以实现乐观锁 watch + incr

2  什么是缓存?

     缓存原指CPU上的一种高速存储器,它先于内存与CPU交换数据,速度很快。现在泛指存储在计算机上的原始数据的复制集,便于快速访问。在互联网技术中,缓存是系统快速响应的关键技术之一

1.3 缓存分类

  • 页面缓存

页面自身对某些元素或全部元素进行存储,并保存成文件。html5,Cookie,WebStorage,WebSql,indexDB,Application,Cache等

  1. 设置manifest描述文件

    CACHE MANIFEST #comment js/index.js img/bg.png

  2. html关联manifest属性

<html lang="en" manifest="demo.appcache">

 3. 使用LocalStorage进行本地的数据存储

localStorage.setItem("Name","张飞") 
localStorage.getItem("Name") 
localStorage.removeItem("Name") 
localStorage.clear()
  • 浏览器缓存

  当客户端向服务器请求资源时,会先抵达浏览器缓存,如果浏览器有“要请求资源”的副本,就可以直接从浏览器缓存中提取而不是从原始服务器中提取这个资源。强制缓存:直接使用浏览器的缓存数据,条件:Cache-Control的max-age没有过期或者Expires的缓存时间没有过期

<meta http-equiv="Cache-Control" content="max-age=7200" /> 
<meta http-equiv="Expires" content="Mon, 20 Aug 2010 23:00:00 GMT" />

协商缓存:服务器资源未修改,使用浏览器的缓存(304);反之,使用服务器资源(200)

<meta http-equiv="cache-control" content="no-cache">
  • APP 缓存

原生APP中把数据缓存在内存、文件或本地数据库(SQLite)中。比如图片文件。

  • 数据库级缓存

数据库是用来存储和管理数据的。MySQL在Server层使用查询缓存机制。将查询后的数据缓存起来。K-V结构,Key:select语句的hash值,Value:查询结果InnoDB存储引擎中的buffffer-pool用于缓存InnoDB索引及数据块。

  • 平台级

平台级缓存指的是带有缓存特性的应用框架。比如:GuavaCache 、EhCache、OSCache等。部署在应用服务器上,也称为服务器本地缓存。

  • 应用级缓存

具有缓存功能的中间件:Redis、Memcached、EVCache、Tair等。采用K-V形式存储。利用集群支持高可用、高性能、高并发、高扩展。分布式缓存。

3. 缓存优缺点

优点: 提升用户体验。用户体验(User Experience):用户在使用产品过程中建立起来的一种纯主观感受。缓存的使用可以提升系统的响应能力,大大提升了用户体验。 减轻服务器压力,客户端缓存、网络端缓存减轻应用服务器压力。服务端缓存减轻数据库服务器的压力。提升系统性能,系统性能指标:响应时间、延迟时间、吞吐量、并发用户数和资源利用率等。 缓存技术可以:缩短系统的响应时间,减少网络传输时间和应用延迟时间,提高系统的吞吐量,增加系统的并发用户数,提高了数据库资源的利用率 

缺点: 额外的硬件支出,缓存是一种软件系统中以空间换时间的技术,需要额外的磁盘空间和内存空间来存储数据,搭建缓存服务器集群需要额外的服务器,采用云服务器的缓存服务就不用额外的服务器了。阿里云,百度云,提供缓存服务高并发缓存失效,在高并发场景下会出现缓存失效(缓存穿透、缓存雪崩、缓存击穿)。造成瞬间数据库访问量增大,甚至崩溃。缓存与数据库数据同步,缓存与数据库无法做到数据的时时同步。Redis无法做到主从时时数据同步,缓存并发竞争。多个redis的客户端同时对一个key进行set值得时候由于执行顺序引起的并发问题

4. 缓存的读写模式

4.1  Cache Aside Pattern 旁路缓存(常用)

读取数据:先读缓存,缓存没有,在读数据库,取出数据后放入缓存,同时返回响应

写入数据:先更新数据库,然后再删除缓存

  1. 先更新数据库,再更新缓存(问题:数据库update未commit,缓存被更新,读取缓存数据,数据库回滚时存在问题)

  2. 先删除缓存,再更新数据库(问题:数据库update未commit,缓存被删除,读取旧数据)

  3. 先更新数据库,再删除缓存(问题:数据库update未commit,缓存被删除,读取不到缓存。可以使用延时双删策略)

4.2 Read/Write Through Pattern 直连缓存

应用程序只操作缓存,缓存操作数据库。

Read-Through(穿透读模式/直读模式):应用程序读缓存,缓存没有,由缓存回源到数据库,并写入缓存。GuavaCache

Write-Through(穿透写模式/直写模式):应用程序写缓存,缓存写数据库。该种模式需要提供数据库的handler,开发较为复杂。

4.3 Write Behind Caching Pattern

应用程序只更新缓存。缓存通过异步的方式将数据批量或合并后更新到DB中不能时时同步,甚至会丢数据