专业建设网站技术,wordpress借贷,s网站建设,企业网站制作 西安文章目录 缓存的意义缓存的定义缓存原理缓存的基本思想缓存的优势缓存的代价 缓存的重要知识点 缓存的意义
在互联网高访问量的前提下#xff0c;缓存的使用#xff0c;是提升系统性能、改善用户体验的唯一解决之道。
缓存的定义
缓存最初的含义#xff0c;是指用于加速 … 文章目录 缓存的意义缓存的定义缓存原理缓存的基本思想缓存的优势缓存的代价 缓存的重要知识点 缓存的意义
在互联网高访问量的前提下缓存的使用是提升系统性能、改善用户体验的唯一解决之道。
缓存的定义
缓存最初的含义是指用于加速 CPU 数据交换的 RAM即随机存取存储器通常这种存储器使用更昂贵但快速的静态 RAMSRAM技术用以对 DRAM进 行加速。这是一个狭义缓存的定义。而广义缓存的定义则更宽泛任何可以用于数据高速交换的存储介质都是缓存可以是硬件也可以是软件。 img缓存存在的意义就是通过开辟一个新的数据交换缓冲区来解决原始数据获取代价太大的问题让数据得到更快的访问。本课主要聚焦于广义缓存特别是互联网产品大量使用的各种缓存组件和技术。 缓存存在的意义就是通过开辟一个新的数据交换缓冲区来解决原始数据获取代价太大的问题让数据得到更快的访问。本课主要聚焦于广义缓存特别是互联网产品大量使用的各种缓存组件和技术。
缓存原理
缓存的基本思想 缓存构建的基本思想是利用时间局限性原理通过空间换时间来达到加速数据获取的目的同时由于缓存空间的成本较高在实际设计架构中还要考虑访问延迟和成本的权衡问题。这里面有 3 个关键点。
一是时间局限性原理即被获取过一次的数据在未来会被多次引用比如一条微博被一个人感兴趣并阅读后它大概率还会被更多人阅读当然如果变成热门微博后会被数以百万/千万计算的更多用户查看。二是以空间换时间因为原始数据获取太慢所以我们开辟一块高速独立空间提供高效访问来达到数据获取加速的目的。三是性能成本 Tradeoff构建系统时希望系统的访问性能越高越好访问延迟越低小越好。但维持相同数据规模的存储及访问性能越高延迟越小成本也会越高所以在系统架构设计时你需要在系统性能和开发运行成本之间做取舍。比如左边这张图相同成本的容量SSD 硬盘容量会比内存大 1030 倍以上但读写延迟却高 50100 倍。
缓存的优势
缓存的优势主要有以下几点
提升访问性能降低网络拥堵减轻服务负载增强可扩展性
通过前面的介绍我们已经知道缓存存储原始数据可以大幅提升访问性能。不过在实际业务场景中缓存中存储的往往是需要频繁访问的中间数据甚至最终结果这些数据相比 DB 中的原始数据小很多这样就可以减少网络流量降低网络拥堵同时由于减少了解析和计算调用方和存储服务的负载也可以大幅降低。缓存的读写性能很高预热快在数据访问存在性能瓶颈或遇到突发流量系统读写压力大增时可以快速部署上线同时在流量稳定后也可以随时下线从而使系统的可扩展性大大增强。
缓存的代价
然而不幸的是任何事情都有两面性缓存也不例外我们在享受缓存带来一系列好处的同时也注定需要付出一定的代价。
首先服务系统中引入缓存会增加系统的复杂度。其次由于缓存相比原始 DB 存储的成本更高所以系统部署及运行的费用也会更高。最后由于一份数据同时存在缓存和 DB 中甚至缓存内部也会有多个数据副本多份数据就会存在一致性问题同时缓存体系本身也会存在可用性问题和分区的问题。这就需要我们加强对缓存原理、缓存组件以及优秀缓存体系实践的理解从系统架构之初就对缓存进行良好设计降低缓存引入的副作用让缓存体系成为服务系统高效稳定运行的强力基石
一般来讲服务系统的全量原始数据存储在 DB 中如 MySQL、HBase 等所有数据的读写都可以通过 DB 操作来获取。但 DB 读写性能低、延迟高如 MySQL 单实例的读写 QPS 通常只有千级别30006000读写平均耗时 10100ms 级别如果一个用户请求需要查 20 个不同的数据来聚合仅仅 DB 请求就需要数百毫秒甚至数秒。而 cache 的读写性能正好可以弥补 DB 的不足比如 Memcached 的读写 QPS 可以达到 10100万 级别读写平均耗时在 1ms 以下结合并发访问技术单个请求即便查上百条数据也可以轻松应对。
但 cache 容量小只能存储部分访问频繁的热数据同时同一份数据可能同时存在 cache 和 DB如果处理不当就会出现数据不一致的问题。所以服务系统在处理业务请求时需要对 cache 的读写方式进行适当设计既要保证数据高效返回又要尽量避免数据不一致等各种问题。
缓存的重要知识点
首先要熟练掌握缓存的基础知识了解缓存常用的分类、读写模式熟悉缓存的七大经典问题及解决应对之策同时要从缓存组件的访问协议、Client 入手熟练掌握如何访问各种缓存组件如 Memcached、Redis、Pika 等。其次要尽可能深入理解缓存组件的实现方案、设计原理了解缓存的各种特性、优势和不足这样在缓存数据与预期不一致时能够快速定位并解决问题。再次还要多了解线上大中型系统是如何对缓存进行架构设计的。线上系统业务功能丰富多变跨域部署环境复杂而且热点频发用户习惯迥异。因此缓存系统在设计之初就要尽量进行良好设计规划好如何进行Hash及分布、如何保障数据的一致性、如何进行扩容和缩容。当然缓存体系也需要伴随业务发展持续演进这就需要对缓存体系进行持续的状态监控、异常报警、故障演练以确保在故障发生时能及时进行人肉或自动化运维处理并根据线上状况不断进行优化和改进。最后了解缓存在各种场景下的最佳实践理解这些最佳实践背后的 Tradeoff做到知其然知其所以然以便在实际工作中能举一反三把知识和经验更好的应用到工作实践中来。
