13 高可用的服务

98 阅读4分钟

运维上将服务器进行分级管理,核心应用和服务优先使用更好的硬件,在运维响应 速度上也格外迅速。显然,用户及时付款购物比能不能评价商品更重要,所以订单、支 付服务比评价服务有更高优先级。

同时在服务部署上也进行必要的隔离,避免故障的连锁反应。低优先级的服务通过 启动不同的线程或者部署在不同的虚拟机上进行隔离,而高优先级的服务则需要部署在 不同的物理机上,核心服务和数据甚至需要部署在不同地域的数据中心。

  1. 超时设置

由于服务端宕机、线程死锁等原因,可能导致应用程序对服务端的调用失去响应, 进而导致用户请求长时间得不到响应,同时还占用应用程序的资源,不利于及时将访问 请求转移到正常的服务器上。

在应用程序中设置服务调用的超时时间,一旦超时,通信框架就抛出异常,应用程 序根据服务调度策略,可选择继续重试或将请求转移到提供相同服务的其他服务器上。

  1. 异步调用

应用对服务的调用通过消息队列等异步方式完成,避免一个服务失败导致整个应用 请求失败的情况。如提交一个新用户注册请求,应用需要调用三个服务:将用户信息写 入数据库,发送账户注册成功邮件,开通对应权限。如果釆用同步服务调用,当邮件队 列阻塞不能发送邮件时,会导致其他两个服务也无法执行,最终导致用户注册失败。

如果采用异步调用的方式,应用程序将用户注册信息发送给消息队列服务器后立即返回用户注册成功响应。而记录用户注册信息到数据库、发送用户注册成功邮件、调用 用户服务开通权限这三个服务作为消息的消费者任务,分别从消息队列获取用户注册信 息异步执行。即使邮件服务队列阻塞,邮件不能成功发送,也不会影响其他服务的执行, 用户注册操作可顺利完成,只是晚一点收到注册成功的邮件而已。

当然不是所有服务调用都可以异步调用,对于获取用户信息这类调用,采用异步方 式会延长响应时间,得不偿失。对于那些必须确认服务调用成功才能继续下一步操作的 应用也不合适使用异步调用。

  1. 服务降级

在网站访问高峰期,服务可能因为大量的并发调用而性能下降,严重时可能会导致 服务宕机。为了保证核心应用和功能的正常运行,需要对服务进行降级。降级有两种手 段:拒绝服务及关闭服务。

拒绝服务:拒绝低优先级应用的调用,减少服务调用并发数,确保核心应用正常使

用;或者随机拒绝部分请求调用,节约资源,让另一部分请求得以成功,避免要死大家 一起死的惨剧。貌似Twitter比较喜欢使用随机拒绝请求的策略,经常有用户看到请求失 败的故障页面,但是问下身边的人,其他人都正常使用,自己再刷新页面,也好了。

关闭功能:关闭部分不重要的服务,或者服务内部关闭部分不重要的功能,以节约系统开销,为重要的服务和功能让岀资源。淘宝在每年的“双十一”促销中就使用这利 方法,在系统最繁忙的时段关闭“评价”、“确认收货”等非核心服务,以保证核心交易服 务的顺利完成。

  1. 幂等性设计

最后

由于篇幅限制,小编在此截出几张知识讲解的图解

P8级大佬整理在Github上45K+star手册,吃透消化,面试跳槽不心慌

P8级大佬整理在Github上45K+star手册,吃透消化,面试跳槽不心慌

P8级大佬整理在Github上45K+star手册,吃透消化,面试跳槽不心慌

P8级大佬整理在Github上45K+star手册,吃透消化,面试跳槽不心慌

P8级大佬整理在Github上45K+star手册,吃透消化,面试跳槽不心慌

相关阅读docs.qq.com/doc/DSmxTbFJ1cmN1R2dB