
背景介绍 Introduction
在上篇推文《什么?你的平台又被第三方API拖垮啦?!集星獭祭出终极杀招助力摆脱延时困境!(上)》中,我们了解了集成平台是如何应对高延迟API,本文将继续探索集星獭平台应对高延迟API的更多方案。
在实际生产中,API调用会突发出现高并发、高延迟、高错误的情况,这些情况无法预知,因此,需要在出现突发情况时,智能识别异常API,并做出相应处理,智能分流方案应运而生。
汉得集星獭企业级系统集成平台-智能分流方案,即能保证高延迟请求的正常处理,又不影响集成平台的整体性能,旨在实现更加智能化、自动化的进行故障隔离,提高系统的稳定性和可靠性。
下面先进行故障API拖垮集成平台场景演示,再进行智能分流方案演示,以对比方式,展现集成平台智能分流强大功能。
故障API拖垮集成平台
重现影响集成平台的场景
下面进行故障API拖垮集成平台场景浮现,准备两个API接口,接口A为正常接口,接口B为故障API接口,当接口B出现高延迟响应时,会影响接口A调用,以此体现故障API影响集成平台效果。
■ 调用流程

准备两个API接口:
1. 接口A为正常接口,响应100ms左右;
2. 接口B为动态延迟接口,接口出现低延迟-高延迟-低延迟现象,具体表现为:在调用接口0-2min间接口响应为100ms,在2min-5min间,模拟系统故障,接口响应为15s,在5min后,接口正常,响应为100ms。
当前接口平台连接池设置:连接池最大连接数为10,为了更早的重现连接池占满情况。
通过Jmeter发起接口调用请求,接口A配置至Jmeter中:

接口B配置至Jmeter中:

■ 单独压测接口A
通过Jmeter发起请求,压测7min的压测记录,接口A调用正常:

■ 同时压测接口A和接口B
接口B:通过Jmeter发起请求,在0-2min时接口正常响应;在2min-5min时模拟系统故障出现高延迟15s;在5min后系统正常,压测7min的压测记录如下:

接口A:通过Jmeter发起请求,接口A响应一直为100ms,但是接口B在2min-5min系统异常响应缓慢,影响接口A,压测7min的压测记录如下:

结论:通过Jmeter发起向集成平台发起API调用请求,接口A为正常请求,单独调用时,无异常;接口B为动态延迟请求,执行过程中会出现高延迟情况;当接口A和接口B同时调用时,接口B出现高延迟时,会导致接口A也出现高延迟。
因此,在集成平台中透传的API出现高延迟时,会严重影响系统性能,导致其他API响应缓慢。下面通过智能分流方案,解决这一问题。
智能分流方案
集星獭平台-智能分流方案
智能分流方案原理如下:通过API网关智能路由动态识别"故障"API(识别高并发、高延迟、高错误API,统称为"故障"API)。将"故障"API分流至高延迟节点组处理,当"故障"API恢复正常后,路由关闭,进行正常分流。根据API的健康状态进行动态调整,实现故障隔离,提高系统的稳定性和可靠性。

"故障"API 由高延迟节点组进行处理,"故障"API 可能会拖垮高延迟节点组,但是高延迟节点组和正常节点组是隔离的,因此不会影响系统正常运行。
下面进行智能分流方案演示,通过智能分流方案,解决故障API拖垮集成平台问题。
■ 调用流程

如上:集成平台需要在原来部署环境上,新增API状态识别配置。
■ 同时压测接口A和接口B
接口B:通过Jmeter发起请求,在0-2min时接口正常响应;在2min-5min时模拟系统故障出现高延迟15s;在5min后系统正常,压测7min的压测记录如下:

接口A:通过Jmeter发起请求,接口A一直正常,压测7min的压测记录如下:

同时,观察高延迟节点组的资源消耗情况。压测0-2min时,接口A和接口B正常,请求都在共享组执行,高延迟节点不处理请求,无资源消耗,如下:

在2min-5min时,接口B出现高延迟,"故障"API识别触发降级,接口B请求降级分流高延迟节点组上,节点开始工作,如下:

在5min后,接口B正常,"故障"API识别关闭,节点不处理请求,无资源消耗,如下:

结论:第三方API出现突发高延迟情况时,集成平台通过智能路由动态识别异常API,并将请求转发至高延迟节点组进行处理。当第三方API恢复正常时,分流关闭,请求由正常节点组进行处理,根据API的健康状态自动进行动态调整,实现故障隔离,提高系统的稳定性和可靠性。
智能分流方案优势
■ 弹性扩展 根据流量的变化自动调整路由策略,实现弹性扩展,提高系统的稳定性和可靠性。
■ 负载均衡 根据后端服务的负载情况进行动态调整,实现负载均衡,提高系统的性能和吞吐量。
■ 故障隔离 根据后端服务的健康状态进行动态调整实现故障隔离,提高系统的可用性和容错能力。
■ 灵活性 根据业务需求进行灵活的配置,实现灵活的路由策略,提高系统的灵活性和可定制性。
结语 Conclusion
集星獭提供精简便捷的配置化界面,只需通过界面配置,即可实现智能分流功能,此处忽略配置明细。若您对此功能配置或方案有进一步了解的需求,欢迎致电垂询,我们将竭诚为您提供详细的解答和服务。
汉得企业级系统集成平台(中文名集星獭,英文名JeeStar),是一站式多系统集成、多云集成、多端集成、多协议集成、多设备集成、数据集成、页面集成的全域集成解决方案。集成平台沉淀了汉得多年ToB项目实施的系统集成经验,在消除企业信息孤岛、数据孤立、打通多源多端的数据断链及混合云对接等场景中提供了高效便捷的功能及策略方案。
联系我们
1. 如果您想了解集星獭更详细的功能介绍和产品信息,请查阅我们的产品文档。
移动端 👉:集星獭产品文档
PC端 👉: open.hand-china.com/document-ce…
2. 如果您有疑问或者建议,可以通过开放平台进行工单反馈,问题分类请选择【产品/集星獭JeeStar】 👉 https://open.hand-china.com
3. 相关产品咨询或更多信息了解,欢迎联系我们。 邮箱:jeestar@sys.hand-china.com



