MQ你知道为什么会使用吗?

272 阅读6分钟

这是我参与8月更文挑战的第26天,活动详情查看:8月更文挑战

消息队列的灵魂:

   1.消息队列是什么?

   2.能干什么?

   3.优缺点?

   4.为什么要用消息队列?

activemq的,kafka,rabbitmq基本处于现在一级水平的消息队列: 主要场景就是用于异步场景使用, 比如同步数据,如果数据量比较大,我们可以使用mybatis_plus的batch操作,但是写库还是一条的进行效率和每次插入的可能也没有区别很大;

1.为什么要用消息队列:

正确的思路,维度去考虑,结合实际回答:

image.png

消息队列在系统中的使用场景:

 1.1 消息队列的场景:

解耦--异步--削峰

不用mq的系统耦合场景 image.png

使用的MQ系统作为 场景的好处:

image.png

多系统交互之后==>改变代码的成本比较高

 使用MQ可以降低耦合;

面试技巧:  考虑自己的场景中是否有, 一个模块对应别的系统或者模块的使用;

2.引入MQ的出现的问题;

2.1系统可用性降低:

image.png

但是当MQ宕机之后或者是,发送不出消息,流量会导致数据处理出现问题,各个系统可用性会出现很大的问题;

 MQ挂了,会导致很多系统奔溃;

 系统复杂性变高

MQ可能会出现的事情:

  •  数据消息丢失

  • 保证消息没有被重复消费

  • 怎么保证数据消息的传递的顺序

2.3数据一致性问题

   数据请求一个到系统A, 经过MQ的发送, 本来请求是系统ABCD 都执行成功了 ,才能返回结果,系统ABCD执行成功了,但是D系统执行失败了,就导致整个请求给用户返回的是成功,结果后台是成功逻辑实际上差了一点,没有完全执行

(也就是说MQ之前返回成功了,但是在BCD后面的系统中会出现的是一个没有完全执行,导致出现数据不一致的情况)

3. 各个MQ的优缺点;

 activeMQ,RabbitMQ以及相同类型的总结:

特性ActiveMQRabbitMQRocketMQkafka
单机吞吐量万级,吞吐量比RocketMQ和Kafka要低了一个数量级万级,吞吐量比RocketMQ和Kafka要低了一个数量级10万级,RocketMQ也是可以支撑高吞吐的一种MQ10万级别,这是kafka最大的优点,就是吞吐量高。一般配合大数据类的系统来进行实时数据计算、日志采集等场景
topic数量对吞吐量的影响topic可以达到几百,几千个的级别,吞吐量会有较小幅度的下降这是RocketMQ的一大优势,在同等机器下,可以支撑大量的topictopic从几十个到几百个的时候,吞吐量会大幅度下降所以在同等机器下,kafka尽量保证topic数量不要过多。如果要支撑大规模topic,需要增加更多的机器资源
时效性ms级微秒级,这是rabbitmq的一大特点,延迟是最低的ms级延迟在ms级以内
可用性高,基于主从架构实现高可用性高,基于主从架构实现高可用性非常高,分布式架构非常高,kafka是分布式的,一个数据多个副本,少数机器宕机,不会丢失数据,不会导致不可用
消息可靠性有较低的概率丢失数据经过参数优化配置,可以做到0丢失经过参数优化配置,消息可以做到0丢失
功能支持MQ领域的功能极其完备基于erlang开发,所以并发能力很强,性能极其好,延时很低MQ功能较为完善,还是分布式的,扩展性好功能较为简单,主要支持简单的MQ功能,在大数据领域的实时计算以及日志采集被大规模使用,是事实上的标准
优劣势总结非常成熟,功能强大,在业内大量的公司以及项目中都有应用偶尔会有较低概率丢失消息而且现在社区以及国内应用都越来越少,官方社区现在对ActiveMQ 5.x维护越来越少几个月才发布一个版本而且确实主要是基于解耦和异步来用的,较少在大规模吞吐的场景中使用erlang语言开发,性能极其好,延时很低;吞吐量到万级,MQ功能比较完备而且开源提供的管理界面非常棒,用起来很好用社区相对比较活跃,几乎每个月都发布几个版本分在国内一些互联网公司近几年用rabbitmq也比较多一些但是问题也是显而易见的,RabbitMQ确实吞吐量会低一些,这是因为他做的实现机制比较重。而且erlang开发,国内有几个公司有实力做erlang源码级别的研究和定制?如果说你没这个实力的话,确实偶尔会有一些问题,你很难去看懂源码,你公司对这个东西的掌控很弱,基本职能依赖于开源社区的快速维护和修复bug。而且rabbitmq集群动态扩展会很麻烦,不过这个我觉得还好。其实主要是erlang语言本身带来的问题。很难读源码,很难定制和掌控。接口简单易用,而且毕竟在阿里大规模应用过,有阿里品牌保障日处理消息上百亿之多,可以做到大规模吞吐,性能也非常好,分布式扩展也很方便,社区维护还可以,可靠性和可用性都是ok的,还可以支撑大规模的topic数量,支持复杂MQ业务场景而且一个很大的优势在于,阿里出品都是java系的,我们可以自己阅读源码,定制自己公司的MQ,可以掌控社区活跃度相对较为一般,不过也还可以,文档相对来说简单一些,然后接口这块不是按照标准JMS规范走的有些系统要迁移需要修改大量代码还有就是阿里出台的技术,你得做好这个技术万一被抛弃,社区黄掉的风险,那如果你们公司有技术实力我觉得用RocketMQ挺好的kafka的特点其实很明显,就是仅仅提供较少的核心功能,但是提供超高的吞吐量,ms级的延迟,极高的可用性以及可靠性,而且分布式可以任意扩展同时kafka最好是支撑较少的topic数量即可,保证其超高吞吐量而且kafka唯一的一点劣势是有可能消息重复消费,那么对数据准确性会造成极其轻微的影响,在大数据领域中以及日志采集中,这点轻微影响可以忽略这个特性天然适合大数据实时计算以及日志收集