随着时代的发展,软件设计的理念也在不断发展,从单体服务、面向服务、微服务,发展到云原生以及无服务。其演变的过程是一个能力不断增强,领域边界不断微分细化的过程。比如无服务就是将函数作为服务,就类似dns模式的服务设计。
大数据系统往往需要处理流式数据,通过消息队列将数据进行采集和汇总,然后导入大数据计算引擎或者存储。
目前各种云原生技术都比较丰富,但是消息中间件MQ的云原生技术目前了解到的只有pulsar。Pulsar是新一代的消息中间件,其最大的特点是支持云原生,Pulsar采用分布式存储Bookeeper策略进行消息存储(考虑网络速率越来越快,存储和计算混用的架构缺点逐渐显现),将计算和存储能力分开,理论上具有无限消息处理和消息存储的能力。其设计架构采用分级路由的策略,实现多租场景,具有百万Topic的能力。采用可插拔的协议处理,支持各种协议,可以实现业务无缝迁移。具有跨域复制能力;
pulsar的基本架构如下: