当前位置:首页 > 通信资讯 > 正文

路由控制技术(路由控制策略)

路由控制技术(路由控制策略)

前言

路由(Route)的设计广泛存在于众多领域,以 RPC 框架 Dubbo 为例,就有标签路由、脚本路由、权重路由、同机房路由等实现。

在框架设计层面,路由层往往位于负载均衡层之前,在进行选址时,路由完成的是 N 选 M(M <= N),而负载均衡完成的是 M 选一,共同影响选址逻辑,最后触发调用。

在业务层面,路由往往是为了实现一定的业务语义,对流量进行调度,所以服务治理框架通常提供的都是基础的路由扩展能力,使用者根据业务场景进行扩展。

路由控制技术(路由控制策略)

路由过程

今天这篇文章将会围绕路由层该如何设计展开。

路由的抽象建模

先参考 Dubbo 2.7 的实现,进行第一个版本的路由设计,该版本也最直观,非常容易理解。

  1. public interface Router {
  2. List route(List invokers, Invocation invocation);
  3. }
  • Invoker:服务提供方地址的抽象
  • Invocation:调用的抽象

上述的 route 方法实现的便是 N 选 M 的逻辑。

接下来,以业务上比较常见的同机房路由为例继续建模。顾名思义,在部署时,提供者采用多机房部署,起到容灾的效果,同机房路由最简单的版本即过滤筛选出跟调用方同一机房的地址。

伪代码实现如下:

  1. List route(List invokers, Invocation invocation) {
  2. String site = invocation.getSite();
  3. List result = new ArrayList<>();
  4. for (Invoker invoker: invokers) {
  5. if (invoker.getSite().equals(site)) {
  6. result.add(invoker);
  7. }
  8. }
  9. return result;
  10. }

Dubbo 在较新的 2.7 版本中,也是采用了这样的实现方式。这种实现的弊端也是非常明显的:**每一次调用,都需要对全量的地址进行一次循环遍历!注意,这是调用级别!**在超大规模的集群下,开销之大,可想而知。

路由的改进方案

基于之前路由的抽象建模,可以直观地理解路由选址的过程,其实也就是 2 步:

  • 根据流量特性与路由规则特性选出对应的路由标。
  • 根据路由标过滤对应的服务端地址列表

纵观整个调用过程:

第一步:一定是动态的,Invocation 可能来自于不同的机房,自然会携带不同的机房标。

第二步:根据路由标过滤对应的服务地址列表,完全是可以优化的,因为服务端的地址列表基本是固定的(在不发生上下线时),可以提前计算好每个机房的地址列表,这样就完成了算法复杂度从 O(N) 到 O(1) 的优化。

基于这个优化思路继续完善,路由选址的过程不应该发生在调用级别,而应该发生在下面两个场景:

  • 地址列表变化时。需要重新计算路由地址列表。
  • 路由规则发生变化时。例如路由规则不再是静态的,可以接受动态配置的推送,此时路由地址列表也需要重新计算。

但无论是哪个场景,相比调用级别的计算量,都是九牛一毛的存在。

优化过后的路由方案,伪代码如下:

  1. Map
如果您对该产品感兴趣,请填写办理(客服微信:xiaoxiongyidong)

为您推荐:

发表评论

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。