分布式服务框架中如何实现和优化14种流量控制策略？

本文共计1335个文字，预计阅读时间需要6分钟。

2019年独角兽企业重金招聘Python工程师，标准上一次学过灰度发布。这次我们学习流控。当资源成为瓶颈时，服务框架需要对消费者做限流启动流控保护机制。

2019独角兽企业重金招聘Python工程师标准上次学了灰度发布这次我们学习流控。当资源成为瓶颈时,服务框架需要对消费者做限流启动流控保护机制

2019独角兽企业重金招聘Python工程师标准>>>

上次学了灰度发布这次我们学习流控。

当资源成为瓶颈时,服务框架需要对消费者做限流启动流控保护机制。

想做流控就得有策略比较常用的有:

1)针对访问速率的静态流控2)针对资源占用的动态流控3)针对消费者并发连接数的动态控制4)针对并行访问数的并发控制

也就是说你得有策略才可以

在实际情况中需要综合使用才可以发挥最大威力

14.1 静态流控

静态流控主要针对客户端访问速率进行控制做全局流量控制。

无论集群有多少台应用总和不超过某个流量控制。

14.1.1 传统静态流控设计方案

传统的采取预分配方案在软件安装时根据集群节点个数和静态流控阀值计算每个节点的分摊值

系统运行时各个服务节点按照自己分配的阀值进行流控对于超出阀值的请求则拒绝。

原理如图略

 

服务框架启动时将本节点的静态流控阀值加载到内存中通过Handler拦截器在服务调用前做拦截技术当计数器在指定周期T到达QPS上限时启动流控拒绝新的消息接入。

 

有2点需要注意:

1)一个进程有多个线程计数器要考虑线程安全问题。

2)是拒绝新的请求不是响应。