HDFS RPC限流方案实践探索

HDFS RPC限流方案实践探索

文章目录

• 前言
• HDFS RPC限流方案
• 分级RPC queue的调参
• 分级RPC queue的insight

前言

在前面的一篇关于分布式集群下的限流方案文章里，笔者阐述了一种在HDFS集群里的RPC限流架构。其间也提到了很多关于分布式限流架构里的关键要素，包括用户区分，分级队列的概念等等。不过上次文章更多偏向于理论原理篇，本文笔者将结合实际生产环境的特点，来给大家讲讲如何真正将限流方案实施到生产集群，并能够达到预期的效果。

HDFS RPC限流方案

这里要首先聊聊笔者目前集群所将要采用的HDFS RPC限流方案。和上篇文章所设计的略有不同 ，在最新的方案设计里面暂时不考虑Router的服务。这里主要出于2点理由：1）我们目前单Router的处理速度非常快，很少出现请求积压的情况，这样不太容易触发到FairCallqueue的限流效果。2）Router服务目前不支持refreshCallqueue的动态刷新功能。FairCallqueue的功能需要不断进行调参优化改进，如果不支持动态刷新的功能，将会带来比较高的部署成本。

所以目前我们是完全在下游NameNode做的限流设计，限流的结构依然采用的是社区比较成熟的FairCallqueue的功能。FairCallqueue的功能在设计上与我们的使用场景极为吻合，再加上社区在此功能上进行了不断地完善，使得集群admin管理员能够更加方便，灵活地在NameNode上使用此功能。FairCallqueue目前不仅对于其内部priority queue的数量能进行配置化设置之外，还能够对RPC优先级设置的阈值进行调整。但同时这里指出一点，Fa