背景
限流控制,又称 反压 (backpressure), 这个概念现在在大数据中非常火爆, 尤其是最近Heron/Spark都实现了这个功能。其实在jstorm 0.9.0 时,底层netty的同步模式,即可做到限流控制, 即当接收端能处理多少tuple, 发送端才能发送多少tuple, 但随着大面积使用, 发现netty的同步模式会存在死锁问题, 故这种方式并没有被大量使用。
原理
后来自2015年6月,twitter发布了heron的一篇论文, 描叙了,当下游处理速度跟不上上游发送速度时, 他们采取了一种暴力手段,立即停止spout的发送。 这种方式, jstorm拿过来进行压测, 发现存在大量问题, 当下游出现阻塞时, 上游停止发送, 下游消除阻塞后,上游又开闸放水,过了一会儿,下游又阻塞,上游又限流, 如此反复, 整个数据流一
继续阅读与本文标签相同的文章
上一篇 :
Jstorm运维经验
下一篇 :
Jstorm 调度硬件资源cgroups
-
api设计规范
2026-05-23栏目: 教程
-
红外条码扫描器的另类使用C#版
2026-05-23栏目: 教程
-
2009.4 微软MVP Windows Embedded
2026-05-23栏目: 教程
-
.Net Micro Framework - USB Mass Storage功能实现
2026-05-23栏目: 教程
-
阿里云开发者技术沙龙 - PG天天象上活动 - 济南站圆满落幕
2026-05-23栏目: 教程
