Flink 任务链 共享组 总结

阅读: 评论:0

Flink 任务链 共享组 总结

Flink 任务链 共享组 总结

文章目录

  • Operator Chains (任务链)
  • 任务链 共享组总结
      • 任务链以及共享组
      • 总结:

Operator Chains (任务链)

划分为同一个任务链的3个要素:

  1. one to one 的操作
  2. 并行度相同
  3. 同一个共享组
    默认情况(只有一个共享组)下需要的slot数量=最大的并行度
    当前任务需要的总的slot=每个共享组中最大并行度的和

全局禁用任务链:
env.disableOperatorChaining()

任务链 共享组总结

任务链以及共享组

 1.默认情况下:所有算子都是同一个共享组,开启了任务链合并任务所需的slot数量:最大并行度任务链的个数:宽依赖 、并行度
2.给算子独立设置了共享组:开启了任务链的合并任务所需的Slot数量:每个共享组中最大的并行度的和     任务链的个数:宽依赖 、并行度 、共享组
3.全局设置禁用任务链同一个共享组任务所需的slot数量:最大并行度        任务链的个数:算子的个数
4.给某个算子开启新的任务链同一个共享组任务所需的slot数量:最大并行度        任务链的个数:宽依赖、并行度、开启的新的任务链5.给某个算子禁用任务链同一个共享组任务所需的slot数量:最大并行度        任务链的个数:宽依赖、并行度、禁用任务链的算子

总结:

Slot数量 只跟 共享组最大并行度 有关
任务链的个数宽依赖并行度共享组是否禁用或者开启新的任务链 有关

本文发布于:2024-01-28 08:10:23,感谢您对本站的认可!

本文链接:https://www.4u4v.net/it/17064006266015.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:Flink
留言与评论(共有 0 条评论)
   
验证码:

Copyright ©2019-2022 Comsenz Inc.Powered by ©

网站地图1 网站地图2 网站地图3 网站地图4 网站地图5 网站地图6 网站地图7 网站地图8 网站地图9 网站地图10 网站地图11 网站地图12 网站地图13 网站地图14 网站地图15 网站地图16 网站地图17 网站地图18 网站地图19 网站地图20 网站地图21 网站地图22/a> 网站地图23