无码av一区二区三区无码,在线观看老湿视频福利,日韩经典三级片,成 人色 网 站 欧美大片在线观看

歡迎光臨散文網(wǎng) 會員登陸 & 注冊

Flink全量聚合函數(shù):apply和process這兩種實現(xiàn)方法有什么區(qū)別?

2023-08-14 14:30 作者:ingemar-  | 我要投稿

指在窗口觸發(fā)的時候才會對窗口內(nèi)的所有數(shù)據(jù)進行一次計算(等窗口的數(shù)據(jù)到齊,才開始進行聚合計算,可實現(xiàn)對窗口內(nèi)的數(shù)據(jù)進行排序等需求)

實現(xiàn)方法

  • apply(windowFunction)

  • process(processWindowFunction)

apply和process的區(qū)別


apply和process都是處理全量計算,但工作中正常用process。

process更加底層,更加強大,有open/close生命周期方法,又可獲取RuntimeContext。


ProcessWindowFunction/ProcessAllWindowFunction


全量聚合:窗口需要維護全部原始數(shù)據(jù),窗口觸發(fā)進行全量聚合。

ProcessWindowFunction一次性迭代整個窗口里的所有元素,比較重要的一個對象是Context,可以獲取到事件和狀態(tài)信息,這樣我們就可以實現(xiàn)更加靈活的控制,這實際上是process的主要特點吧。該算子會浪費很多性能吧,主要原因是不增量計算,要緩存整個窗口然后再去處理,所以要設計好內(nèi)存。

牛叉的地方是ProcessWindowFunction可以結(jié)合 ReduceFunction, AggregateFunction,或者 FoldFunction來做增量計算(推薦用法)

請注意,使用ProcessWindowFunction諸如 count 之類的簡單聚合效率很低。


Flink全量聚合函數(shù):apply和process這兩種實現(xiàn)方法有什么區(qū)別?的評論 (共 條)

分享到微博請遵守國家法律
威海市| 扶风县| 翁牛特旗| 丹棱县| 碌曲县| 宁明县| 化德县| 平顶山市| 丹巴县| 鲜城| 辰溪县| 象山县| 旅游| 东莞市| 三穗县| 谢通门县| 寻乌县| 平南县| 扶绥县| 汝阳县| 台前县| 黄平县| 庆元县| 嘉善县| 营口市| 乐昌市| 桂东县| 漯河市| 高安市| 北票市| 兴安盟| 武宣县| SHOW| 合江县| 光山县| 宝山区| 普洱| 合山市| 岳普湖县| 衡阳市| 义乌市|