Flink Reduce怎么用

這篇文章主要講解了“Flink Reduce怎么用”，文中的講解內容簡單清晰，易于學習與理解，下面請大家跟著小編的思路慢慢深入，一起來研究和學習“Flink Reduce怎么用”吧！

Reduce算子：對數據流進行滾動聚合計算，并返回每次滾動聚合計算合并后的結果

示例環境

java.version: 1.8.x
flink.version: 1.11.1

示例數據源 （項目碼云下載）

Flink 系例 之 搭建開發環境與數據

Reduce.java

import com.flink.examples.DataSource;
import org.apache.flink.api.common.functions.ReduceFunction;
import org.apache.flink.api.java.functions.KeySelector;
import org.apache.flink.api.java.tuple.Tuple3;
import org.apache.flink.streaming.api.datastream.KeyedStream;
import org.apache.flink.streaming.api.datastream.SingleOutputStreamOperator;
import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;
import java.util.List;

/**
 * @Description Reduce算子：對數據流進行滾動聚合計算，并返回每次滾動聚合計算合并后的結果
 */
public class Reduce {

    /**
     * 遍歷集合，分區打印每一次滾動聚合的結果
     * @param args
     * @throws Exception
     */
    public static void main(String[] args) throws Exception {
        final StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();
        env.setParallelism(4);
        List<Tuple3<String,String,Integer>> tuple3List = DataSource.getTuple3ToList();
        //注意：使用Integer進行分區時，會導致分區結果不對，轉換成String類型輸出key即可正確輸出
        KeyedStream<Tuple3<String,String,Integer>, String> keyedStream = env.fromCollection(tuple3List).keyBy(new KeySelector<Tuple3<String,String,Integer>, String>() {
            @Override
            public String getKey(Tuple3<String, String, Integer> tuple3) throws Exception {
                //f1為性別字段,以相同f1值（性別）進行分區
                return String.valueOf(tuple3.f1);
            }
        });
        SingleOutputStreamOperator<Tuple3<String, String, Integer>> result =  keyedStream.reduce(new ReduceFunction<Tuple3<String, String, Integer>>() {
            @Override
            public Tuple3<String, String, Integer> reduce(Tuple3<String, String, Integer> t0, Tuple3<String, String, Integer> t1) throws Exception {
                int totalAge = t0.f2 + t1.f2;
                return new Tuple3<>("", t0.f1, totalAge);
            }
        });
        result.print();
        env.execute("flink Reduce job");
    }
}

打印結果

## 說明：為什么每一個分區的第一個數據對象每一個參數有值，是因為滾動聚合返回的是從第二數據對象向前疊加第一個數據對象，開始計算，所以第一個數據對象根本就不進入reduce方法;
2> (張三,man,20)
2> (,man,49)
2> (,man,79)
4> (李四,girl,24)
4> (,girl,56)
4> (,girl,74)

感謝各位的閱讀，以上就是“Flink Reduce怎么用”的內容了，經過本文的學習后，相信大家對Flink Reduce怎么用這一問題有了更深刻的體會，具體使用情況還需要大家實踐驗證。這里是億速云，小編將為大家推送更多相關知識點的文章，歡迎關注！