您好,登錄后才能下訂單哦!
Connectors如何讀寫csv文件,相信很多沒有經驗的人對此束手無策,為此本文總結了問題出現的原因和解決方法,通過這篇文章希望你能解決這個問題。
通過使用Flink DataSet Connectors 數據流連接器打開csv文件,并提供數據流輸入與輸出操作;
示例環境
java.version: 1.8.xflink.version: 1.11.1
示例數據源 (項目碼云下載)
Flink 系例 之 搭建開發環境與數據
示例模塊 (pom.xml)
Flink 系例 之 DataStream Connectors 與 示例模塊
數據流輸入
CsvSource.java
package com.flink.examples.file; import org.apache.flink.api.java.DataSet; import org.apache.flink.api.java.ExecutionEnvironment; import org.apache.flink.api.java.tuple.Tuple7; import java.util.HashMap; import java.util.Map; /** * @Description 從csv文件中讀取內容輸出到DataSet中 */ public class CsvSource { public static void main(String[] args) throws Exception { ExecutionEnvironment env = ExecutionEnvironment.getExecutionEnvironment(); String filePath = "D:\\Workspaces\\idea_2\\flink-examples\\connectors\\src\\main\\resources\\user.csv"; DataSet<Tuple7<Integer, String, Integer, Integer, String, String, Long>> dataSet = env .readCsvFile(filePath) .fieldDelimiter(",") .types(Integer.class, String.class, Integer.class, Integer.class, String.class, String.class, Long.class); //打印 dataSet.print(); } }
數據流輸出
CsvSink.java
package com.flink.examples.file; import org.apache.flink.api.java.DataSet; import org.apache.flink.api.java.ExecutionEnvironment; import org.apache.flink.api.java.tuple.Tuple7; import org.apache.flink.core.fs.FileSystem; /** * @Description 將DataSet數據寫入到csv文件中 */ public class CsvSink { public static void main(String[] args) throws Exception { ExecutionEnvironment env = ExecutionEnvironment.getExecutionEnvironment(); //需先建立文件 String filePath = "D:\\Workspaces\\idea_2\\flink-examples\\connectors\\src\\main\\resources\\user.csv"; //添加數據 Tuple7<Integer, String, Integer, Integer, String, String, Long> row = new Tuple7<>(15, "chen1", 40, 1, "CN", "2020-09-08 00:00:00", 1599494400000L); //轉換為dataSet DataSet<Tuple7<Integer, String, Integer, Integer, String, String, Long>> dataSet = env.fromElements(row); //將內容寫入到File中,如果文件已存在,將會被復蓋 dataSet.writeAsCsv(filePath, FileSystem.WriteMode.OVERWRITE).setParallelism(1); env.execute("fline file sink"); } }
數據展示
看完上述內容,你們掌握Connectors如何讀寫csv文件的方法了嗎?如果還想學到更多技能或想了解更多相關內容,歡迎關注億速云行業資訊頻道,感謝各位的閱讀!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。