Hadoop學習--AP讀取HDFS數據--day04

import java.io.ByteArrayOutputStream;

import java.io.InputStream;

import java.net.URL;

import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.fs.FSDataInputStream;

import org.apache.hadoop.fs.FileSystem;

import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;

import org.apache.hadoop.fs.Path;

import org.apache.hadoop.io.IOUtils;

import org.junit.Test;

/**

 * 測試hadoop文件系統的API

 * @author Administrator

 *

 */

public class TestFileSystemAPI {

/**

* 通過filesystem對象API讀取HDFS文件數據

* 

* @author Administrator

* 

* 1.創建configuration對象，注意這里如果涉及到某些參數，需要自己書寫指定在src目錄下

* 2.利用filesystem的get方法來獲取filesystem對象，get方法一共有三種（關鍵）

* 3.利用filesystem的open方法打開一個數據輸入流，方法過程中需要一個path對象的參數傳遞（關鍵）

* 4.利用ioutils工具類實現文件的輸出

* 

* 

* 

*/

@Test

public void read() throws Exception {

//創建configuration對象，有個默認的加載順序，先從core-default.xml，再到src目錄中的文件,這里

//我們給定了

        Configuration conf = new Configuration();

//通過conf的configuration對象創建了該分布式文件系統fs，默認如果不指定文件的話為本地文件系統

        FileSystem fs = FileSystem.get(conf);

        //定義一個URL的字符串

        String file = "hdfs://hadoop01:9000/user/hadoop/data/hello.txt";

        //通過一個URL的字符串構建一個path對象

        Path path = new Path(file);

        //調用fs的open方法創建fsdata輸入流可以去讀數據

        FSDataInputStream in = fs.open(path);

//第一個參數是輸入流，第二個參數是輸出流，第三個參數是緩沖區大小，第四個參數是復制結束后是

//否關閉數據流

       // IOUtils.copyBytes(in, System.out, 1024, true);

        byte[] bys = new byte[1024];

        int len =0;

        while((len=in.read(bys))!=-1){

        System.out.print(new String(bys,0,len));

        }

   }

}