第1課：HDFSコマンドライン操作
右側のコマンドラインでHadoopを起動し、以下の操作を行ってください。
- HDFS上に/usr/output/ディレクトリを作成する；
- ローカルにhello.txtファイルを作成し、「HDFSのブロックはディスクのブロックより大きい。これはシークオーバーヘッドを最小限に抑えるためである。」と記述する；
- hello.txtをHDFSの/usr/output/ディレクトリへアップロードする；
- HDFSの/user/hadoopディレクトリを削除する；
- Hadoop上のファイルhello.txtをHDFSからローカルの/usr/localディレクトリへコピーする。
start-dfs.sh
hadoop fs -mkdir /usr
hadoop fs -mkdir /usr/output
vim hello.txt
hadoop fs -put hello.txt /usr/output
hadoop fs -rm -r /user/hadoop
hadoop fs -copyToLocal /usr/output/hello.txt /usr/local
第2課：HDFS-Java APIによるファイル読み取り
右側のコードエディタで以下の機能を実装するコードを記述してください：
- URI「hdfs://localhost:9000/user/hadoop/task.txt」を使用して、HDFSの/user/hadoop/ディレクトリにあるtask.txtファイルの内容をFSDataInputStreamで取得し、標準出力に出力する。
package step2;
import java.io.IOException;
import java.io.InputStream;
import java.net.URI;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;
public class FileSystemCat {
public static void main(String[] args) throws IOException {
//Begin-Endの間にコードを追加し、タスクを完了させます。
/********* Begin *********/
URI uri = URI.create("hdfs://localhost:9000/user/hadoop/task.txt");
Configuration config = new Configuration();
FileSystem fs = FileSystem.get(uri,config);
InputStream in = null;
try{
in = fs.open(new Path(uri));
IOUtils.copyBytes(in, System.out,2048,false);
}catch (Exception e){
IOUtils.closeStream(in);
}
/********* End *********/
}
}
第3課：HDFS-Java APIによるファイルアップロード
- 右側のコードエディタとコマンドラインで、以下の機能を実装するコードとスクリプトを記述してください：
- /develop/input/ディレクトリにhello.txtファイルを作成し、以下の内容を入力します：迢迢牽牛星，皎皎河漢女。纤纤擢素手，札札弄機杼。終日不成章，泣涕零如雨。河漢清且浅，相去復幾許？盈盈一水間，脈脈不得語。《迢迢牽牛星》
FSDataOutputStreamを使用して、ファイルをHDFSの/user/tmp/ディレクトリにアップロードし、進捗状況を表示します。
まずコマンドラインでファイルを作成し、Hadoopを起動します：
mkdir /develop
mkdir /develop/input
cd /develop/input
vim hello.txt
start-dfs.sh
次にコードファイルに以下を記述します：
package step3;
import java.io.BufferedInputStream;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.IOException;
import java.io.InputStream;
import java.net.URI;
import java.io.File;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;
import org.apache.hadoop.util.Progressable;
public class FileSystemUpload {
public static void main(String[] args) throws IOException {
//Begin-Endの間にコードを追加し、タスクを完了させます。
/********* Begin *********/
File localPath = new File("/develop/input/hello.txt");
String hdfsPath = "hdfs://localhost:9000/user/tmp/hello.txt";
InputStream in = new BufferedInputStream(new FileInputStream(localPath));
Configuration config = new Configuration();
FileSystem fs = FileSystem.get(URI.create(hdfsPath), config);
long fileSize = localPath.length() > 65536 ? localPath.length() / 65536 : 1;
FSDataOutputStream out = fs.create(new Path(hdfsPath), new Progressable() {
long fileCount = 0;
public void progress() {
System.out.println("総進捗" + (fileCount / fileSize) * 100 + "%");
fileCount++;
}
});
IOUtils.copyBytes(in, out, 2048, true);
/********* End *********/
}
}
第4課：HDFS-Java APIによるファイル削除
右側のコードエディタにコードを埋め込み、以下の機能を実装してください：
- HDFSの/user/hadoop/ディレクトリ（空ディレクトリ）を削除する；
- HDFSの/tmp/test/ディレクトリ（非空ディレクトリ）を削除する；
- HDFSのルートディレクトリにあるすべてのファイルとフォルダをリストする；
- HDFSの/tmp/ディレクトリにあるすべてのファイルとフォルダをリストする。
まずコマンドラインでHadoopを起動します：
start-dfs.sh
次にコードファイルに以下を記述します：
package step4;
import java.io.IOException;
import java.net.URI;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.FileUtil;
import org.apache.hadoop.fs.Path;
public class FileSystemDelete {
public static void main(String[] args) throws IOException {
//Begin-Endの間にコードを追加し、この課題を完了させます。
/********* Begin *********/
String root = "hdfs://localhost:9000/";
String path = "hdfs://localhost:9000/tmp";
String del1 = "hdfs://localhost:9000/user/hadoop";
String del2 = "hdfs://localhost:9000/tmp/test";
Configuration config = new Configuration();
FileSystem fs = FileSystem.get(URI.create(root),config);
fs.delete(new Path(del1),true);
fs.delete(new Path(del2),true);
Path[] paths = {new Path(root),new Path(path)};
FileStatus[] status = fs.listStatus(paths);
Path[] listPaths = FileUtil.stat2Paths(status);
for (Path path1 : listPaths){
System.out.println(path1);
}
/********* End *********/
}
}