목록Data/Hadoop (2)
우노
HDFS 명령어 Hadoop 의 Filesystem 인 HDFS 는, 아래와 같은 명령어 구조를 사용해 다룰 수 있다. Hadoop-2.6.0 에서는 총 33개의 HDFS 명령어를 지원한다. hdfs dfs [GENERIC_OPTIONS] [COMMAND_OPTIONS] ls 특정 디렉토리 또는 디렉토리 내부의 파일을 보여준다. hdfs dfs -ls [-R] {args} R : 특정 디렉토리 이하에 대해서 정보를 보여줌 mkdir 특정 path 에 directory 를 생성한다. hdfs dfs -mkdir [-p] {paths} cat 해당 파일의 내용을 출력한다. (linux 명령어 cat 과 동일) hdfs dfs -cat URI [URI ...] cp Hdfs 내부에서 파일을 복사/붙여넣기 한다..
Hadoop 구성 요소 Hadoop은 다음 세 가지로 구성됩니다. 노드 클러스터에 광범위한 데이터를 저장하기위한 HDFS 파일 시스템 분산 계산을 위해 개발 된 MapReduce 프레임 워크 요청 된 작업에 사용 가능한 리소스를 할당하기위한 YARN HDFS 위 그림은, HDFS의 구조를 나타냅니다. HDFS는 하둡 분산 파일 시스템의 약자로써, 대규모 데이터를 클러스터 내에 분산 저장하는 시스템입니다. 전체 데이터는 128MB 씩 분할 되어, 하나의 블록 내에 저장되며, 하나의 블록은 3개씩 다른 노드에 복제됩니다. 이 값은 기본값이며 변경할 수 있습니다. 따라서, 하나 이상의 노드가 서비스를 중단하면, 다른 노드에 저장된 데이터 복사본으로 부터 데이터를 가져올 수 있습니다. HDFS는 클러스터 내부의..