HDP 2.X Install


프롤로그 Prologue

- 설치 순서만 기록해 놓았기 때문에 따로 개념 정리는 하지 않았습니다.
- 호튼웍스 ambari를 이용한 설치로, 설치 방법은 해당 홈페이지를 참고하였습니다.
- 테스트 할 목적으로 서버 4대를 사용하여 설치하였습니다.

[1].구성 환경 및 사전 준비 작업

1. 테스트 할 서버 준비, 호스트 네임 설정
/*hadoop01*/
   hostname hadoop01
   vim /etc/sysconfig/networks 
   vim /etc/hosts
   10.10.1.2 hadoop01 hadoop01.test
 
/*hadoop02*/
   hostname hadoop02
   vim /etc/sysconfig/networks 
   vim /etc/hosts
   10.10.1.3 hadoop02 hadoop02.test

/*hadoop03*/
   hostname hadoop03
   vim /etc/sysconfig/networks   
   vim /etc/hosts
   10.10.1.4 hadoop03 hadoop03.test

 /*hadoop04*/
   hostname hadoop04
   vim /etc/sysconfig/networks
   vim /etc/hosts
   10.10.1.5 hadoop04 hadoop04.test

2. 각 노드(하나의 물리 서버)들이 인터넷이 될 수 있도록 설정

3. Java설치
yum install java

4. NTP 설정, 인터넷이 안되는 환경일 경우 마스터 노드에 NTP를 올려서 사용
vim /etc/ntp.conf

5. DNS 설정
- 테스트 용도로 pdns-recursor를 설치 하여 구성.
- 한 서버에만 pdns-recursor 설치하고 DNS구성 후, 다른 서버들이 pdns-recursor서버를 바라보도록 설정함
/*hadoop01 서버에 DNS 설정*/
vim /etc/hosts
10.10.1.2 hadoop01 hadoop01.test
10.10.1.3 hadoop02 hadoop02.test
10.10.1.4 hadoop03 hadoop03.test
10.10.1.5 hadoop04 hadoop04.test

yum install pdns-recursor -y

vim /etc/pdns-recursor/recursor.conf
export-etc-hosts 설정 (/etc/hosts를 export하도록)
local-address = 0.0.0.0

vim /etc/resolv.conf
nameserver 127.0.0.1
6. SELINUX, IPTABLES OFF 또는 세팅
setenforce 0
chkconfig iptables off
service iptables stop

7. SSH 공개 키 설정
- 기준이 되는 서버에서 공개키를 만들어 나머지 서버에 배포
- .ssh 디렉토리의 경우 퍼미션 설정을 700
- 공개 키의 경우 600으로 설정
/*hadoop01 */
ssh-keygen -t rsa
cd ~/.ssh/
cp id_rsa.pub authorized_keys

/*나머지 서버들*/
cd ~
mkdir .ssh
chmod 700 .ssh
vim authorized_keys  //publickey 값 붙여 넣기


[2] Hortonworks Ambari 설치

1. 저장소 설치
wget http://public-repo-1.hortonworks.com/ambari/centos6/1.x/updates/1.5.1/ambari.repo
cp ambari.repo /etc/yum.repos.d

2. ambari 설치 및 세팅
- ambari의 경우 한 서버에만 설치 하면 됩니다.
yum install ambari-server
ambari-server setup
ambari-server start
ps -ef | grep ambari

3. web console 로그인
- http://hostipaddress:8080
- admin/admin


4. 차례대로 설정



에필로그 epilogure

- 설치를 하는 도중에 트러블 슈팅 해야할 일들이 조금 생기는 경우가 있음.
- meta database를 저장하는 데이터 베이스로 mysql을 설정 할 경우, 자동으로 데몬 실행시 오류가 발생하는데
service mysqld start // 이부분에서 오류가 발생
ln -s mysql mysqld를 설정하여 위 문제를 해결함.
- 하둡 서비스를 실행시 수동으로 시작해줘야 올라오는 경우가 있으므로, 약간의 수작업이 필요함.

댓글

댓글 쓰기

이 블로그의 인기 게시물

블로그 이전 작업 및 블로깅 할 목록 정리

현재 티스토리에 올려 논것들 이전 작업도 필요 .. 두군데서 사용하려니 복잡하다만, 블로그 스팟에 해야 좀 공유가 잘[?]되지 않을까 싶으니.. 앞으로 올릴 내용들 - CDH5 설치 및 하둡 시스템 구축하기 - ELK를 이용한 로그 분석 시스템 구축하기   - 글러스터 FS 사용하기 - 각종 성능 테스트 자료 (하둡, 클라우드, 로그스테시 등등?)    - 하둡 테스트    - 왜 맵 리듀스 2업그레이드 후 성능이 느려진 것인가? (맵리듀스 1 시절에 비해..)    - 로그 스테시 사용 - 자바프레임워크 스터디 자료 정리    - 타일즈? 공부.    - 하이버 네이트 마이바티스 연동하기 - Flume 설치와 사용하기
자세한 내용 보기

[Spring Framework] Redirect +a 궁금증! ver_0.1

현재 스프링을 다뤄 본지 얼마 안되서 거의 ModelAndView를 사용한 코드가 대다수이다. 그러다가 문득 Redirect를 시켜, 객체 값을 넘기고 싶다는 생각이 들었다. 안된다는 이야기가 많이 있던데... 뭐 찾아본 결과를 적어본다. 1. Redirect 하는 방법 //ModelAndView를 이용하여 Redirect시 mv = new ModelAndView("redirect:/testRedirect.do"); return mv; //Public 블라블라 시 @RequestMapping(value="/vlavla.do") public String joinvlavla( HttpServletRequest request, HttpServletResponse response) { return "redirect:/mvctest/joinvlatest.do" } * 또는 RedirectView를 사용하면 된다. 2. 값을 넘기고 싶다!!! - session을 이용해도 되고, 파라미터로 넘기면 되지만 또다른 편한 방법이 있다고 해서 기록한다. (소스를 분석 해볼 것!!) * 스프링 3.1 버전 특징인, Flash Attribute, Redirect Attribute를 사용하면 간편하다고 한다. http://static.springsource.org/spring/docs/3.1.x/spring-framework-reference/html/mvc.html#mvc-ann-redirect-attributes http://static.springsource.org/spring/docs/3.1.x/spring-framework-reference/html/mvc.html#mvc-flash-attributes 음.. 그니깐 두 컨트롤러 사이에 뭐.. redirect 시 값을 넘겨주는? 방법 중 하나랄까? 현재 기억은 나지 않지만, 둘중 하...
자세한 내용 보기

Phoenix 라이브러리 - ERROR 2008 (INT10): Unable to find cached index metadata 발생 시

Phoenix 4.1 을 사용하고 있는데, 인덱스 테이블 오류로 인해 테이블을 drop 후 데이터를 upsert하는 도중 아래와 같이 오류가 발생 했고, 이어서 Hbase Region Server가 다운 되는 현상이 발생 했다. Region Server를 모두 재기동 후, Region Server는 모두 정상이었지만, 더이상 data upsert를 진행 할수 없었고, 로그를 확인 하던 도중 meta data 를 찾을수 없다는 로그를 발견하였다. 위의 상황과 똑같은 이슈가 올라와 있어 링크를 걸어 놓았다. https://issues.apache.org/jira/browse/PHOENIX-1005 장애가 나는 순서를 적어보면 1. 해당 테이블에 upsert data가 발생하고 있는 도중에 Drop index table이 발생하면 에러가 발생    이때  Cannot find row in hbase:meta for table  로그가 남는다. 2. meta data를 찾을수 없다는 로그와 함께 Region Server들이 shutdown 되는 현상이 발생한다. (Phoenix 쪽 failure policy 대로 region server에 shutdown 이 날아간다.) 3. Region Server 재기동 후 여전히 meta data 를 찾을수 없다면서 로그가 발생. (다시 다운되는 현상은 없지만 upsert data가 불가하다) 해결 방법  1. 버전 업 - 상위 버전에서 fix 되었다고는 하나. 안되는 것을 확인하였다. 2. Region server 재기동후 drop한 index를 생성후 region 서버 재기동  - 이경우 테스트를 통해 잘 작동하는 것을 확인하였다. * 주절주절 -  장애가 난 당시에 관련 레퍼런스들을 찾아보았으나 해결 방법이 딱히 없었다. 해결 방법이라곤 hbck를 이용하라는 것인데, 해도 복구가 되지 않았다. 해결 방법을 더...
자세한 내용 보기