Hbase Region Merge




Hbase Region Server 설정 파일 쪽을 보면
 - hbase.hregion.max filesize 라는 설정이 있는데 CDH에서 설명을 보면
(HStoreFile 의 최대 크기로, 열 패밀리 HstoreFile 중 하나라도 이 값을 초과하면 HRegion이 두개로 분할 됩니다.) 라고 나와있다. 즉 테이블 사이즈가 저 사이즈를 초과하면 Region이 분할 되어 저장 되는 것 같다.

Region의 수가 지속적으로 증가하는 터라 (이전 데이터는 지워 졌음에도 Region 카운트 수가 줄어 들지가 않는다.) 이걸 Merge해줘야 할 것 같아 간단하게 메모를 남긴다.


먼저 RegionServer에 접속 후,
> hbase shell
> merge_regions 'REGION ENCODENAME', 'REGION ENCODENAME'

여기서 REGION ENCODENAME은 hbase region server WEB UI에 가면 확인 가능하다.
WEB UI 에서 TABLE을 클릭하면 리젼들 분할된 정보를 볼 수 있고,
Table Regions의 Name부분 <테이블명,StartKey,??,ENCODENAME> ENCODENAME을 확인하여 명령어를 실행한다.
* END Key -> StartKey 순서대로 머지 하도록 한다. 중간 것을 건너 뛰고 머지 할시 에러가 발생

댓글

댓글 쓰기

이 블로그의 인기 게시물

블로그 이전 작업 및 블로깅 할 목록 정리

현재 티스토리에 올려 논것들 이전 작업도 필요 .. 두군데서 사용하려니 복잡하다만, 블로그 스팟에 해야 좀 공유가 잘[?]되지 않을까 싶으니.. 앞으로 올릴 내용들 - CDH5 설치 및 하둡 시스템 구축하기 - ELK를 이용한 로그 분석 시스템 구축하기   - 글러스터 FS 사용하기 - 각종 성능 테스트 자료 (하둡, 클라우드, 로그스테시 등등?)    - 하둡 테스트    - 왜 맵 리듀스 2업그레이드 후 성능이 느려진 것인가? (맵리듀스 1 시절에 비해..)    - 로그 스테시 사용 - 자바프레임워크 스터디 자료 정리    - 타일즈? 공부.    - 하이버 네이트 마이바티스 연동하기 - Flume 설치와 사용하기
자세한 내용 보기

[Spring Framework] Redirect +a 궁금증! ver_0.1

현재 스프링을 다뤄 본지 얼마 안되서 거의 ModelAndView를 사용한 코드가 대다수이다. 그러다가 문득 Redirect를 시켜, 객체 값을 넘기고 싶다는 생각이 들었다. 안된다는 이야기가 많이 있던데... 뭐 찾아본 결과를 적어본다. 1. Redirect 하는 방법 //ModelAndView를 이용하여 Redirect시 mv = new ModelAndView("redirect:/testRedirect.do"); return mv; //Public 블라블라 시 @RequestMapping(value="/vlavla.do") public String joinvlavla( HttpServletRequest request, HttpServletResponse response) { return "redirect:/mvctest/joinvlatest.do" } * 또는 RedirectView를 사용하면 된다. 2. 값을 넘기고 싶다!!! - session을 이용해도 되고, 파라미터로 넘기면 되지만 또다른 편한 방법이 있다고 해서 기록한다. (소스를 분석 해볼 것!!) * 스프링 3.1 버전 특징인, Flash Attribute, Redirect Attribute를 사용하면 간편하다고 한다. http://static.springsource.org/spring/docs/3.1.x/spring-framework-reference/html/mvc.html#mvc-ann-redirect-attributes http://static.springsource.org/spring/docs/3.1.x/spring-framework-reference/html/mvc.html#mvc-flash-attributes 음.. 그니깐 두 컨트롤러 사이에 뭐.. redirect 시 값을 넘겨주는? 방법 중 하나랄까? 현재 기억은 나지 않지만, 둘중 하
자세한 내용 보기

Phoenix 라이브러리 - ERROR 2008 (INT10): Unable to find cached index metadata 발생 시

Phoenix 4.1 을 사용하고 있는데, 인덱스 테이블 오류로 인해 테이블을 drop 후 데이터를 upsert하는 도중 아래와 같이 오류가 발생 했고, 이어서 Hbase Region Server가 다운 되는 현상이 발생 했다. Region Server를 모두 재기동 후, Region Server는 모두 정상이었지만, 더이상 data upsert를 진행 할수 없었고, 로그를 확인 하던 도중 meta data 를 찾을수 없다는 로그를 발견하였다. 위의 상황과 똑같은 이슈가 올라와 있어 링크를 걸어 놓았다. https://issues.apache.org/jira/browse/PHOENIX-1005 장애가 나는 순서를 적어보면 1. 해당 테이블에 upsert data가 발생하고 있는 도중에 Drop index table이 발생하면 에러가 발생    이때  Cannot find row in hbase:meta for table  로그가 남는다. 2. meta data를 찾을수 없다는 로그와 함께 Region Server들이 shutdown 되는 현상이 발생한다. (Phoenix 쪽 failure policy 대로 region server에 shutdown 이 날아간다.) 3. Region Server 재기동 후 여전히 meta data 를 찾을수 없다면서 로그가 발생. (다시 다운되는 현상은 없지만 upsert data가 불가하다) 해결 방법  1. 버전 업 - 상위 버전에서 fix 되었다고는 하나. 안되는 것을 확인하였다. 2. Region server 재기동후 drop한 index를 생성후 region 서버 재기동  - 이경우 테스트를 통해 잘 작동하는 것을 확인하였다. * 주절주절 -  장애가 난 당시에 관련 레퍼런스들을 찾아보았으나 해결 방법이 딱히 없었다. 해결 방법이라곤 hbck를 이용하라는 것인데, 해도 복구가 되지 않았다. 해결 방법을 더 찾다 보면 새로 설치 하라는 말들이 많았는데, 결국 zook
자세한 내용 보기