반응형
보통 impala(임팔라)에서 임시 테이블을 생성 후 해당 테이블의 데이터를 기존 Imala의 데이터와 Join(조인)해서 사용해야 할 경우 다음과 같이 테이블을 생성 후 해당 경로에 데이터를 밀어넣어 준다.
create table DBNAME.TABLENAME (uid STRING) row format delimited fields terminated by ' ' LOCATION "hdfs:///user/hive/warehouse/특정원하는디렉토리명칭/“;
문제는 해당 명령어로 TABLE을 만들고 Imapa shell상에서 drop table [테이블명] 을 하였을 때 LOCATION으로 지정된 HDFS 파일은 남아 있게 되고 hadoop 명령어로 따로 지우려고 하면 보통 Hadoop 명령어 실행 권한과 해당 경로에 파일을 쓴 권한 [Impala] 가 달라서 Permission denied되며 삭제 되지 않는다.
따라서 해당 테이블을 Impala 테이블에서 Drop시키면서 연결괸 HDFS File도 함께 삭제 하고 싶다면 'PURGE' 옵션을 함께 주자.
drop table [tablename] PURGE
이렇게 하면 한 방에 해결할 수 있다.
반응형
'Bigdata > QueryEngine' 카테고리의 다른 글
Impala에서 빠르게 대략적인 모수를 추정하고 싶은 경우(ndv function) (0) | 2020.08.07 |
---|---|
[ Hive ] hive query lateral view explode udf로 string 처리하기 (0) | 2020.07.07 |
hive, impala에서 특정 데이터포맷으로 날짜 가져오기 (0) | 2019.04.12 |
Hive external table drop시키기 (하둡 데이터도 삭제) (0) | 2019.03.26 |
hive, impala hive metastore 동기화 작업 (하이브, 임팔라) (0) | 2019.03.25 |