2017-03-02 4 views
0

の作成に失敗しましたが、私はメモリ構成が、何には、いくつかのウェブサイトを踏襲ハイブ実行エンジン - スパーク - 私はHIVEのselectクエリを発行すると、スパーククライアント

FAILED: SemanticException Failed to get a spark session: org.apache.hadoop.hive.ql.metadata.HiveException: Failed to create spark client. 

次のエラーは本当に助けを取得しています。私の環境での設定は以下の通りです。誰かが助けてくれますか?

yarn-site.xml 
     yarn.nodemanager.resource.memory-mb - 4096 
     yarn.nodemanager.resource.cpu-vcores - 2 
     yarn.scheduler.minimum-allocation-mb - 128 
     yarn.scheduler.maximum-allocation-mb - 1024 

mapred-site.xml 
     mapreduce.framework.name  - yarn 
     mapreduce.map.memory.mb   - 4096 
     mapreduce.reduce.memory.mb  - 8192 
     mapreduce.map.java.opts   - -Xmx3072m 
     mapreduce.reduce.java.opts  - -Xmx6144m 

hive-site.xml 

     hive.execution.engine   - spark 
     spark.home      - /.../.../binary/spark-1.6.1-bin-hadoop2.6 
     spark.master     - yarn-client 
     spark.eventLog.enabled   - true 
     spark.eventLog.dir    - /.../.../binary/spark-1.6.1-bin-hadoop2.6/logs 
     spark.executor.memory   - 512m 
     spark.executor.cores   - 2 

spark-env.sh 
     export SPARK_WORKER_CORES=4 
     export SPARK_WORKER_MEMORY=16384M 
     export SPARK_EXECUTOR_CORES=1 
     export SPARK_EXECUTOR_MEMORY=8192M 
+0

追加するだけです。私たちは64GBのLinuxマシンを持っています。助けてください –

答えて

0

あなたはハイブ-eでハイブCLIを使用することができ、私は変更に問題HDFS上の/ユーザーディレクトリのパーミッションを解決するためのコンソールで

hive --hiveconf hive.root.logger=DEBUG,console -e "select count(1) from tableA;"

をログを見ます。

+0

ねえ、あなたが持っているアクセス権とHDFS上の特定のフォルダ。 it/user/hiveですか? – Nandakishore

関連する問題