2016-10-18 3 views
0

私はubuntuでspark 1.1.0を使用しています。糸クラスターでapache spark 1.1.0を実行できますか?

./bin/spark-submit --class path.to.your.Class --master糸クラスタ[オプション] [アプリケーションオプション]

コマンドの下に使用して糸で火花送信中

エラーが発生します

YARNクラスを読み込めませんでした。このSparkのコピーは、YARNサポートでコンパイルされていない可能性があります。 使用方法のヘルプのために--helpと実行またはデバッグ出力

私が見つけた解決策は、最近のバージョンにプロジェクトを移行するために多くの労力がかかりますyarn.Itしてプリコンパイルされたスパークの別のバージョンを実行しているため--verbose。 同じspark-1.1.0バージョンの糸クラスターで私のjarファイルを実行できますか?はいの場合、どのように?

+0

これを確認してください。http://stackoverflow.com/questions/29585307/spark-submit-issue –

答えて

0

sparkアプリケーションを正常に実行するには、糸クラスターとubuntuの両方で同じバージョンのsparkを用意する必要があります。

開発と展開中に異なるバージョンを使用すると問題が発生します。

関連する問題