ヘッドノードがマスターであり、他の7つのノードがスレーブとして構成されているHadoopクラスタを持っています。スレーブはそれぞれ8コアと8 GBのメモリを備えています。私は、 "mapred.tasktracker.map.tasks.maximum"パラメータとスレーブ設定ファイルのスレーブ数を変えて遊んでいます。私のプログラムが40個のタスクを実行しなければならない場合、いくつかのログファイルやどこかの個々のスレーブノードで実行されたタスクの数を確認できますか?基本的に、私は異なるノード間でマップタスクの配布を探しています。hadoopでは、各スレーブノードで個別に実行されているマップタスクの数を確認する方法は?
0
A
答えて
1
これを行う最も簡単な方法は、Hadoopシステムに付属のWebインターフェイスからのものです。
あなたのウェブブラウザ、内タイプの例:50030:jobtrack-マシンのホスト名はlocalhost:50030
そして、あなたはあなたが欲しいものを得るでしょう。
1
Gangliaをインストールして、jobtrackerから統計を監視できます。私は自分のクラスターでこれをやったので、インストールはとても簡単でした。また、各ノードの負荷、スワップ、ディスク、メモリ使用量などを監視することもできます。 http://wiki.apache.org/hadoop/GangliaMetrics
落とし穴ALERT:
はこちらの手順を参照してくださいあなたは神経節をインストールしている場合は、おそらくあなたの代わりに、彼らはそのページに持っているもののorg.apache.hadoop.metrics.ganglia.GangliaContext31
を使用していることを確認したバージョン3.1を取得するつもりです。
関連する問題
- 1. スレーブノードはHadoop Map/Reduce Jobを実行できますか?
- 2. Hadoopの特定のIPアドレスにマップタスクをスポーンする方法は?
- 3. hadoopクラスタ:マップタスクは1台のマシンでのみ実行され、すべてではありません
- 4. Hadoopのは - XMLでマップタスクを大きくすると、マップタスクを増加させていない
- 5. 数独Pythonで各行/列/領域を確認する方法
- 6. Intellijで実行されるコマンドを確認する方法
- 7. データベース内で実行されているクエリを確認する方法
- 8. イニシャライザでRailsが実行されているポートを確認する方法
- 9. のhadoopで、マップタスクからデータを取り出す方法を減らすには
- 10. SQL Serverで各個別行の数を取得する
- 11. Rubyで実行中のプロセスを確認する方法は?
- 12. VMがサーバーモードまたはクライアントモードで実行されているかどうかを確認する方法は?
- 13. Tomcatで実行されているGrailsアプリケーションでSSLを確認する方法は?
- 14. mavenの統合テストターゲットで個別テストを実行する方法
- 15. Hadoop Streamingで実行されているマッパーの数を制限する
- 16. Hadoopのは、私は私のローカルマシン上で、私のスレーブノード上のHadoopをインストールしているスレーブ
- 17. サービスが32または64ビットモードで実行されているかどうかを確認する方法
- 18. GWTアプリがフレーム/ iframe内で実行されているかどうかを確認する方法は?
- 19. opcodeキャッシュがサーバー上で実行されているかどうかを確認する方法は?
- 20. Androidで実行されているアプリを確認するにはどうすればよいですか?
- 21. 各バッチスクリプトの実行後に変数をクリアする方法は?
- 22. hadoop dfsでクラスタのフルパスを確認する方法
- 23. フルスクリーンアプリケーションが実行されているかどうかを確認するには?
- 24. スクリーンセーバーが実行されているかどうかを確認するには?
- 25. すべてのマップタスク用のHadoopキャッシュファイル
- 26. hadoopマスターノードのスレーブノードのデータノード
- 27. BETWEENが各クエリを個別に実行するよりも大幅に遅いのはなぜですか?
- 28. 別のクラスの変数が更新されていることを確認する方法は?
- 29. スクリプトがdofile()でインクルードされているかどうか、またはLuaで直接実行されているかどうかを確認する方法は?
- 30. xUnit Theoryを個別に実行しているときに、テストクラスのコンストラクタは実行されませんか?