私の理解によると、HDFSに格納されたファイルはブロックに分割され、各ブロックは複数のノードに複製されます。 Hadoopフレームワークは、特定のブロックが複製されるすべてのノードのうち、マップジョブを実行するノードをどのように選択しますか。Hadoopフレームワークがマップジョブを実行するノードを決定する方法
0
A
答えて
0
私が知っているように、ブロック量と同じ量のmap
タスクがあります。
マニュアルhereを参照してください。
通常、フレームワークはmap
タスクのネットワーク帯域幅を減らすために、入力ブロックに近いノードを選択します。
それはすべて私が知っている。
0
Mapreduce 1では、マップタスクの数がMR1で固定されているため、マップノード1ではレプリカをホストするデータノードで実行されているマップタスクの数によって異なります。 MR2には固定スロットがないため、そのノードですでに実行中のタスクの数によって異なります。
関連する問題
- 1. 複数のマップジョブを実行するHadoop -
- 2. ノウハウを知る方法。マップジョブで実行されているノードの数
- 3. hadoopのノード数を設定する方法は?
- 4. Hadoopのjava.net.SocketExceptionが:ネットワーク名前ノードのノードに4ノードのHadoopクラスタでこのコマンドを実行
- 5. Ruby実行環境を決定する方法
- 6. デスクトップアプリケーションプロジェクトのGUIフレームワークを決定する方法
- 7. 実行中にorg.quartz.JobDetailを停止する時間を決定する方法は?
- 8. 実行時にOSを決定する
- 9. 実行中のHadoopクラスタにノードを追加する方法はありますか?
- 10. ファイルを開く/実行する方法をウィンドウで決定させますか?
- 11. iPhone 5 + iOS6がレターボックスモードでアプリケーションを実行する必要があるかどうかを決定する方法
- 12. 実行前の実行時にワークフロー引数を決定する
- 13. Hadoopの - 特定のノード
- 14. アセンブリがSystem.Data.SQLiteを解決するNHibernateで実行するようにSQLiteを設定する方法?
- 15. IoCフレームワーク実装をデカップリングする方法
- 16. HadoopでMap/Reduceタスクを実行するCPU時間を調べる方法
- 17. JPAクエリを再生フレームワークで実行する方法
- 18. シェフ - ノード上で料理本を実行する方法
- 19. ドッキングステーションでノードの実行を停止する方法
- 20. 実行時決定型のインスタンスを作成する最良の方法
- 21. Maven:どのアセンブリプラグイン実行が実行されるかを指定する方法
- 22. 決して実行しないコードを処理する方法
- 23. ado.netで同時実行の競合を解決する方法
- 24. どのノードがN hadoopノードのうちCloudera Managerを実行していますか?
- 25. テンソルフローグラフで各ノードを実行する時間を取得する方法
- 26. 仮想マシンで実行するタイミングを決定する
- 27. Hadoop:すべてのノードに均等にタスクを配布する方法
- 28. 構造体の行数を決定する方法
- 29. AND関数の行を決定する方法Excel
- 30. ノードjsのIPアドレスにホスト名を解決する方法