スレッド数が50％のIO競合が発生しているプログラムの実行時間が増加すると、コア数が増加しますか？

Question

IOで50％を費やすプログラムにコアを追加することで何かを得ることはできますか？私は完全にIOバウンドとCPUバウンドの簡単なケースを得ますが、各スレッドがIOを待っている時間の一部を費やすシナリオでは完全にはわかりません。

私の直感は、コアを追加することによって、各スレッドがIOの競合を増やすということです。だから今、各スレッドは、IOを待っている時間の60％を費やしているかもしれません。その結果、純中性または正味ネガティブネガティブです。

EDIT
Threads: Fast IO - Slow CPU
Threads: Balanced IO and CPU

これらは私がスレッド/コアを追加すると、IO待ち時間にどのように影響するかを理解しようとしています簡単な状況のいくつかの例の図です。

私が見ることは、タスクIO時間とタスクCPUの比率が、追加のスレッドの有用性を決定することです。たとえば、IO = 10ms、CPU = 40msの場合、合計タスク時間は50msです。 50ms/10ms = 5であるため、この状況は5つのスレッドの恩恵を受ける可能性がありますが、パフォーマンスが向上しない可能性があります。

これは間違いありませんか？

Answer 1

です。あなたは "I/O競合"をどのように定義しますか？現在のスレッドがすべて共有I/Oデバイス/メディアを使用しようとしていて、それを使用するために「並行して待機」しなければならないということを意味する場合：はい、それにはを追加することが望ましいでしょう。スレッドを同じキューに入れると、待機時間の割合が増えます。

このように見てください。共有I/Oが非常に予測可能な場合はどうでしょうか。共有メディアでI/O要求を行うたびに、10ミリ秒かかると言います。次に、すべてのスレッドで最大100のI/O要求を毎秒行います。もしあなたが10個のスレッドを持っていれば、各スレッドは平均して10個/秒の要求を出します。 CPUをそれに合わせてスケーリングすると、そのCPU使用量が要求を中心にしていると仮定しましょう。つまり、I/O要求ごとに格納される計算を実行するのに50msかかると仮定します。あなたは現在、 "I/O競合"にあなたの時間の50％を費やしています。 1秒ごとに[要求を準備する（50ms）+ I/O（50ms）を行う]の10サイクルが得られます。

ここで、10個のスレッドを20個に増やすと、同じ制限付き100個の要求/秒リソースを使用しようとするスレッドの数が2倍になります。現在、各スレッドは平均して1秒あたり5回のリクエストしか作成できません。これは、要求を準備するCPU時間で1秒あたり250ms（5 x 50ms）を費やしており、I/Oキューで750ms待機していることを意味します。だから、スレッド数を2倍にすることで、スレッドごとの時間の75％を共有リソースの競合に費やしています。

スレッドを追加すると、I/Oの競合が増え続けます。常にスレッドが進行しているため、平均で100％になることはありませんが、近づけることができます。スレッド数が100の場合、1秒ごとに1回のリクエストしか完了しません（したがって、50ms CPU +待機時間950ミリ秒=競合率95％）。 1000スレッド/コアの場合は、毎秒10分の1の要求で完了します（99.5％の競合、各スレッドは50msで動作し、I/O時には9.95秒待機します）。