スレッドプールのスケーラビリティとブースト::アシストのTCPサーバー

Question

HTTPリクエストのプリ/ポスト処理のためのTCPベースのデーモンを構築しています。クライアントはApache HTTPD（またはIIS）に接続し、カスタムApache/IISモジュールはさらに処理するためにTCPデーモンに要求を転送します。私のデーモンは大量のトラフィックを処理するためにスケールアップする必要がありますが、大部分のリクエストは小さく短命です。デーモンはC++で構築され、クロスプラットフォームでなければなりません。

私は現在、ブーストasioライブラリを見ていますが、それは自然なフィット感のようです。しかし、スタックレスコルーチンとスレッドプールパターンのメリットを理解するのが難しいです。具体的には、私はここでHTTPサーバの例＃3とHTTPサーバの例＃4を見ています：http://www.boost.org/doc/libs/1_49_0/doc/html/boost_asio/examples.html

私のグーグルにもかかわらず、私は完全にスタックレスコルーチンサーバのメリットを理解することはできませんマルチコアシステム上のスレッドプールサーバーに関連して実行します。

どちらが私の要件を考慮すると最も適切なのでしょうか？なぜですか？スタックレスコルーチンのアイデアに関するあなたの答えを「愚かにしてください」と自由に感じてください、私はまだここで不安定な地面にいます。ありがとう！

編集：議論のための別のランダムな思考/懸念： ブーストHTTPサーバの例＃4が「スタックレスコルーチンを使用して実装シングルスレッドHTTPサーバ」として記載されています。 OK、それは完全にシングルスレッドです（そうです、親プロセスが子プロセスをフォークした後でも、例＃4のserver.cppを参照してください）...シングルスレッドはマルチコアシステム上でボトルネックになりますか？どのブロッキング操作でも、他のすべての要求が実行されないようにしています。これが実際の場合、スループットを最大限にするために、私はコルーチンベースの受信データ非同期イベント、内部のブロックタスク（マルチコアを活用するためのスレッドプール）を考えています。そして、非同期で接続を閉じるメカニズム&を送信します。ここでも、スケーラビリティは非常に重要です。何かご意見は？あなたが原因参照、CPUの命令キャッシュ、スケジュール遅延の局所性の相対的な影響を予測することの難しさに、実際に何が起こるかを特定することの効果を測定する必要が

Answer 1

私は最近、マルチコアマシンでboost.asioのスケーラビリティを検討しました。

• http://cmeerw.org/blog/748.html#748
• http://cmeerw.org/blog/751.html#751

：主な結論は、これまでのところ、それは、オーバーヘッドロック競合と（少なくともLinuxの場合）、追加のコンテキストスイッチを導入し、これらのトピックに私のブログの記事のいくつかを見るということです

私はまた、あなたの主な懸念は、パフォーマンスとスケーラビリティのある場合、私はAFRAだhttp://comments.gmane.org/gmane.comp.lib.boost.asio.user/5133

を参照してください、私は明らかに何かを見逃していないことを確認するためのASIOメーリングリストのスレッドを開始しましたidでは、明確な答えがないことを確認してください。プロトタイプを作成してパフォーマンスを確認する必要があります。

ブロッキング操作がある場合は、複数のスレッドを使用することをお勧めします。一方、コンテキスト切り替えとロック競合は、複数のスレッドでパフォーマンスを低下させる可能性があります（少なくとも注意する必要があります）。

編集：ちょうどスタックレスをclariflyするものをコルーチン：それは、非同期APIは、シーケンシャル/ブロック呼び出しのように少し見えるように、本質的にちょうどいくつかの構文糖です。

Answer 2

は、

あなたはヒューリスティックな推測をしたいなどの場合スタックサイズがSのnスレッドを使用すると、各スレッドが実際に使用するスタック領域の多くは、常にnSバイトになります。それがページ境界を越えてしまうと、パフォーマンスが大幅に低下する可能性があります。