nginxリバースプロキシのスループットが定期的に低下しますが、それは何ですか？

Question

nginxとpostgrestがdockerコンテナで実行されているt2.microボックスの負荷テストを行っています。 Nginxはpostgrestの前でプロキシとして機能します。私は素敵なグラフを取得し、上流（postgrest）に直接行く場合、私はnginxの通過する場合 （約900/RPSのピークが）、私はグラフのこの種を取得

は

CPUではありません最大値（約50％のみ）

これは使用されるnginx設定です。コメントされたものは何も影響を与えずに試されました。私はworker_connectionsと関連するものの値で遊んでいました。 この定期的なドロップは何によってトリガーされますか？

 
    worker_processes 2; 

    #worker_rlimit_nofile    2048; 
    events { 
     # multi_accept     on; 
     worker_connections    1024; 
     use        epoll; 
    } 
    http { 
     resolver 127.0.0.11 ipv6=off; 
     include mime.types; 
     #tcp_nodelay      off; 
     #tcp_nopush      on; 
     upstream postgrest { 
      server postgrest:3000; 
      keepalive 64; 
     } 
     server { 
      listen  80; 
      server_name localhost; 
      charset utf-8; 

      location /rest/ { 
       default_type application/json; 
       #proxy_buffering off; 
       proxy_pass http://postgrest/; # Reverse proxy to your PostgREST 
      } 
     } 
    } 

Answer 1

原因は（デフォルトの）カーネルTCP設定です。 システムは、すべてのローカルポートを使用していたnginxのプロキシを経由し、その後すべてが チューニングこれらの設定は、問題を取り除い古いTCP接続が完全に閉じることができるようになるまで（彼らは60年代のためTIME_WAITにあった）（ドロップ）を停止

#tcp settings 
net.core.somaxconn 
net.ipv4.tcp_fin_timeout 
net.ipv4.tcp_tw_reuse 
net.ipv4.ip_local_port_range 

#nginx configs 
proxy_set_header Connection ""; 
proxy_http_version 1.1; 

以下の記事では、正確に何が起こっていたか、チューニングするパラメータについてさらに詳しく説明します。

https://engineering.gosquared.com/optimising-nginx-node-js-and-networking-for-heavy-workloads