スケーラブルなJava Webアプリケーションでの接続プール

Question

スケーラブルなJavaアプリケーションで接続プールの問題を解決する方法が不思議です。

私はHikariCPとJava Webアプリケーションを設定（最大プールサイズは20）とPosgtreSQL最大許可された接続100

とそして今、私は私のWebアプリ（どんなに）のスケーラビリティのアプローチを実装する必要があり想像オートスケーリングでも終了します。だから、最終的にどれくらいのWebアプリケーションの複製があるか分からず、（クラスタワークロードなどの理由で）動的に変更される可能性があります。

しかし、問題があります。 5つ以上のWebアプリケーションレプリカを作成すると、合計接続数が最大許容接続数を超えます。

この問題を解決するベストプラクティスはありますか（許容最大接続数が増えているかプールサイズが減っていることは明白です）。

ありがとうございます。

Answer 1

ウェブアプリケーションでオーケストレーターが必要です。それはスケーリング・イン・アウトを担当し、100の制限を超えないように接続を管理します。トラフィックに応じて接続をオープン・クローズします。

しかし、私の推奨では、スケーラビリティとパフォーマンスに適したソリューションであるno-SQLデータベースへの移行を考慮する必要があります。

Answer 2

あなたのDBとの接続が100に制限されている限り、あなたが何をしていても、それは縮尺通りではありません。

これは、2つの既知のトリックを適用することで、パフォーマンスを最適化して「絞り出す」ことができます。

1. キャッシュ：それはトレードオフを理解するために（一貫対可用性、スループット対レイテンシーおよびなど）が重要ですあなたが特定のselectクエリを予想することができます場合は、からも、多分（オフラインで計算することができますレプリカ？）、結果をキャッシュします。トレードオフ：ユーザーが最新でない結果

2. は、バッファリング/を絞るれる可能性があります：すべての更新/挿入がキューに移動し、キューからプルする許可されている唯一のいくつかの労働者がありますDBを更新してください。トレードオフ：可用性は増しますが、更新はすぐには表示されないため、最終的には一貫性があります。

3. selectも非同期で実行する必要があります。つまり、ユーザーがクエリを送信し、準備ができたらクライアントに戻されます（クライアントは数秒ごとに "ポーリング"を保持できます）。これはコールバックでも実装できます。アップデートを（書き込み）からは、あなたが「読み取り専用」であり、これが読み取りクエリのためのウェブサーバで使用できるレプリカを作成することによって、より高いパフォーマンスを得ることができるようになります読み込み分離することにより

。