アプリケーションのパフォーマンスの問題と待ち時間

アプリケーションのパフォーマンス問題を解決しようとするとき、通信レイヤのレイテンシの影響は一般的に過小評価されていますが、実用的な解決策に向けて努力するためには、正しい理解が不可欠です。

まず、通信層の遅延とは、パケットがローカルシステムからリモートシステムに到達し、再び戻ってくるまでにかかる時間のことです。通信層の遅延の最大の要因は距離です。もう一つの主要な要素は、パケットを処理するローカルホストとリモートホストの間にあるデバイスの数です。リンクの帯域幅は役割を果たしますが、ほとんどの人が考えるほど大きくはありません。帯域幅は挿入遅延に影響を与えます - パケットをワイヤ上に置くのにかかる時間ですが、ワイヤ上の信号は帯域幅ではなく、媒体に基づいた速度で移動します。この議論の残りの部分では、通信層のレイテンシを意味するときはレイテンシを使用します。

待ち時間がアプリケーションにどのように影響するかを説明するために、クライアントアプリケーションにデータを入力してリターンボタンを押したとします。クライアントアプリケーションはサーバアプリケーションにメッセージを送信し、応答を待ってから別のメッセージを送信し、応答を待つなど、いくつかの数N回の「ターン」の間、メッセージを送信します。Nターンの終わりに、クライアントアプリケーションは結果をあなたに返します。

10ターンが必要で、クライアントメッセージを処理してアンサーを送り返すのにサーバアプリケーションが1msかかるとします。待ち時間が1msの場合、応答時間は10 * (1ms + 1ms)または20msとなります。今すぐ飛行機に乗ってシカゴに旅行し、サーバーはボストンに滞在するので、あなたは今、50msと10 * (50ms + 1ms)または550msの応答時間のレイテンシを持っています。これは目立ちますが、苦痛ではありません。ターン数を100に増やすと、5.5秒の応答時間が発生します。100ターンは過剰だと思うかもしれませんが、複雑なデータベースクエリや複雑なフォームを入力するアプリケーションの中には、まさにそのような処理を行うものがあります。アプリケーションに必要なターン数を知っていますか？
OSL経由でファイルをコピーすると、このような挙動を示します。OSL は 4K トランザクションでファイルを送信します。各トランザクションはレスポンスを必要とするので、1,000,000 バイトのファイルは 1,000,000 / 4,096 = 245 トランザクション、または前の段落で述べた命名法を使用するためのターンが必要になります。ここでも、トランザクションを処理するのに1ms、待ち時間が1msと仮定すると、copy_fileは490msかかります。レイテンシを50msに増やすと、12.495秒かかります。ファイルを1,000,000,000,000バイトに増やすと、244,141トランザクションが必要になります。これに対応する時間は、1msの待ち時間が488.282秒、50msの待ち時間が12,451.191秒、約3.5時間です。

遅延を測定する最も簡単な方法はpingです。

packet_monitor を使わなくても、私が書いたプログラムを使って接続の時間を計測することもできます。http://members.cox.net/ndav1/self_published/stcp_tping.doc を参照してください。stcp_tping コマンドは、リモートホストのアクティブなポートに接続する必要があります。この場合、私はポート 23 (telnet) を使用していますが、どのアクティブなポートでも動作します。コマンドの最後にある1という数字は、リクエストが1秒に1回送信されることを示しています。