Nginx proxy_read_timeout ile proxy_connect_timeout karşılaştırması

Nginx'i bir tür hizmet sağlayan sunucular kümesi için ters proxy olarak kullanmaya başladım.

Hizmet zaman zaman oldukça yavaş olabilir (Java ve JVM üzerinde bazen birkaç saniye sürebilen "tam çöp toplama" sıkışmış olur), bu yüzden proxy_connect_timeoutNginx anlamaya yeterli zaman verecek 2 saniye için ayarladım hizmetin GC'ye yapıştığını ve zamanında yanıt vermeyeceğini ve isteği farklı bir sunucuya iletmesi gerektiğini unutmayın.

Ayrıca proxy_read_timeout, hizmetin kendisi yanıtı hesaplamak için çok fazla zaman alırsa ters proxy'nin takılmasını önlemek için ayarladım - yine, zamanında yanıt vermek için yeterince ücretsiz olması gereken başka bir sunucuya isteği taşımalıdır.

Bazı ölçütleri çalıştırdım ve proxy_connect_timeoutbazı istekler tam olarak bağlantı zaman aşımı için belirtilen sürede döndüğü için düzgün çalıştığını görebiliyorum , hizmet sıkışmış ve gelen bağlantıları kabul etmiyor (hizmet yerleşik olarak Jetty kullanıyor sunucu kabı). proxy_read_timeoutBen zaman aşımı sonra geri dönüşü belirtilen istekleri görebileceğiniz gibi de çalışır.

Sorun, proxy_read_timeout + proxy_connect_timeouthizmet sıkışmışsa ve Nginx erişmeye çalıştığında bağlantıları kabul etmezse, ancak zaman aşımına uğrayan bazı istekleri görmeyi beklememdir , ancak Nginx zaman aşımına uğramadan önce - serbest bırakılır ve işlemeye başlar, ancak çok yavaştır ve Nginx okuma zaman aşımı nedeniyle iptal edilir. Hizmetin bu gibi durumlara sahip olduğuna inanıyorum, ancak birkaç kriter çalıştırdıktan sonra, birkaç milyon istek toplamı - yukarıdaki herhangi bir şeyde proxy_read_timeout(daha büyük zaman aşımı olan) dönen tek bir istek göremedim .

Bağlantıdan sonra zaman aşımı sayacı sıfırlanmıyorsa (Ben henüz kod bakmak zorunda, bu yüzden bu sadece bir varsayım) Nginx bir hata nedeniyle olabileceğini düşünüyorum rağmen ben bu konuda herhangi bir yorum takdir ediyorum Nginx akış yukarı sunucudan hiçbir şey okumadıysa başarılı olur.

Aslında bunu çoğaltamadım:

2011/08/20 20:08:43 [notice] 8925#0: nginx/0.8.53
2011/08/20 20:08:43 [notice] 8925#0: built by gcc 4.1.2 20080704 (Red Hat 4.1.2-48)
2011/08/20 20:08:43 [notice] 8925#0: OS: Linux 2.6.39.1-x86_64-linode19

Bunu nginx.conf dosyasında kurdum:

proxy_connect_timeout   10;
proxy_send_timeout      15;
proxy_read_timeout      20;

Daha sonra iki test sunucusu kurdum. Biri yalnızca SYN'de zaman aşımı olacak ve bağlantıları kabul edecek, ancak asla yanıt vermeyecek:

upstream dev_edge {
  server 127.0.0.1:2280 max_fails=0 fail_timeout=0s; # SYN timeout
  server 10.4.1.1:22 max_fails=0 fail_timeout=0s; # accept but never responds
}

Sonra bir test bağlantısı gönderdim:

[m4@ben conf]$ telnet localhost 2480
Trying 127.0.0.1...
Connected to localhost.
Escape character is '^]'.
GET / HTTP/1.1
Host: localhost

HTTP/1.1 504 Gateway Time-out
Server: nginx
Date: Sun, 21 Aug 2011 03:12:03 GMT
Content-Type: text/html
Content-Length: 176
Connection: keep-alive

Sonra bunu gösteren error_log izledi:

2011/08/20 20:11:43 [error] 8927#0: *1 upstream timed out (110: Connection timed out) while connecting to upstream, client: 127.0.0.1, server: ben.dev.b0.lt, request: "GET / HTTP/1.1", upstream: "http://10.4.1.1:22/", host: "localhost"

sonra:

2011/08/20 20:12:03 [error] 8927#0: *1 upstream timed out (110: Connection timed out) while reading response header from upstream, client: 127.0.0.1, server: ben.dev.b0.lt, request: "GET / HTTP/1.1", upstream: "http://127.0.0.1:2280/", host: "localhost"

Ve sonra beklenen 30s zaman aşımına sahip erişim.log (10 + 20):

504:32.931:10.003, 20.008:.:176 1 127.0.0.1 localrhost - [20/Aug/2011:20:12:03 -0700] "GET / HTTP/1.1" "-" "-" "-" dev_edge 10.4.1.1:22, 127.0.0.1:2280 -

Tek tek yukarı akış zaman aşımlarını içeren kullandığım günlük biçimi:

log_format  edge  '$status:$request_time:$upstream_response_time:$pipe:$body_bytes_sent $connection $remote_addr $host $remote_user [$time_local] "$request" "$http_referer" "$http_user_agent" "$http_x_forwarded_for" $edge $upstream_addr $upstream_cache_status';

Sorun, hizmet sıkışmışsa ve Nginx erişmeye çalıştığında bağlantıları kabul etmezse, proxy_read_timeout + proxy_connect_timeout'tan sonra zaman aşımına uğrayan bazı istekleri görmeyi beklememdir, ancak Nginx zaman aşımına uğramadan önce bağlantıları kabul etmez. yayınlanır ve işlemeye başlar, ancak çok yavaştır ve Nginx okuma zaman aşımı nedeniyle iptal edilir.

Bağlantı zaman aşımı, el sıkışma sırasında TCP durakları anlamına gelir (örneğin, SYN_ACK'ler yoktu). TCP, SYN'leri göndermeyi tekrar dener, ancak yalnızca 2 saniyeyi vermişsinizdir. Başka bir Sunucu kullanmak için Nginx'e gidin, bu nedenle SYN'leri yeniden göndermek için zamanı yoktur.

UPD. : Dokümanlarda bulunamadı, ancak tcpdump 3 saniye olduğunu gösteriyor . 1. gönderilen SYN ile 2. SYN gönderme denemesi arasındaki gecikme.