Nginx上游服务器长连接配置

76次阅读

共计 3000 个字符，预计需要花费 8 分钟才能阅读完成。

导读	Nginx Upstream 连接后端有两种方式：短连接和长连接。Keep-Alive 即俗称的长连接，使客户端到服务端建立的连接持续有效，当对服务器发起后续请求时，Keep-Alive 功能可以复用先前使用过的连接，减少了重新建立连接所需的开销。通常使用 HTTP 协议采用的是请求应答模式，客户端到服务端的一次请求完成了，它们之间的连接也随之关闭。在某些应用场景下，比如后端 RESTful 服务，就需要保持住连接，这时就可以启用 HTTP Keep-Alive。

一、概述

Nginx Upstream 连接后端有两种方式：短连接和长连接。Keep-Alive 即俗称的长连接，使客户端到服务端建立的连接持续有效，当对服务器发起后续请求时，Keep-Alive 功能可以复用先前使用过的连接，减少了重新建立连接所需的开销。通常使用 HTTP 协议采用的是请求应答模式，客户端到服务端的一次请求完成了，它们之间的连接也随之关闭。在某些应用场景下，比如后端 RESTful 服务，就需要保持住连接，这时就可以启用 HTTP Keep-Alive。
nginx 通常情况下都是用来当作一个反向代理，通常一个请求都需要经过 client -> nginx -> backend_server 这么几成关系。通常情况下 client -> nginx 使用的 HTTP 1.1 或者 2.0 的协议，keep-alive 复用了 TCP 的连接，减少了 TCP 频发创建和销毁带来的性能损失。但是默认情况下，nginx -> backend_server 是 HTTP 1.0 的协议，并没有复用 TCP 的连接。
Nginx 上游服务器长连接配置

对发往上游请求当中要加上 http 头部图片里面的两条指令 proxy_http_version 和 proxy_set_header，因为 http 1.0 协议是不支持 keepalive 长连接的，为了防止用户发来的是 http 1.0 协议我们需要重置 http_version 为 1.1，这样一直可以使用 keepalive 长连接。其次为了防止用户 connection 头部给我们传入的是 closed 而不是 keepalived，我们需要主动设置向上游发的 Connection 值为 Connection “”。

二、配置

1、语法

 功能: 通过复用连接, 降低 Nginx 与上游服务器建立, 关闭连接的消耗，提升吞吐量的同时降低时间延迟.
模块：ngx_http_upstream_keepalive_module 是默认编入到 Nginx 中的, 如果不想编进去可以用
      --without-http_upstream_keepalive_module 对这个模块进行移除.
(/home/muten/module/nginx-1.13.7 中执行./configure --help |more 搜索 http_upstream_keepalive_module 可验证)

关于 upstream_keepalive 的指令：(1)keepalive
Activates the cache for connections to upstream servers.
The connections parameter sets the maximum number of idle keepalive connections to 
upstream servers that are preserved in the cache of each worker process. When this 
number is exceeded, the least recently used connections are closed.
表示上游服务器中最多保持多少个用于 keepalive 请求的空闲的连接.
这个命令会促使上游服务器中每个 worker 进程中开辟出来一块缓存用于 keepalive 连接，当超过这个数字的时候, 将会利用 LRU 算法将一些连接关闭.

因为 http1.0 协议是不支持长连接的, 为了防止用户发来的是 http1.0, 我们需要重置 http 版本, 将其置成 1.1, 这样就可以一直使用 keep_alive 长连接;
为了防止用户的 Connection 头部给我们传递的是 Close 而不是 Keepalive, 我们主动设置向上游发送的 connection.

When using load balancing methods other than the default round-robin method, it is necessary to activate them 
before the keepalive directive.
当使用的负载均衡方法不是默认的轮询算法时，需要在 keepalive 指令之前激活他们

语法：Syntax: keepalive connections;
Default:    —
Context:    upstream
This directive appeared in version 1.1.4.

Syntax: proxy_http_version 1.0 | 1.1;
Default:    
proxy_http_version 1.0;
Context:    http, server, location
This directive appeared in version 1.1.4.

Syntax: proxy_set_header field value;
Default:    
proxy_set_header Host $proxy_host;
proxy_set_header Connection close;
Context:    http, server, location

对上游连接的 http 头部设定：proxy_http_version 1.1;
proxy_set_header Connection "";

配置
upstream http_backend {
    server 127.0.0.1:8080;
    keepalive 16;
    keepalive_timeout 60s;
}

server {
    ...
    location /http/ {
        proxy_pass http://http_backend;
        proxy_http_version 1.1;
        proxy_set_header Connection "";
        ...
    }
}

2、实现原理

nginx upstream keepalive 长连接的实现原理。首先每个进程需要一个 connection pool，里面都是长连接，多进程之间是不需要共享这个连接池的。一旦与后端服务器建立连接，则在当前请求连接结束之后不会立即关闭连接，而是把用完的连接保存在一个 keepalive connection pool 里面，以后每次需要建立向后连接的时候，只需要从这个连接池里面找，如果找到合适的连接的话，就可以直接来用这个连接，不需要重新创建 socket 或者发起 connect()。这样既省下建立连接时在握手的时间消耗，又可以避免 TCP 连接的 slowstart。如果在 keepalive 连接池找不到合适的连接，那就按照原来的步骤重新建立连接。
如果你的连接池的数控制在 128，总共线程池内的线程数是 128 * nginx worker，但因为你要应对更多的并发请求，所以临时又加了很多的连接，但这临时的连接是短连接和长连接要看你的 nginx 版本，1.8 是长连接，那他如何被收回，两点保证，一点是他会主动去释放，另一点是 keepalive timeout 的时间