介绍反向代理以及反向代理对服务器性能的影响

介绍反向代理以及反向代理对服务器性能的影响

什么是反向代理

通常的代理服务器，只用于代理内部网络对Internet的连接请求，客户机必须指定代理服务器,并将本来要直接发送到Web服务器上的http请求发送到代理服务器中。由于外部网络上的主机并不会配置并使用这个代理服务器，普通代理服务器也被设计为在Internet上搜寻多个不确定的服务器,而不是针对Internet上多个客户机的请求访问某一个固定的服务器，因此普通的Web代理服务器不支持外部对内部网络的访问请求。当一个代理服务器能够代理外部网络上的主机，访问内部网络时，这种代理服务的方式称为反向代理服务。

为什么要用反向代理

性能之响应速度

木桶理论的最短板是磁盘IO远小于网络IO速度和内存IO速度，所以优化的第一步是减少磁盘IO操作，缓存数据（在请求大多是查询操作的情境下，能够显著提升性能），开线程输出日志，数据库连接复用，（异步访问IO不能够提升响应速度，只能提升吞吐量）
即便你尽量优化了磁盘操作，最后发现最终还是有大量请求等待业务逻辑处理完成返回响应，既然单主机的性能已经达到上限，剩下的的办法是增加硬件，也就是把应用部署到多台主机，这样请求分发到多台主机，降低了单台主机的请求数，避免单台主机因为等待IO操作小于网络速度引起请求延迟

性能之吞吐量

1. 提升单机的吞吐量

   提升吞吐量的关键是多线程，使用多线程可以避免调用线程阻塞，理论上线程越多，吞吐量越大
   但是线程本质上是进程中一段并发运行的代码，所以线程需要操作系统投入CPU资源来运行和调度；线程之间切换上下 文也要消耗资源
   异步操作也可以达到避免调用线程阻塞的目的。多线程和异步操作还是有一些区别的。而这些区别造成了使用多线程和异
   异步本质上是计算机硬件功能，其操作无须消耗CPU时间的I/O操作；
   编写异步操作的复杂程度较高，程序主要使用回调方式进行处理，处理函数可以不必使用共享变量；
   线程适用那种需要长时间 CPU 运算的场合，例如耗时较长的图形处理和算法执行。
   所以使用异步编程可以最大化单机的硬件资源，避免线程等待

2. 提升整体的吞吐量
   首先我们要了解系统的性能瓶颈在哪里，一般来说网络io速度和内存io接近，都远高于磁盘io。假定一个接口请求返回数据100k（一般没有这么大，只是假定一个方便计算的值），10个并发请求就是1M，那么全双工千兆网卡（现在还有万兆网卡，但成本太高，应用还不广），可以支撑并发10000个请求，开双网卡，理论的上限就是20000个并发请求。
   假设我们收到请求马上就返回，那么最高并发数就是我们上面计算的结果，但是，问题在于，应用服务器做不到马上返回，因为它有很多业务逻辑需要执行处理，比如给用户发推送发短信发邮件，本地磁盘写日志，请求数据库增删改查，调用微信的登录接口等等等等，都附加了各个层面的io。木桶理论取最短板，所有这些条件里，总有最慢最落后的那个。假如拖后腿的这个，最佳状态也只能优化到支持2000个并发，那就尴尬了，本来能支持20000个请求的系统，只能用到1/10性能。（ 当然也可以在dns对应不同ip方式分布请求，但是dns层面的分布更复杂更麻烦，因为dns缓存的原因，请求也不能均匀分布，而且ip地址也是越来越稀缺的资源，没有背景没有后台的，搞这么多ip也不容易啊 ）单个公网ip算一个节点的话，这个节点本来的潜力是响应20000个并发请求，实际在应用层面只能到2000并发，潜力还未发掘啊。这个时候，采用分布式提高磁盘请求和网络访问的并行书，然后使用反向代理中转请求分流到各个主机。

防火墙

如果您的内容服务器具有必须保持安全的敏感信息，如信用卡号数据库，可在防火墙外部设置一个代理服务器作为内容服务器的替身。当外部客户机尝试访问内容服务器时，会将其送到代理服务器。实际内容位于内容服务器上，在防火墙内部受到安全保护。代理服务器位于防火墙外部，在客户机看来就像是内容服务器。

当客户机向站点提出请求时，请求将转到代理服务器。然后，代理服务器通过防火墙中的特定通路，将客户机的请求发送到内容服务器。内容服务器再通过该通道将结果回传给代理服务器。代理服务器将检索到的信息发送给客户机，好像代理服务器就是实际的内容服务器（参见图 2）。如果内容服务器返回错误消息，代理服务器会先行截取该消息并更改标头中列出的任何 URL，然后再将消息发送给客户机。如此可防止外部客户机获取内部内容服务器的重定向 URL（URL重定向，是指当使用者浏览某个网址时，将他导向到另一个网址的技术。常用在把一串很长的网站网址，转成较短的网址。因为当要传播某网站的网址时，常常因为网址太长，不好记忆；又有可能因为换了网路的免费网页空间，网址又必须要变更，不知情的使用者还以为网站关闭了。这时就可以用网路上的转址服务了。这个技术使一个网页是可借由不同的统一资源定位符连结）。

SSL认证

仅反向代理服务器需要 SSL 证书，并且该服务器可使用普通 HTTP 在内部网络上与应用服务器通信。分担服务器的负担

负载平衡

可以在一个组织内使用多个代理服务器来平衡各 Web 服务器间的网络负载。在此模型中，可以利用代理服务器的高速缓存特性，创建一个用于负载平衡的服务器池。此时，代理服务器可以位于防火墙的任意一侧。如果 Web 服务器每天都会接收大量的请求，则可以使用代理服务器分担 Web 服务器的负载并提高网络访问效率。

对于客户机发往真正服务器的请求，代理服务器起着中间调停者的作用。代理服务器会将所请求的文档存入高速缓存。如果有不止一个代理服务器，DNS 可以采用“循环复用法”选择其 IP 地址，随机地为请求选择路由。客户机每次都使用同一个 URL，但请求所采取的路由每次都可能经过不同的代理服务器。

可以使用多个代理服务器来处理对一个高用量内容服务器的请求，这样做的好处是内容服务器可以处理更高的负载，并且比其独自工作时更有效率。在初始启动期间，代理服务器首次从内容服务器检索文档，此后，对内容服务器的请求数会大大下降。