共計 9362 個字符，預計需要花費 24 分鐘才能閱讀完成。

這篇文章主要介紹了 Debian 下怎么搭建 Nginx 和 Tomcat 服務器實現負載均衡的相關知識，內容詳細易懂，操作簡單快捷，具有一定借鑒價值，相信大家閱讀完這篇 Debian 下怎么搭建 Nginx 和 Tomcat 服務器實現負載均衡文章都會有所收獲，下面我們一起來看看吧。

負載均衡的基本概念

負載平衡（load balancing）是一種計算機網絡技術，用來在多個計算機（計算機集群）、網絡連接、cpu、磁盤驅動器或其他資源中分配負載，以達到最佳化資源使用、最大化吞吐率、最小化響應時間、同時避免過載的目的。

使用帶有負載平衡的多個服務器組件，取代單一的組件，可以通過冗余提高可靠性。負載平衡服務通常是由專用軟體和硬件來完成。

負載平衡最重要的一個應用是利用多臺服務器提供單一服務，這種方案有時也稱之為服務器農場。通常，負載平衡主要應用于 web 網站，大型的 internet relay chat 網絡，高流量的文件下載網站，nntp（network news transfer protocol）服務和 dns 服務。現在負載平衡器也開始支持數據庫服務，稱之為數據庫負載平衡器。

對于互聯網服務，負載平衡器通常是一個軟體程序，這個程序偵聽一個外部端口，互聯網用戶可以通過這個端口來訪問服務，而作為負載平衡器的軟體會將用戶的請求轉發給后臺內網服務器，內網服務器將請求的響應返回給負載平衡器，負載平衡器再將響應發送到用戶，這樣就向互聯網用戶隱藏了內網結構，阻止了用戶直接訪問后臺（內網）服務器，使得服務器更加安全，可以阻止對核心網絡棧和運行在其它端口服務的攻擊。

當所有后臺服務器出現故障時，有些負載平衡器會提供一些特殊的功能來處理這種情況。例如轉發請求到一個備用的負載平衡器、顯示一條關于服務中斷的消息等。負載平衡器使得 it 團隊可以顯著提高容錯能力。它可以自動提供大量的容量以處理任何應用程序流量的增加或減少。

0. 前期準備

使用 debian 環境。安裝 nginx(默認安裝)，一個 web 項目，安裝 tomcat(默認安裝) 等。

1. 一份 nginx.conf 配置文件

#  定義 nginx 運行的用戶   和   用戶組   如果對應服務器暴露在外面的話建議使用權限較小的用戶   防止被入侵
# user www www;
#nginx 進程數,  建議設置為等于 cpu 總核心數
worker_processes 8;
#開啟全局錯誤日志類型
error_log /var/log/nginx/error.log info;
#進程文件
pid /var/run/nginx.pid;
#一個 nginx 進程打開的最多文件描述數目   建議與 ulimit - n 一致
#如果面對高并發時   注意修改該值  ulimit -n  還有部分系統參數   而并非這個單獨確定
worker_rlimit_nofile 65535;
events{
 # 使用 epoll 模型提高性能
 use epoll;
 # 單個進程最大連接數
 worker_connections 65535;
http{
 # 擴展名與文件類型映射表
 include mime.types;
 # 默認類型
 default_type application/octet-stream;
 sendfile on;
 tcp_nopush on;
 tcp_nodelay on;
 keepalive_timeout 65;
 types_hash_max_size 2048;
 # 日志
 access_log /var/log/nginx/access.log;
 error_log /var/log/nginx/error.log;
 #gzip  壓縮傳輸
 gzip on;
 gzip_min_length 1k; # 最小 1k
 gzip_buffers 16 64k;
 gzip_http_version 1.1;
 gzip_comp_level 6;
 gzip_types text/plain application/x-javascript text/css application/xml application/javascript;
 gzip_vary on;
 # 負載均衡組
 # 靜態服務器組
 upstream static.zh-jieli.com {
 server 127.0.0.1:808 weight=1;
 }
 # 動態服務器組
 upstream zh-jieli.com {
 server 127.0.0.1:8080;
 #server 192.168.8.203:8080;
 }
 # 配置代理參數
 proxy_redirect off;
 proxy_set_header host $host;
 proxy_set_header x-real-ip $remote_addr;
 proxy_set_header x-forwarded-for $proxy_add_x_forwarded_for;
 client_max_body_size 10m;
 client_body_buffer_size 128k;
 proxy_connect_timeout 65;
 proxy_send_timeout 65;
 proxy_read_timeout 65;
 proxy_buffer_size 4k;
 proxy_buffers 4 32k;
 proxy_busy_buffers_size 64k;
 # 緩存配置
 proxy_cache_key  $host:$server_port$request_uri 
 proxy_temp_file_write_size 64k;
 proxy_temp_path /dev/shm/jielierp/proxy_temp_path;
 proxy_cache_path /dev/shm/jielierp/proxy_cache_path levels=1:2 keys_zone=cache_one:200m inactive=5d max_size=1g;
 proxy_ignore_headers x-accel-expires expires cache-control set-cookie;
server{
 listen 80;
 server_name erp.zh-jieli.com;
 location / {
 index index; # 默認主頁為  /index
 #proxy_pass http://jieli;
 }
 location ~ .*\.(js|css|ico|png|jpg|eot|svg|ttf|woff) {
 proxy_cache cache_one;
 proxy_cache_valid 200 304 302 5d;
 proxy_cache_valid any 5d;
 proxy_cache_key  $host:$server_port$request_uri 
 add_header x-cache  $upstream_cache_status from $host 
 proxy_pass http:
//static.zh-jieli.com;
 # 所有靜態文件直接讀取硬盤
 # root /var/lib/tomcat7/webapps/jielierp/web-inf ;
 expires 30d; # 緩存 30 天
 }
 # 其他頁面反向代理到 tomcat 容器
 location ~ .*$ {
 index index;
 proxy_pass http:
//zh-jieli.com;
 }
 }
 server{
 listen 808;
 server_name static;
 location / { location ~ .*\.(js|css|ico|png|jpg|eot|svg|ttf|woff) {
 # 所有靜態文件直接讀取硬盤
 root /var/lib/tomcat7/webapps/jielierp/web-inf ;
 expires 30d; # 緩存 30 天
 }
 }
}

基本配置這個文件，就可以實現負載了。但是里面的各種關系要了解就比較麻煩了。

2. 基礎講解

現在假使有一臺電腦 192.168.8.203 這臺電腦，上面部署了 tomcat，里面 8080 端口有 j2ee 的服務，通過瀏覽器可以正常瀏覽網頁。現在有一個問題 tomcat 是一個比較全面的 web 容器，對靜態網頁的處理，應該是比較費資源的，特別是每次都要從磁盤讀取靜態頁面，然后返回。這中間會消耗 tomcat 的資源，可能會使那些動態頁面解析性能影響。秉承 linux 哲學，一個軟件只做一件事的原則。tomcat 就應該只處理 jsp 動態頁面。這里就用到以前了解的 nginx 來進行反向代理。第一步代理，實現動靜網頁分離。這個很簡單的。

worker_processes 8;
 
 pid /var/run/nginx.pid;
 
 worker_rlimit_nofile 65535;
 
 events{
 use epoll;
 worker_connections 65535;
 }
 
 http{
 include mime.types;
 default_type application/octet-stream;
 sendfile on;
 tcp_nopush on;
 tcp_nodelay on;
 keepalive_timeout 65;
 types_hash_max_size 2048;
proxy_redirect off;
 proxy_set_header host $host;
 proxy_set_header x-real-ip $remote_addr;
 proxy_set_header x-forwarded-for $proxy_add_x_forwarded_for;
 client_max_body_size 10m;
 client_body_buffer_size 128k;
 proxy_connect_timeout 65;
 proxy_send_timeout 65;
 proxy_read_timeout 65;
 proxy_buffer_size 4k;
 proxy_buffers 4 32k;
 proxy_busy_buffers_size 64k;
 
 server{
 listen 80;
 server_name xxx.com;
 location / {
 index index; 
 }
 location ~ .*\.(js|css|ico|png|jpg|eot|svg|ttf|woff) {
 proxy_pass http:
//192.168.8.203:8080;
 expires 30d; 
 }
 location ~ .*$ {
 index index;
 proxy_pass http:
//192.168.8.203:8080;
 }
 }
 }
worker_processes 8;
pid /var/run/nginx.pid;
worker_rlimit_nofile 65535;
events{
 use epoll;
 worker_connections 65535;
 }
http{
 include mime.types;
 default_type application/octet-stream;
 sendfile on;
 tcp_nopush on;
 tcp_nodelay on;
 keepalive_timeout 65;
 types_hash_max_size 2048;
proxy_redirect off;
 proxy_set_header host $host;
 proxy_set_header x-real-ip $remote_addr;
 proxy_set_header x-forwarded-for $proxy_add_x_forwarded_for;
 client_max_body_size 10m;
 client_body_buffer_size 128k;
 proxy_connect_timeout 65;
 proxy_send_timeout 65;
 proxy_read_timeout 65;
 proxy_buffer_size 4k;
 proxy_buffers 4 32k;
 proxy_busy_buffers_size 64k;
server{
 listen 80;
 server_name xxx.com;
 location / {
 index index;
 }
 location ~ .*\.(js|css|ico|png|jpg|eot|svg|ttf|woff) {
 proxy_pass http:
//192.168.8.203:8080;
 expires 30d;
 }
 location ~ .*$ {
 index index;
 proxy_pass http:
//192.168.8.203:8080;
 }
 }
 }

修改 nginx 的配置文件 /etc/nginx/nginx.conf 默認有個配置文件的。其實大部分都差不多，關鍵還是 server 段的設置。這里我設置 server 段如上所示，其他段復制就可以了。server 段里面的解釋如下：第 35 行為監聽本機 80 端口。37-39 行表示默認主頁，這里的默認主頁我是 index.jsp 對應到我項目中是一個 index。這里根據需要可以改為

index index.jsp index.html index.htm index.php

具體可參考其他文章。關鍵的第 40 行，這個是正則匹配，網上也有很多介紹。這里匹配我項目中用到的所有靜態網頁后綴。第 41 行是代理地址。這里我代理到我的 web 應用中。expires 30d 緩存為 30 天，這里的緩存是對應到前端頁面，用戶的 cache-control 字段，

第 44 行中那個正則是匹配無后綴的頁面。我項目中 jsp 頁面是無后綴的。這里可以根據需要進行修改。同樣代理到 192.168.8.203:8080 這里。到這里你可能會問，我艸，這有毛意思啊？當然不是這樣了。簡單的實現靜動分離，我們可以把第 41 行進行修改，改為

root /var/lib/tomcat7/webapps/jielierp/web-inf

表示不代理，直接從本地磁盤拿。通過查 tomcat 日志可以看到靜態頁面是沒有訪問到的。但這樣又有一個問題。這樣的靈活性不好，對下面要講到的內存緩存和集群部署來說都是不友好的，所以又有了下面的這種寫法。再寫一個 server 段。

server{
 listen 808;
 server_name static;
 location / {location ~ .*\.(js|css|ico|png|jpg|eot|svg|ttf|woff) {
 # 所有靜態文件直接讀取硬盤
 root /var/lib/tomcat7/webapps/jielierp/web-inf ;
 expires 30d; # 緩存 30 天
 }
 }

這次監聽 808 端口，然后上上面的代碼 41 行就可以修改為 proxy_pass http://192.168.8.203:808 了，到這里就實現了動靜分離了。如果多臺服務器，就修改對應的 ip 就可以了。如果發現連接不上的，要檢查一下防火墻，權限等外部問題，這個配置是這樣的。

如果單純這樣的話，我們會發現頁面直接傳輸過于占用帶寬。對應 web 的優化，這里想到的是通過對頁面進行 gzip 壓縮，然后傳到用戶那里，再解壓，這樣可以有效的減少帶寬。這里就會用到 nginx 的 gzip 模塊了。默認的 nginx 是集成有 gzip 模塊的。只需在 http 段增加下面配置即可。

gzip on;
 gzip_min_length 1k; # 最小 1k
 gzip_buffers 16 64k;
 gzip_http_version 1.1;
 gzip_comp_level 6;
 gzip_types text/plain application/x-javascript text/css application/xml application/javascript;
 gzip_vary on;

給個首頁看看效果

不要在意請求數不一樣，那兩個請求是谷歌插件來的。不用覺得我在騙你。

作為假使有很多人訪問的網站來說，緩存肯定是很重要的東西了。一開始是想通過插件，讓 nginx 和 redis 進行合成，然后 nginx 使用 redis 來緩存的，但是發現配置起來很麻煩，還要自己下載插件，重新編譯 nginx，比較麻煩，所以這里覺得用 nginx 自帶的緩存也是不錯的選擇。雖然效率比不上 redis，但是有還是比沒有好。nginx 默認的緩存是磁盤文件系統的緩存，而不是像 redis 那樣的內存級別的緩存。一開始我以為 nginx 就只有這樣。后來查了寫資料，才知道是我太天真了，對 linux 不是很了解導致的。linux 的一切皆文件。原來我們可以把文件緩存到內存對應的 linux 文件系統中。我說的可能比較難以理解，請自行搜索 /dev/shm 這個文件目錄。我們把文件緩存到這個文件目錄里，其實就相當與內存的緩存了。只不過還是靠文件系統管理。所以比不上自定義格式的 redis 那樣的內存緩存。

在 http 段進行基本配置

# 緩存配置
proxy_cache_key  $host:$server_port$request_uri 
proxy_temp_file_write_size 64k;
proxy_temp_path /dev/shm/jielierp/proxy_temp_path;
proxy_cache_path /dev/shm/jielierp/proxy_cache_path levels=1:2 keys_zone=cache_one:200m inactive=5d max_size=1g;
proxy_ignore_headers x-accel-expires expires cache-control set-cookie;
location ~ .*\.(js|css|ico|png|jpg|eot|svg|ttf|woff) {
 proxy_cache cache_one;
 proxy_cache_valid 200 304 302 5d;
 proxy_cache_valid any 5d;
 proxy_cache_key  $host:$server_port$request_uri 
 add_header x-cache  $upstream_cache_status from $host 
 proxy_pass http:
//192.168.8.203:808;
expires 30d; # 緩存 30 天
 }

經過這兩個的配置就基本能實現了，這里說幾個注意項，也是困擾我很久的問題。上面第一段代碼第 6 行，proxy_ignore_headers 如果 web 項目中的 html 的 head 頭里面指定

meta http-equiv= pragma  content= no-cache 
 meta http-equiv= cache-control  content= no-cache 
 meta http-equiv= expires  content= 0

這些不緩存的話，就要加上 proxy_ignore_headers 的配置項了。還有一點就是 /dev/shm 下面的文件系統權限默認只給 root 用戶，所以要 chmod 777 -r /dev/shm 這樣不是很安全的做法，如果實際上線可以給定某個用戶組，關于用戶組的設置是配置的第一行

user www www;

上面第二段代碼的第 6 行是增加一個 header 字段方便查看是否擊中緩存。

我們 rm -rf /dev/shm/jielierp/proxy_* 下面的所有文件 (注意這里如果是進行多次測試的話要 nginx -s reload 重新讀取配置或重啟服務，因為你 rm -rf 只是刪除了緩存文件，但是緩存的結構信息還在 nginx 進程里面，結構還在，如果不重啟的話，是會出現訪問不到的)

所以要記得重啟哦。下面是運行效果

第一次訪問

第二次訪問，在瀏覽器中 ctrl+shift+r 強制刷新

到這里就可以看到效果了。我們查看一下 /dev/shm 這個里面

到這里已經快結束了。最后也是比較關鍵的一個技術點，就是集群，集群，集群。這個就要用到 upstream 了，看到最開頭的配置文件了嗎，就是那個

# 負載均衡組
#靜態服務器組
upstream static {
 server 127.0.0.1:808 weight=1;
 server 192.168.8.203:808 weight=1;
#動態服務器組
upstream dynamic {
 server 127.0.0.1:8080;
 #server 192.168.8.203:8080;
}

上面那個就是集群組了。upstream 是關鍵字，static 和 dynamic 是兩個服務器集群組的名稱。以第一個為例，server 127.0.0.1:808 是服務器地址，后面的 weight=1 是權重。有多個就寫多個。親測試過，集群中的一個壞了，不影響系統運行。至于更多的輪詢規則，可以參考網上更多的資料。這里不多說。至于怎么使用呢？proxy_pass http://192.168.8.203:808 改為 proxy_pass http://static; 這樣即可實現均衡。

到這里就結束了。把上面各個部分根據自己需求配置起來就可以實現單機房負載均衡了。上面這種做法有一個缺點就是在前面的那一臺 nginx 如果當機，后面所以機器就失去了被訪問的能力了，所以需要在前面實現多個 nginx 多機房的負載。關于這個就是另外一個話題了。目前還沒有研究。以后有機會再說了。

上面動態服務器組如果是那種需要保存用戶狀態的話，會有問題，就是 session 問題，比如我在 server1 進行登錄后，下一次動態服務器組進行輪詢后可能分配到 server2，就會造成要重新登錄。治標的辦法是，配置輪詢規則，根據用戶請求的 ip 進行 hash，然后分配對應的服務器。具體配置如下：

upstream dynamic{
ip_hash;
server 127.0.0.1:8080;
server 192.168.0.203:8080;
}

這樣就可以實現一個用戶對應一個服務器節點。這樣就不會有重復登錄的問題。另一種治本的辦法是，利用緩存系統進行 session 的統一存儲管理。

關于“Debian 下怎么搭建 Nginx 和 Tomcat 服務器實現負載均衡”這篇文章的內容就介紹到這里，感謝各位的閱讀！相信大家對“Debian 下怎么搭建 Nginx 和 Tomcat 服務器實現負載均衡”知識都有一定的了解，大家如果還想學習更多知識，歡迎關注丸趣 TV 行業資訊頻道。