Nginx狀態(tài)監(jiān)控以及日志分析詳解

1、Nginx狀態(tài)監(jiān)控

Nginx提供了一個內(nèi)置的狀態(tài)信息監(jiān)控頁面可用于監(jiān)控Nginx的整體訪問情況，這個功能由ngx_http_stub_status_module模塊進(jìn)行實現(xiàn)。

使用nginx -V 2>&1 | grep -o with-http_stub_status_module命令檢測當(dāng)前Nginx是否有status功能，如果輸出ngx_http_stub_status_module則說明是有的，如果沒有可以在編譯時加上此模塊。

默認(rèn)情況下，status是關(guān)閉的，我們需要開啟，并指定uri來訪問數(shù)據(jù)。

server {
  listen 80;
  server_name default_server;
  location /status {
    stub_status on; 
    allow 114.247.125.227;
  }
}

allow配置只允許指定的Ip才能訪問nginx status功能，去掉就是不限制。

重啟Nginx之后，瀏覽器訪問http://{IP}/status查看狀態(tài)監(jiān)控信息

• Active connections：當(dāng)前的客戶端活動連接數(shù)(包含正在等待的客戶端連接),相當(dāng)于TCP連接狀態(tài)處于Established和SYN_ACK
• accepts: 已接受的客戶端連接總數(shù)，即已被worker進(jìn)程接收的連接
• handled: 已被處理的連接總數(shù)
• requests: 客戶端的http請求總數(shù)
• Reading: 當(dāng)前正在讀取的http請求數(shù)（讀取到http請求首部）
• Writing: 當(dāng)前準(zhǔn)備響應(yīng)的連接數(shù)（寫入到http響應(yīng)首部）
• Waiting: 當(dāng)前處于等待的空閑客戶端請求數(shù), 等待的時間為Reading和Writing之間的間隔
  

采集到Nginx數(shù)據(jù)之后就可以用監(jiān)控工具給監(jiān)控起來了。

2、日志分析

Nginx默認(rèn)的日志格式配置可以在/etc/nginx/nginx.conf中找到

log_format main '$remote_addr - $remote_user [$time_local] "$request" '
           '$status $body_bytes_sent "$http_referer" '
           '"$http_user_agent" "$http_x_forwarded_for" $request_time $upstream_response_time';

打印的日志實例

39.105.66.117 - mp [11/Sep/2019:19:03:01 +0800] "POST /salesplatform-gateway/users HTTP/1.1" 200 575 "-" "Apache-HttpClient/4.5.5 (Java/1.8.0_161)" "-" 0.040 0.040
39.105.66.117 - mp [11/Sep/2019:19:03:08 +0800] "POST /salesplatform-gateway/users HTTP/1.1" 200 575 "-" "Apache-HttpClient/4.5.5 (Java/1.8.0_161)" "-" 0.008 0.008

• $remote_addr: 客戶端的ip地址
• $remote_user: 用于記錄遠(yuǎn)程客戶端的用戶名稱
• $time_local: 用于記錄訪問時間和時區(qū)
• $request: 用于記錄請求的url以及請求方法
• $status: 響應(yīng)狀態(tài)碼
• $body_bytes_sent: 給客戶端發(fā)送的文件主體內(nèi)容字節(jié)數(shù)
• $http_referer: 可以記錄用戶是從哪個鏈接訪問過來的
• $http_user_agent: 用戶所使用的瀏覽器信息
• $http_x_forwarded_for: 可以記錄客戶端IP，通過代理服務(wù)器來記錄客戶端的ip地址
• $request_time: 指的是從接受用戶請求的第一個字節(jié)到發(fā)送完響應(yīng)數(shù)據(jù)的時間，即$request_time包括接收客戶端請求數(shù)據(jù)的時間、后端程序響應(yīng)的時間、發(fā)送響應(yīng)數(shù)據(jù)給客戶端的時間
• $upstream_response_time: 用于接收來自上游服務(wù)器的響應(yīng)的時間
  

常用分析命令

1、根據(jù)訪問IP統(tǒng)計UV

awk '{print $1}' paycenteraccess.log | sort -n | uniq | wc -l

2、查詢訪問最頻繁的IP(前10)

awk '{print $1}' /var/log/nginx/access.log | sort -n |uniq -c | sort -rn | head -n 10

3、查看某一時間段的IP訪問量(1-8點)

awk '$4 >="[25/Mar/2020:01:00:00" && $4 <="[25/Mar/2020:08:00:00"' /var/log/nginx/access.log | awk '{print $1}' | sort | uniq -c| sort -nr |wc -l

4、查看訪問100次以上的IP

awk '{print $1}' /var/log/nginx/access.log | sort -n |uniq -c |awk '{if($1 >100) print $0}'|sort -rn

5、查看指定ip訪問過的url和訪問次數(shù)

grep "39.105.67.140" /var/log/nginx/access.log|awk '{print $7}' |sort |uniq -c |sort -n -k 1 -r

6、根據(jù)訪問URL統(tǒng)計PV

cat /var/log/nginx/access.log |awk '{print $7}' |wc -l

7、查詢訪問最頻繁的URL(前10)

awk '{print $7}' /var/log/nginx/access.log | sort |uniq -c | sort -rn | head -n 10

8、查看訪問最頻的URL([排除/api/appid])(前10)

grep -v '/api/appid' /var/log/nginx/access.log|awk '{print $7}' | sort |uniq -c | sort -rn | head -n 10

9、查看頁面訪問次數(shù)超過100次的頁面

cat /var/log/nginx/access.log | cut -d ' ' -f 7 | sort |uniq -c | awk '{if ($1 > 100) print $0}' | less

10、查看最近1000條記錄，訪問量最高的頁面

tail -1000 /var/log/nginx/access.log |awk '{print $7}'|sort|uniq -c|sort -nr|less

11、統(tǒng)計每小時的請求數(shù),top10的時間點(精確到小時)

awk '{print $4}' /var/log/nginx/access.log |cut -c 14-15|sort|uniq -c|sort -nr|head -n 10

12、統(tǒng)計每分鐘的請求數(shù),top10的時間點(精確到分鐘)

awk '{print $4}' /var/log/nginx/access.log |cut -c 14-18|sort|uniq -c|sort -nr|head -n 10

13、統(tǒng)計每秒的請求數(shù),top10的時間點(精確到秒)

awk '{print $4}' /var/log/nginx/access.log |cut -c 14-21|sort|uniq -c|sort -nr|head -n 10

14、查找指定時間段的日志

awk '$4 >="[25/Mar/2020:01:00:00" && $4 <="[25/Mar/2020:08:00:00"' /var/log/nginx/access.log

15、列出傳輸時間超過 0.6 秒的url，顯示前10條

cat /var/log/nginx/access.log |awk '(substr($NF,2,5) > 0.6){print $4,$7,substr($NF,2,5)}' | awk -F '"' '{print $1,$2,$3}' |sort -k3 -rn | head -10

16、列出/api/appid請求時間超過0.6秒的時間點

cat /var/log/nginx/access.log |awk '(substr($NF,2,5) > 0.6 && $7~/\/api\/appid/){print $4,$7,substr($NF,2,5)}' | awk -F '"' '{print $1,$2,$3}' |sort -k3 -rn | head -10

17、獲取前10條最耗時的請求時間、url、耗時

cat /var/log/nginx/access.log |awk '{print $4,$7,substr($NF,2,5)}' | awk -F '"' '{print $1,$2,$3}' | sort -k3 -rn | head -10

總結(jié)

到此這篇關(guān)于Nginx狀態(tài)監(jiān)控以及日志分析的文章就介紹到這了,更多相關(guān)Nginx狀態(tài)監(jiān)控及日志分析內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！