久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

Zabbix監(jiān)控Nginx:stub_status+UserParameter配置實戰(zhàn)指南

Zabbix監(jiān)控Nginx:stub_status+UserParameter配置實戰(zhàn)指南 Nginx 監(jiān)控這件事很多人一開始想復雜了。Zabbix 要拿到 Nginx 的運行狀態(tài)并不需要裝額外探針也不一定非要解析訪問日志最穩(wěn)定的入口其實是 Nginx 自帶的 stub_status 狀態(tài)頁。只要把它打開再用 Zabbix Agent 把里面的幾個數(shù)字讀回來就能完成請求量、并發(fā)連接、讀寫狀態(tài)的監(jiān)控再配上觸發(fā)器和圖形連接數(shù)異常、請求速率突變這些情況都能直接看到。這篇內(nèi)容按實際落地順序來拆先講 Nginx 狀態(tài)頁每個字段是什么意思再講怎么讓 Zabbix Agent 把數(shù)據(jù)采回來然后是 Zabbix 前端里的監(jiān)控項、觸發(fā)器和圖形怎么配最后做一輪實測把請求打起來再去看統(tǒng)計結(jié)果怎么解讀。適合剛接觸 Zabbix 監(jiān)控 Nginx 的人也適合已經(jīng)在用 shell 腳本采集、但想轉(zhuǎn)成 Zabbix 規(guī)范化監(jiān)控的人。1. 先搞清楚 nginx 狀態(tài)頁Zabbix 監(jiān)控 Nginx 的數(shù)據(jù)從哪來1.1 stub_status 輸出字段對照Zabbix 監(jiān)控 Nginx底層數(shù)據(jù)源不是日志而是 Nginx 自己維護的計數(shù)器。只要在 Nginx 配置里啟用 stub_status訪問狀態(tài)頁就能看到一小段純文本Active connections: 291 server accepts handled requests 16630948 16630948 31070465 Reading: 6 Writing: 179 Waiting: 106這段文本雖然短但每個字段都有明確含義。字段含義類型Active connections當前活動連接數(shù)瞬時值acceptsNginx 啟動以來累計接受的客戶端連接總數(shù)累計值handled成功處理的連接總數(shù)累計值requests累計處理的客戶端請求總數(shù)累計值Reading正在讀取請求頭的連接數(shù)瞬時值Writing正在讀取請求體、處理請求或?qū)戫憫倪B接數(shù)瞬時值Waiting空閑的 keep-alive 連接數(shù)瞬時值第一行Active connections是當前活動連接數(shù)。注意它包含后面 Reading、Writing、Waiting 三類的總和所以只要 Nginx 活著這個數(shù)值通常不會是 0。第二行是固定表頭server accepts handled requests。第三行的三個數(shù)字分別對應表頭都是只增不減的累計計數(shù)器只有 Nginx 重啟才會歸零。第四行的 Reading、Writing、Waiting 是三個瞬時值。一個請求從進入到結(jié)束通常會依次經(jīng)過 Reading、Writing 兩個階段最后進入 Waiting或者直接關閉連接。這幾個字段之間的換算關系是Active connections Reading Writing Waiting。理解這個關系后面看圖形和觸發(fā)器才不會被數(shù)字騙到。1.2 哪些指標值得接進 Zabbix不是每個字段都必須接進來但下面這幾個我建議至少都要有。請求速率是最核心的指標對應 requests 計數(shù)器看的是單位時間內(nèi)處理了多少請求也就是平時說的 QPS。只看累計值沒有意義必須換算成速率。新建連接速率對應 accepts 計數(shù)器看的是單位時間內(nèi)來了多少新連接。這個值和 QPS 的區(qū)別在于keep-alive 生效的情況下一個連接上可以連續(xù)發(fā)多個請求所以請求速率通常遠大于連接速率。當前并發(fā)連接數(shù)對應 Active connections是最直觀的負載指標。但它不能單獨說明問題必須結(jié)合 Reading、Writing、Waiting 一起看。Reading 如果持續(xù)偏高說明有一些客戶端請求頭發(fā)得很慢或者請求頭一直沒發(fā)完。Writing 持續(xù)偏高說明 Nginx 正在大量往客戶端寫響應這時候要關注帶寬和上游服務能不能跟上。Waiting 高反而是正?,F(xiàn)象說明大量連接是空閑 keep-alive對靜態(tài)資源或高并發(fā) Web 服務很常見。把這些字段全部接進 Zabbix才算真正把 Nginx 的運行狀態(tài)看完整。2. 環(huán)境準備與最小配置讓 Nginx 先吐出狀態(tài)數(shù)據(jù)2.1 確認 Nginx 是否支持 stub_statusstub_status 不是所有 Nginx 都默認包含。編譯 Nginx 時如果沒有加--with-http_stub_status_module這個功能就不存在配置寫了也會報錯。先檢查當前 Nginx 有沒有這個模塊nginx -V 21 | grep -o http_stub_status_module如果輸出里有http_stub_status_module說明支持。如果沒有有兩個方向重新編譯 Nginx 時加上這個模塊或者換成已經(jīng)默認包含該模塊的發(fā)行版軟件包。很多發(fā)行版和官方倉庫自帶的 Nginx 都已經(jīng)開啟了這個模塊但自編譯版本一定要單獨確認。這里提醒一下執(zhí)行nginx -V時編譯參數(shù)是在標準錯誤輸出里所以我加了21把錯誤輸出重定向到同一路。很多人第一次只看第一行 version以為不支持其實是沒看全。2.2 Nginx 狀態(tài)頁配置示例與安全限制確認模塊存在后在 Nginx 的 server 配置里加一個 location。以下是一份最小配置server { listen 80; server_name _; location /nginx_status { stub_status on; access_log off; allow 127.0.0.1; deny all; } }這里最關鍵的是allow和deny。stub_status 本身沒有任何認證機制任何人能訪問就能看到你的連接數(shù)、請求量和連接狀態(tài)。如果把狀態(tài)頁暴露到公網(wǎng)內(nèi)部運行信息等于公開了。所以默認只允許本機訪問是最穩(wěn)妥的做法。如果你的 Zabbix Agent 和 Nginx 不在同一臺機器上不要直接把deny all刪掉應該改成只允許采集機 IP 訪問location /nginx_status { stub_status on; access_log off; allow 192.168.1.100; deny all; }改完配置先檢查再重載nginx -t nginx -s reloadnginx -t這一步不能省。stub_status 的 location 如果配置在錯誤的上下文里或者和已有配置沖突reload 會直接失敗。2.3 用 curl 驗證狀態(tài)頁是否生效配置完成之后先在 Nginx 所在機器上驗證curl -s http://127.0.0.1/nginx_status如果能看到開頭那段文本說明狀態(tài)頁已經(jīng)可以訪問了。如果返回 404說明 location 沒生效或者配置在了錯誤的 server 塊里。如果返回 403大概率是deny all生效了而你的請求來源 IP 不在allow列表里。這里有個容易忽略的點如果你的 Nginx 不是監(jiān)聽 80 端口或者同時有 HTTPSURL 里要帶上實際協(xié)議和端口例如http://127.0.0.1:8080/nginx_status。先花一分鐘把 curl 這步跑通后面會省很多時間。3. Zabbix Agent 接入一條 UserParameter 和一個監(jiān)控項的關系3.1 安裝與基礎配置 Zabbix AgentZabbix Agent 是部署在 Nginx 所在機器上的采集程序。它的作用和 Nginx 狀態(tài)頁互補狀態(tài)頁負責提供數(shù)據(jù)Agent 負責把數(shù)據(jù)讀出來再交給 Zabbix Server。安裝方式要看你的系統(tǒng)和 Zabbix 版本直接使用官方倉庫安裝 zabbix-agent 即可。裝完需要修改配置文件常見要確認三個參數(shù)Server192.168.1.10 ServerActive192.168.1.10 Hostnameweb01Server是允許給這臺 Agent 下發(fā)被動采集請求的 Zabbix Server 地址。ServerActive是主動上報要連接的 Server 地址。Hostname是 Agent 上報時使用的名字在 Zabbix 前端添加主機時要保持一致特別是主動檢查時Hostname 對不上會直接導致數(shù)據(jù)丟失。這里解釋一下被動檢查和主動檢查的區(qū)別。被動檢查是 Zabbix Server 主動連接 Agent 的 10050 端口要數(shù)據(jù)主動檢查是 Agent 主動連接 Server 的 10051 端口上報數(shù)據(jù)。自定義 UserParameter 兩種方式都支持但排查問題時的思路不一樣后面會詳細說。改完配置啟動服務systemctl restart zabbix-agent systemctl status zabbix-agent3.2 通過 UserParameter 把 nginx_status 轉(zhuǎn)成監(jiān)控項Zabbix Agent 默認不認識 nginx 的 key需要通過 UserParameter 來定義。UserParameter 的格式很簡單一個 key一個命令Agent 執(zhí)行命令把標準輸出作為監(jiān)控值返回。在/etc/zabbix/zabbix_agentd.d/目錄下創(chuàng)建一個 nginx.conf寫入以下內(nèi)容UserParameternginx.active,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Active connections/{print $3} UserParameternginx.accepts,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk NR3{print $1} UserParameternginx.handled,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk NR3{print $2} UserParameternginx.requests,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk NR3{print $3} UserParameternginx.reading,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Reading/{print $2} UserParameternginx.writing,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Writing/{print $4} UserParameternginx.waiting,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Waiting/{print $6}逐個拆一下。每行都是一個 key例如nginx.active。后面的命令先用 curl 抓取狀態(tài)頁再用 awk 提取對應字段。awk 的寫法要特別注意。第三行的 accepts、handled、requests 是三個連續(xù)數(shù)字所以分別用NR3定位到第三行再打印第 1、2、3 列。Reading、Writing、Waiting 在同一行里所以要先用正則匹配到這一行再打印對應列。Writing 是第 4 列Waiting 是第 6 列這個順序很多人會弄錯。命令里的--max-time 3不是隨便加的。如果狀態(tài)頁異常導致 curl 一直掛住Agent 執(zhí)行這個 UserParameter 就會卡住嚴重時會占滿 Agent 的檢查線程影響這臺機器上的其他監(jiān)控項。加上超時時間最壞 3 秒也會退出。改完配置后重啟 Agentsystemctl restart zabbix-agent3.3 先用 zabbix_get 還是前端測試功能配置完 UserParameter不要急著去 Zabbix 前端創(chuàng)建主機先在命令行驗證一遍 key 能不能查到值。在有 zabbix-get 工具的機器上執(zhí)行它通常在 Zabbix Server 或 Proxy 上zabbix_get -s 192.168.1.20 -k nginx.requests返回一個數(shù)字說明這條鏈路通了。如果提示 Not supported 或者沒有輸出先不要懷疑 Zabbix 配置回到 Nginx 機器上直接執(zhí)行那條 UserParameter 命令看有沒有結(jié)果。這里有個容易踩的坑你手動執(zhí)行命令時用的是 root 用戶而 Zabbix Agent 運行時的用戶通常是 zabbix兩個用戶的環(huán)境變量、權(quán)限、可執(zhí)行路徑可能都不一樣。比如 zabbix 用戶沒有權(quán)限訪問某個目錄或者 SELinux 攔截了 zabbix 用戶執(zhí)行 curl都會導致手動執(zhí)行正常、Agent 執(zhí)行失敗。新版 Zabbix 前端在監(jiān)控項配置里也有一個 Test 按鈕可以直接測試當前主機上的 key返回結(jié)果和報錯更直觀。實際排查時我一般按三個地方順序看Agent 所在機器手動執(zhí)行命令、zabbix_get 從 Server 端測試、前端 Test 按鈕看報錯。4. 創(chuàng)建主機、監(jiān)控項、觸發(fā)器數(shù)據(jù)到告警的完整鏈路4.1 在 Zabbix 前端添加主機與監(jiān)控項命令行驗證通過后進入 Zabbix Web 界面按照 配置 → 主機 → 創(chuàng)建主機 的路徑添加一臺主機。填寫主機名時要注意Agent 配置文件里的 Hostname 和這里的主機名必須一致否則主動檢查會失敗。接口配置里選擇 Agent填寫 Nginx 所在機器的 IP 和默認端口 10050。添加監(jiān)控項有兩條路線。一條是直接鏈接模板Zabbix 模板庫里有 Nginx by HTTP、Nginx by Zabbix agent 2 這類現(xiàn)成模板不同版本的模板數(shù)量和名稱會有差異底層采集方式也是去讀狀態(tài)頁適合不想自己維護 key 的人。另一條是手動創(chuàng)建監(jiān)控項用剛才定義的 UserParameter 鍵值自由度更高也更容易理解每個數(shù)字怎么來的。如果你是第一次做我更建議先手動創(chuàng)建。原因很簡單自動模板會隱藏很多細節(jié)一旦出了問題你很難判斷是狀態(tài)頁的問題、Agent 的問題還是模板映射的問題。手動創(chuàng)建一遍等于把鏈路里的每個環(huán)節(jié)都摸清楚了。手動創(chuàng)建監(jiān)控項時以nginx.requests為例名稱Nginx Requests類型Zabbix Agent鍵值nginx.requests信息類型數(shù)字無正負更新間隔1m 或 30s 都可以歷史數(shù)據(jù)保留7d趨勢數(shù)據(jù)保留365d其他幾個 key 按同樣方法創(chuàng)建。4.2 請求速率、連接數(shù)怎么存儲和計算單位這里要解決一個關鍵問題accepts、handled、requests 這三個字段是累計值直接存進 Zabbix 只能看到一根一直向上的線很難判斷當前請求量到底是多少。所以必須讓 Zabbix 把累計值換算成速率。在 Zabbix 監(jiān)控項配置里有一個字段叫“存儲值”可以選“原樣存儲”“增量簡單變化”和“增量每秒速率”。存儲方式適用場景示例原樣存儲瞬時值當前是多少就存多少active、reading、writing、waiting增量簡單變化累計值的兩次差值accepts 每次變化量增量每秒速率累計值換算成每秒速率requests、accepts、handled對 requests、accepts、handled 這三個累計計數(shù)器應該選擇“增量每秒速率”單位寫成 req/s 或 conn/s。這樣 Zabbix 會在后臺自動計算兩次采集之間的差值再除以時間間隔得到每秒速率。如果你不想在監(jiān)控項里改存儲方式也可以用預處理步驟里的“每秒更改量”來實現(xiàn)同樣效果。兩者本質(zhì)上是一樣的看你習慣哪種。唯一要注意的是如果 Nginx 在兩次采集之間重啟過計數(shù)器歸零速率可能會出現(xiàn)一次很大的負值或異常值統(tǒng)計圖形上會出現(xiàn)明顯的斷點這是正?,F(xiàn)象不是系統(tǒng)崩潰。active、reading、writing、waiting 這四個瞬時值就保持“原樣存儲”它們的數(shù)值本身就是當前狀態(tài)不需要做速率換算。4.3 觸發(fā)器和告警閾值怎么定監(jiān)控項建好后數(shù)據(jù)會不斷進入 Zabbix但沒人盯著圖形的話異常還是發(fā)現(xiàn)不了。觸發(fā)器的意義就是自動判斷數(shù)值是否超過預期。觸發(fā)器配置路徑是 配置 → 主機 → 觸發(fā)器 → 創(chuàng)建觸發(fā)器。以活躍連接數(shù)為例一個簡單表達式last(/web01/nginx.active)10000含義是當前活躍連接數(shù)大于 10000 時觸發(fā)警告。再比如請求速率min(/web01/nginx.requests,5m)5000含義是最近 5 分鐘請求速率平均值超過 5000 req/s 時觸發(fā)。閾值定多少沒有標準答案取決于你的業(yè)務。我建議先讓 Zabbix 跑兩三天積累一段基線數(shù)據(jù)再根據(jù)圖形里的峰值來定警告和嚴重閾值不要憑感覺拍腦袋。第一次設置可以把閾值放寬一點確認告警鏈路能正常觸發(fā)后再往回收。觸發(fā)器還可以設置恢復表達式也就是數(shù)值降到多少以下時自動恢復為正常。這個最好一起配好否則每次數(shù)值震蕩都會反復觸發(fā)、恢復告警會很吵。要測試告警鏈路的完整效果除了觸發(fā)器還需要配置好動作和通知方式。如果暫時沒配郵件或其他通知也可以先只做觸發(fā)器通過 Zabbix 首頁的告警記錄來確認觸發(fā)是否成功。5. 實測一輪用請求壓一壓再去看統(tǒng)計結(jié)果和圖形5.1 制造流量curl 循環(huán)或 ab 簡單壓測配置完成之后最關鍵的一步就是實測。沒有流量監(jiān)控圖形是一條平線你很難判斷數(shù)據(jù)到底有沒有采集成功。最簡單的測試方法是用 curl 發(fā)一批請求。在 Nginx 機器上執(zhí)行for i in $(seq 1 1000); do curl -s -o /dev/null http://127.0.0.1/; done這個循環(huán)會向本機 Nginx 發(fā)送 1000 次請求每次丟棄響應內(nèi)容。優(yōu)點是環(huán)境干凈不需要額外工具。缺點是速度不夠快產(chǎn)生的請求速率不會特別高。如果你機器上有 ab也就是 ApacheBench可以壓得更明顯一些ab -n 5000 -c 100 -k http://127.0.0.1/這條命令的含義是總共發(fā)送 5000 個請求同時保持 100 個并發(fā)連接-k表示啟用 keep-alive。ab 在測試時會持續(xù)請求能把 Nginx 的請求速率和活躍連接數(shù)明顯拉起來。執(zhí)行的時候建議一次只跑一種跑完等一分鐘讓 Zabbix 完成幾個采集周期再去前端看數(shù)據(jù)。如果立刻去看采集周期還沒到可能什么都看不到。5.2 分析 Latest data 和 Graphs進入 Zabbix 前端的“監(jiān)測 → 最新數(shù)據(jù)”選擇剛才創(chuàng)建的主機就能看到每條監(jiān)控項的當前值。這時候你看到的應該是有具體數(shù)字的綠色狀態(tài)而不是“不支持”或“無數(shù)據(jù)”。以剛才 ab 壓測為例壓測過程中可以看到 requests 數(shù)值沖上去壓測結(jié)束后又會回落。如果配上圖形把請求速率、活躍連接、Reading、Writing、Waiting 放在同一張圖里觀察能很直觀地看到整個請求生命周期的變化。如果你沒有在監(jiān)控項里單獨創(chuàng)建圖形也可以在儀表盤中添加一個圖表組件數(shù)據(jù)源選擇對應主機的監(jiān)控項。Zabbix 的圖表組件支持把多個監(jiān)控項疊加到同一張圖上非常適合對比 Active connections、Reading、Writing、Waiting 這幾個相關指標。5.3 從數(shù)據(jù)反向判斷 Nginx 狀態(tài)是否健康數(shù)據(jù)有了接下來的重點是怎么讀這些數(shù)字。先看 active connections 和 waiting 的關系。如果活躍連接數(shù)很高但 waiting 也很高說明大量連接是空閑 keep-aliveNginx 實際壓力不大只是在維持長連接。如果活躍連接數(shù)高waiting 卻很低說明連接都在真正干活這時候負載才是真的高。再看 accepts 和 handled 的對比。正常情況下這兩個數(shù)值應該非常接近。如果 handled 長期明顯小于 accepts說明有一部分連接沒有被 Nginx 成功處理可能原因是 worker_connections 配置過低連接數(shù)被系統(tǒng)層面拒絕了。通過 Zabbix 監(jiān)控這兩個值的曲線差值能比看錯誤日志更早發(fā)現(xiàn)問題。再看請求速率和連接速率的關系。用 requests 速率除以 accepts 速率可以得到平均每個連接上的請求數(shù)。如果這個值接近 1說明 keep-alive 基本沒起作用客戶端每次請求都新建連接連接效率很低。如果明顯大于 1說明 keep-alive 生效良好一個連接上處理了多個請求。Reading 和 Writing 是更細的觀察點。靜態(tài)資源站點在壓測時Writing 會明顯升高因為 Nginx 正在往客戶端輸出響應。如果 Writing 持續(xù)高位但 requests 并不高可能是網(wǎng)絡帶寬打滿了響應寫不出去。Reading 持續(xù)高位則要小心可能是客戶端請求頭發(fā)送緩慢也可能是存在慢連接這種情況即使活躍連接數(shù)不高worker 也可能被拖住。這些判斷不能只看一兩個采樣點最好結(jié)合 5 分鐘、1 小時的時間窗口來看趨勢。這也是為什么前面建議把趨勢數(shù)據(jù)保留時間設長一些。6. 常見問題排查與生產(chǎn)環(huán)境落地的邊界6.1 Agent 顯示 Not supported 時按什么順序查Zabbix Agent 返回 Not supported 是監(jiān)控 Nginx 時最常遇到的問題。很多人第一反應是去改 Zabbix 配置其實大多數(shù)時候問題出在 Agent 側(cè)。我的排查順序是固定的。第一步直接手動執(zhí)行那條 UserParameter 命令看有沒有輸出。如果命令本身就沒輸出說明狀態(tài)頁、curl、awk 里有一環(huán)斷了。第二步確認執(zhí)行用戶。Zabbix Agent 通常以 zabbix 用戶運行手動用 root 執(zhí)行成功不代表 zabbix 用戶能執(zhí)行。可以用su - zabbix -s /bin/bash -c 命令來模擬 Agent 的執(zhí)行環(huán)境。第三步看 Agent 日志默認在 /var/log/zabbix/zabbix_agentd.log。日志里會記錄 key 對應的錯誤信息比如命令找不到、執(zhí)行超時、權(quán)限不足等。第四步改完 UserParameter 后確認重啟了 Agent。UserParameter 是在 Agent 啟動時讀取的不重啟不會生效。第五步從 Server 端用 zabbix_get 測試連通性。這一步能區(qū)分問題是出在 Agent 執(zhí)行命令還是 Server 與 Agent 之間的網(wǎng)絡、端口、密鑰配置上。還有一個常見問題Linux 有 SELinux 或 AppArmor 環(huán)境時zabbix 用戶執(zhí)行 curl 連接本機端口可能會被攔截。手動執(zhí)行正常Agent 執(zhí)行就是失敗排查到這一步時要看安全審計日志確認是不是被策略攔截了。6.2 狀態(tài)頁不能直接暴露在公網(wǎng)前面配置 Nginx 狀態(tài)頁時寫了 allow 和 deny這個限制在正式環(huán)境同樣重要。stub_status 只有數(shù)據(jù)輸出沒有認證、沒有訪問控制任何人拿到狀態(tài)頁地址就能看到你所有虛擬主機的連接數(shù)、請求量等信息。這些數(shù)據(jù)單獨看不算機密但結(jié)合業(yè)務時序可能暴露促銷活動、低谷期等運營信息。所以生產(chǎn)環(huán)境要遵守幾個原則狀態(tài)頁只監(jiān)聽內(nèi)網(wǎng)地址或只允許內(nèi)網(wǎng)訪問。Zabbix Agent 與 Nginx 部署在一起時直接限制為 127.0.0.1。如果需要遠程采集優(yōu)先讓 Agent 本機讀取不要讓其他機器直接 HTTP 訪問狀態(tài)頁。Nginx 服務本身就開啟了公網(wǎng)監(jiān)聽時更要檢查 allow 列表不要把公網(wǎng)網(wǎng)段放進去。另外狀態(tài)頁建議使用獨立 location不要放在一個會匹配大量路徑的通用規(guī)則里避免被掃描工具順帶發(fā)現(xiàn)。access_log off也要保留否則每個狀態(tài)頁請求都會寫一條訪問日志白白增加磁盤 IO。6.3 多實例和規(guī)范化模板、宏、命名規(guī)則如果只有一臺機器手動創(chuàng)建監(jiān)控項沒什么問題。一旦機器多起來比如七八臺 Nginx 都要監(jiān)控逐臺手動創(chuàng)建就很痛苦而且容易漏配。這時候應該把監(jiān)控項、觸發(fā)器、圖形整理成模板。在模板里創(chuàng)建好 nginx.active、nginx.requests 這些監(jiān)控項和對應的觸發(fā)器再把模板鏈接到主機上所有主機自動繼承配置。后續(xù)要加閾值、加圖形只需要改模板一處所有主機同步生效。模板里的閾值可以做成宏比如{$NGINX_ACTIVE_WARN}、{$NGINX_REQ_HIGH}。這樣在不同業(yè)務機器上可以差異化覆蓋不用復制整個模板。比如 A 機器請求量本來就大警告閾值定 8000B 機器是小業(yè)務閾值定 1000。用宏就能在同一套模板下按主機單獨調(diào)整。key 的命名也要規(guī)范。前面用的 nginx.active、nginx.requests 就是比較清晰的命名方式。如果一臺機器上有多個 Nginx 實例建議在 key 里帶實例編號比如 nginx1.active、nginx2.active避免數(shù)據(jù)串臺。6.4 歷史數(shù)據(jù)保留和監(jiān)控頻率最后聊一下采集頻率和數(shù)據(jù)保留。對 Nginx 監(jiān)控來說30 秒到 1 分鐘的采集間隔已經(jīng)足夠。不要看到別人用 1 秒間隔就覺得越快越好越短的間隔意味著越多的 Agent 執(zhí)行、越多的 Server 輪詢和越大的存儲開銷。尤其是自定義 UserParameter 每次都執(zhí)行 curl 命令如果一臺機器上有 7 個 nginx key每個采集周期就有 7 次 curl。機器數(shù)量一多這個開銷會被明顯放大。如果想降低開銷有兩個方向。一個方向是把采集間隔統(tǒng)一調(diào)大成 1 分鐘。Nginx 的指標本來就是慢變量1 分鐘內(nèi)的尖峰對告警影響不大。另一個方向是寫一個單獨的采集腳本一次抓取狀態(tài)頁把結(jié)果寫到臨時文件再由多個 UserParameter 去讀文件避免每次都重新 curl。后一種方案適合機器多、又不愿意放寬采集間隔的場景但腳本邏輯和錯誤處理要寫得更嚴謹否則一個腳本崩了所有 nginx key 都會失效。歷史數(shù)據(jù)保留方面原始監(jiān)控值保留 7 到 14 天足夠趨勢數(shù)據(jù)保留 365 天用于回顧容量。如果你發(fā)現(xiàn)自己經(jīng)常要回溯更久之前的 Nginx 指標建議單獨導出到外部存儲不要無限拉長 Zabbix 的保留周期否則數(shù)據(jù)庫膨脹之后整個監(jiān)控系統(tǒng)的查詢速度都會受影響。我個人更建議按這個順序落地先把狀態(tài)頁和 curl 驗證跑通再用 zabbix_get 確認 key 有數(shù)據(jù)然后創(chuàng)建主機和監(jiān)控項最后才是觸發(fā)器和圖形??雌饋砹鞒谈L但每一步都有明確的成功標準出了問題也知道在哪一段排查。真正跑過一輪測試之后你會發(fā)現(xiàn) Zabbix 監(jiān)控 Nginx 并不復雜難點反而不是工具而是你愿不愿意把一個累計計數(shù)器、一個狀態(tài)頁字段吃透。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久9综合在线| 亚欧国产无码精品在线| 9999久久久久| 亚洲AV在线资源| …亚洲黄色厕厕女女在线播…| 岛国大片国产| 日韩欧美丝袜诱惑| 欧美AAAA黄片| 人人人人人人少妇| 99re这里只有| 国产亚洲99久久精品| 日韩激情视频| av爱爱爱| 超碰国产情侣自拍网| 一本久久久精品| 久久性视频| 尤物视频网 刘玥| 国产亚洲精品激情| 国产丸一视频| 久久婷婷综合国际产色怕| 超硑97精品| 亚洲日韩视频二区| 操操操操网黑人| J?P?NESEHD熟女熟妇伦| 亚洲精品一区中文字幕乱码| 成人国产二区三区在线,男女精品。| 日韩色欲久久一二三四区| 荡小穴在线观看| 91丝袜美女视频| 色婷婷狠狠| 成人精品水蜜桃久久久久久久| 翔田千里一区二区三区奶水| 日本黄色裸日本黄色裸体 | 亚洲精品国产拍免费91在线| 韩国一级婬片A片AAAAA| av草草在线电影| 曰韩成人免费视频| 亚洲成人AB| 亚欧性爱在线无码| 97精品在线视频| 啊灬啊灬啊灬好深灬快高潮了动漫-国产字幕国产在线观看-B049AV | 人妻 欧美 中文| 国产超碰AV在线精品| 午夜天堂网| 综合国产影视三级| 国产成人天堂| 亚欧国产无码精品在线| 国产白丝AV| 男人兔费天堂| 亚洲欧洲中文日韩女优乱码| av情色影音| 手机在线中文字幕国产| 99视频自拍区| 精品国产乱码久久久久久久久1 | 超碰人人草| 91N综合网| 精品久久一区二区三区四区五区| 国产强奸乱伦第1页| 少妇蜜汁| AA特级绝黄| 欧美亚洲在线| 91狠狠综合久久久久久| 日韩乱中文| 久久激情四射婷婷丁香五月天| 天天日日夜夜| 人人人人插| 丰满熟妇大乳做爰| 蜜桃在线观看一区二区三区 | 啊啊啊啊啊啊啊国| 伊人黄色片| 长久操视频| 九九热在线精品视频| 日韩成年人性爱视频| 天天日天天射天天干| 亚洲制服欧美另类内射| 2020中文字幕在线观看| 又黄又粗又硬又长又大| 99ri视频| 亚洲色图日韩精品| 先锋影音av先锋一区| 亚洲色图第四色| 天美国产三级传媒| 人妻乱仑一区二区三区| 国产精品盗摄 偷窥盗摄| 欧美色图人妻| 人妻天天夜夜爽一区二区| 日韩黄片影院| 欧美性夜| 四虎免费视频| 日本久久综合| 精品妇女一区二区三区| 亚洲 欧美日韩 另类| 操逼操逼操| 天天日天天屌天天操| 色色婷婷丁香| 一个人免费视频观看在线WWW| 亚洲综合在线91| laoshunv91| 操久久久久久| 久久婷婷亚洲| 91快色色色色色| 国产精品美女视频诱惑| 国产免费小视频| 亚洲一区二区 麻豆传媒| 久久天堂婷婷网| 精品国产www久久| 久久精品人人做人人看| 欧美呦呦性爱| 99色网| 久欲AV| 亚洲美女 晚间男人天堂| 99在线精品视频| 国产日逼视频| 黑人白女精品一区| 亚洲国产成人7777| 精品综合久久久久久五月天| 九九九九免费| 日韩猛交| 亚州综| 国产尤物在线三区| 久操免费观看| 久伊人网78| 日韩综合第八区国产精品| 2000亚洲男人天堂| 久久av色| 九久久精品| 亚洲男人天堂2016| 欧美久久久15P| 7月婷婷综合| www.狠狠操| 一级免费啪啪片| 欧美顶级黄色大片免费| av在线一区二区三区| 欧美视频一| 极品白嫩美少妇在地板上位骑射淫水泛滥| 91老司机精品| 久久九九97| 熟女少妇一区二区三区| 动漫av中文| 91无摭挡| 激情文学小说一区二区| 久久久啊啊啊| 美欧色综合| 夜夜性| 国产自制av蜜乳| 91精品国产91久久青草| 日本影视久久免费| 国产精品久久伊人| 大香蕉啪啪啪| 蜜臀久久99精品久久久老,,| 18一区二区三区| 九九久久首页| 大香伊人在线一区| 国产后入清纯| 殴美色网| 自拍偷拍草一草| 在线a v| 日操粉逼逼| 26uuu国产免费观看| 日韩婷婷| 91色碰| 无码视频一区二区| 丝袜美腿操av| 神马久久久久久| 91爱网| 国产a片操逼| 国产一区二区二区按摩精品啪视频| 亚洲中文字幕在现观看| 综合免费无码中文| 日本大片日本一区二区免费高清| 国产熟女| 99超碰碰| 91视频精品| 婷婷中文网| 亚洲少妇喷视频看| 老女人碰碰在线碰碰视频| 丝袜美腿91| 男人的天堂网页| 久久xxxx| 日本不卡中文| 亚洲无992tv| 日本熟女不卡视频| 91久久久久久久久18| 亚洲一区深夜| 久久伊人青青草| 超碰97 线线 在现| 亚洲精品第一| 亚洲A色| 亚洲色图A| 久久久99免费| 能看的av| 9久9久9久9久视频网站| 精品国产一区二区三区四区在线看| 精品超碰国产| 亚洲91网。| WWW美腿丝袜香蕉中文| 国产精品不卡av免费在线观看| 国产成人亚洲精品无码古代早漏男 | 亚洲国产成人精品999| 人人操人人大香蕉| 鸥美插入视频| 亚洲乱妇p22| 日韩中文字幕在线视频观看| 婷婷激情一区二区三区俺也去| 伊人96在线| 天天插网| 婷婷丁香熟妇综合网| 亚洲丝袜色图| 9国产超碰| 青青草视频这里只有精品| 97舔舔| 就去色综合| 国产野战露脸在线播放| 天天摸天天碰天天添青青| 久久久青青草| 久久欧美性爱视频| 日韩熟女视频二区| www.91人妻.com| 亚洲精品久| www欧美91| 乱伦Av网| 超碰欧美97资源| 久久亚洲中文字幕视频| 麻豆人妻精品一区二区| 日本布卡一区二三区| 日韩性爱1级片视频| 久久久久精| 天天欲望网| 超碰成人国产| 中文字幕精品亚洲熟女| 无色无码| 91天天爱| 欧美一级国产一级| 粉嫩AV一区夜夜嗨| 亚洲伊人a线观看视频| 二区熟妇韩日| 久久精品国产Aⅴ| 日韩乱码Av| 久久这里只有精品9| 九九久久综合| 女人天堂av在线播放| 五月天综合网| 日本成熟少妇A∨网站| 亚洲熟妇图片| 老司机午夜精品视频| 黑操B| 97国产人人| 91亚洲人电影| 狠狠爱夜夜| 嗯嗯啊啊视频在线看| 91制服丝袜| 五月婷婷色色| 啊啊啊免费视频| 日韩国产品视频中文字| 中国一级操逼视频| 91黑丝操| 欧美精品自慰系列寂寞少妇| 久久久啊啊啊| 99久久com免费视频′| 91免费看一区二区三区| 日欧美色| 美女写真| 精品人妻av区天天看片| 青青草吊丝| 激情 欧美 亚洲 小说| 久久精品国产精品| 亚洲 欧美 天天| 2023天天操夜夜操| 日本不卡免费二区| 嗯嗯嗯好爽| 高清无码久操视频| 手机av亚洲丝袜美腿日韩第一页二页| 中文字幕日韩人妻视频一区二区三区| 91综合天天| 99色悠悠| 偷拍自拍在线视频观看| 久久东京热成人| 日本丝袜美腿人妻九九| 91在线精品| 97AV在线观看| 综合91网| 欧日韩不卡视.频| 亚洲激情在线观看一区| 91在线丝袜| 又黑又大又粗| 国产一区二区av综合| 亚洲情色 自拍| 91丝袜美女| 国产操偷| 大色综合| 亚洲色图 91| 啊啊啊啊啊操我视频| 国产强奸乱伦欧美| 热热色青青草| 91国产大片| 国产热RE99久久6国产精品首| 92一区二区| 中文字幕超碰CAO| 香蕉综合网| 亚洲无无码αⅴ每日更新| 丝袜美女诱惑 91 视频| 久久秀这里有精品| 欧美精品自慰系列寂寞少妇| 日韩在线地址一| 麻豆色99999| 精品视频专区| 欧美日韩超碰在线| 人人干人人搞人人摸| 超碰97人妻免费在线| 丝袜美腿操av| 天堂资源站| 丝袜喷水在线| 国产免费大片| 密桃99999| 久久久精品视频免费观看| 婷婷综合伊人一区| 大香蕉人妻久久| 超碰98综合网| 肥臀熟女福利视频一区二区| 日韩啪啪啪啪啪| 日韩探花精品在线视频| 亚洲欧美高清无码| 夜色91| 另类老少妇| 啊啊啊好舒服视频在线观看| 亚殴在线| 91爱综合| 中文字幕大片三级狠狠干| 熟女视频久久| 动漫爆乳3D奶水一区在线观看| 亚洲天天做日日做天天谢日日| 少妇久久久| 蜜臀久久久99久久久久| 国产精品一二三| 久久原创中文| 神马九九九| 1区2区3区中文字幕日韩| 精品视频日日夜夜| 欧美专利1区2区3区4区5区免费| 丁香五月影院| 免费夜夜爱黄色视频毛片| 青娱乐日韩无码| 美中日韩无码| 97欧美性爱| 操逼视频免费日韩无码| 高跟丝袜AV专区国产| 中文操逼字幕| 久久久久亚洲熟妇熟女| 操碰97| 探花精品 一区二区| 亚洲高清91| 婷婷国产精品一区二区| 中国和日本人色哪个不下载能放| 夜夜夜夜久久久久| 777超碰| 国产97在线 | 亚洲| 91 偷| 清纯唯美激情| 夜夜春夜夜操| 免费国产视频| 无遮挡一级毛片视频免费的| se吧提供91精品国产91久久久久久 | 国产又粗又长又大的视频| 精品二区三四区五电影 | 激情视频图片| 欧美亚洲在线| 亚洲色综合| 欧美AAAA黄片| 亚洲第一精品在线视频 | 日本女人操逼| 色嘟嘟人妻天堂网| 精品人妻夜夜草| 91网站18在线| 999久久芭蕾| 国产人妻久久精品一区二区三区| 2017天天操| 无码人妻精品酒店| 天天谢天天干| 大香蕉免费乱伦视频| av一区二区三区 中文| 久久精彩免费视频| 爽爽爽免费视频| 伊人色综合超碰| 日本精品国产视频| 久艹99| 日本欧美不卡| 亚洲成人黄色在线观看| 国产精品亚洲天堂网址| 一起草精品人妻| 久热无码| 妇女视频网站| 五十路成人在线视频二区三区| 久久人妻熟女一区二区| 天天做天天爱夜夜爽毛片试看| 中文字幕一区二区日韩网| 一起草精品人妻| 久久99黄色卞西瓜| 超碰夫妻97| 老鸭窝在线视频播放| 久久超碰日韩精品| 性爱视频无打码在线观看| 韩国一级婬片A片AAAAA| 欧美18禁91| 久久久久九九九九九| 欧美天天射| 制度丝袜99| 色吧综合网| 歐美一級亂黃99在綫精品| 一本色道久久综合熟妇| 免费观看一区| 女人高潮抽搐喷水视频网站| 亚洲人妻熟妇三十三区| 欧美色蜜桃97| 久久男人的天堂| 亚洲成人久久一区二区| 中文字幕艹艹| 日本大香蕉综合网红本杳社区| 91人精品妻入口| 婷婷色婷婷| 国产美女激情| 美女爽到高潮91| 日韩一区二区精彩视频| 丁香五月天社区| 亚洲日韩欧美一区二区| 日韩欧美日韩| 91oumei| 330dv亚洲成年视频网| 亚洲欧美洲综合| 日韩A优精品在线观看| 天美麻花大全视频| 学生妹天天看| 亚洲精品一区二区精品| 天天淫人人妻日日色| 后入式999| av激情亚洲五月天| 色色99| 超碰到97情色| ji熟女.com| 婷色五月| 九九这里只有精品| 黄色网址在线免费观看| 97久久精品国产| 超碰97国产欧美| 最新啪啪视频| 日韩丨制服丨中文|在线| 白丝被操91| 91蜜臀熟女| 91精品婷婷国产综合久久| 免费人成在线观看网站品爱网| 亚 欧 美 综合| 日本在线15p| 美国aaaaa一级黄片| 亚洲综合小视频小说在线观看| 欧洲亚洲人妻无码中字久久三区四区| 久久专区| 97干com| 欧美天天综合网| 日韩性爱播放| 欧美亚洲韩国视频十五区| 国产大学生口爆吞精合集| 一区二区三区四区色图| 亚洲av资源| 日本99久久| 国产激情在线| 成人看片网站| 精品一区二区三区免费古装毛片香港三级日本三级人妇 | 日韩av乱伦| 久9久9久9久9久9久9| 国产精品一区二区 尿失禁| 91精品免费| 久久九九国产精品| 日韩综合第八区国产精品| 黄色片大香蕉| 精品人妻一区二区三区鲁大师| 天天干,天天日| 欧美亚洲今日在线| 婷婷情色综合网| 91精品人妻偷情| 日韩国产十八禁| 成年人三级黄色片视频| baisiav| 黄色无码高清黄色无码网站| 热久久这里只有精品| 91亚洲综合在线| 99999久久久久9国产精品| 一级性爱视频免费观看| 久久久99999久网站| 国产AV无码AV| 久久精品电影在线| 九月AV| 日韩A优精品在线观看| 美女网站黄页| 亚洲nv男人的天堂网| 3PAV乱伦视频| 青操影院| 97中文天堂| 亚洲日本激情| 国语精品av| 国产怡红院| 国产精品爽爽v| 熟妇女伦乱视频视频| 久7色| 高潮的A片激情扒开一区| 吉川爱美亚洲二区在线| 超碰91在线| 91国产操逼视频| 九一性生活免费视频| 九九RE视频在线精品| 久久久精品| 欧美日韩青操| 亚洲日韩AV视色| 日韩中文字幕国产| 中文区中文字幕免费看| 久久精彩视频9| 嫩草影院性色| 久久亚洲中文字幕视频| 五月天精品| 亚州色图第三区| 日日日日做夜夜夜夜无码| 精品女同一区二区三区| 91日日| 91狠狠色丁香婷婷综合久久| 99久久精品无码一区二区毛片免费| 青青青草伊人精品| 99re这里只有精品3| 久久肏大逼| 色网站导航大全| 91天美免费| 91色黑人少妇| 日日夜夜天天| 国产精品久久久久久久毛片1| 色欧美综合| 久草男人天堂| 草b在线 | 国产精品久久久久久无码红治院| 久久久久久久97| 久久精品99| 成人A片男人的天堂| 成人婷婷丁香| 国产 日韩 另类 视频一区爱| 国产在线综合网| 久久一区二区加油站| 天天日日日射| 欧美日韩国产中文超碰| 亚洲精品性爱片| 久久久96| 久久精品无码专区| 玖玖资源视频一区二区三区| 在线亚洲丝袜视频网站| 另类av天堂| 99在线免费视频| 亚洲精品亚洲人成人网| 人人操人人摸人 | 久久久久久中文| 一区二区国产视频在线观看| 国产有码一区| 麻豆天美国美国产| 亚洲天堂东京热| 一本久道久久综合狠狠爱| 日本午夜福利影院| 中国探花熟女| 凸凹视频在线观看| 中日韩欧美精品无码AⅤ一区二区| 亚州熟女乱伦| 被窝影院午夜看片无码| 日韩免费中文字幕视频| 日本女人久久久| 亚洲综合嫩| 很很很很操| 1024手机看片欧美日韩| 欧美色图 人妻| 美女毛片999| 亚洲揄拍网| 久久久久久久久久久久黄色 | 欧美黄色片AAAAA| 插欧洲美女欧美精品| 变态乱伦伪娘灌肠一区二区| 久久久久久电影| 乱伦一区二区三区‘| 免费的黄片有限公司| 欧美亚洲国产91在线| 久久无码一区二区二三区性色| 三上悠亚在线毛片91| 偷拍精品一区二区三区| 亚洲欧美国产va在线播放频| 国产精品视频91久久| 国产成人 综合亚洲 天堂| 国模无码人体一区二区三| 精品国产91内射久久| 岛国激情视频在线观看| 日韩亚洲中文字幕在线| 日本免费一级AAA大片器| 淫荡少妇免费| 欧美成人性爱视频大全| 深爱五月天| 91男女啊啊啊| 亚洲激情色片 | 麻豆色99999| 唯美清纯 妖精视频| 啊啊啊好多水| 天天艹天天日| 99人人干| 天天日日本| 久久精品国产精品| 96精品一区| 欧美激情精品| 色综合国产在线观看| 欧美性爱91| 国产色呦呦| 少妇二级| a人片中文字幕一区二区| 久久激情视频| 精品无码久久久久久久久果冻糖心 | 777超碰| 性爱网站一区二区| 一级AV性爱| 在线观看av区| 刺激性视频黄页| 欧美色图亚州激情| 亚欧操逼片在线观看| 天天欧美97| 国产色综合亚洲色综合吹潮| 欧美性生活综合| 亚洲综合色男人网| 91色色综合| 蜜臀AV午夜精品久| 久久亚洲欧美中文字幕国语| 日韩操人| 91丝袜熟女| 亚洲欧美综合| 爱做久久久久久| 国产又大又粗又长视频在线| 快播久久人人aV| 久久久久久免费电影| 麻豆成人影音在线| 综合久久六月久久婷婷| 九九九九九九九九九九九免费国产| 色妇91| 丁香色狠狠色综合久久小说| 亚欧高清在线| 欧美白嫩女HD| 97亚洲综合| 20cm女自慰在线日韩欧美| 久久久久久AⅤ无码免费肉站| 欧美一二三区四五区| 91白虎| 亚洲一区二区三区AV无码 | 亚洲国产一区二区三区四区国产| av婷婷色网| 日日骚av| 夜嗨影院| 亚州熟妇精品| 秋霞一集毛片观看| 精品无码久久久久久久久果冻糖心 | 久久內射| 欧美一区二区男人天堂| 5278欧美一区二区三区| 97精品第3页| 欧美激情久操网| 人妻激情偷乱视频一区二区三区 | 欧美天天综合站| 精品人妻免费观看| 正在播放:深夜激情大战,自带黑丝袜全力输出骚穴 | 啊啊好多水| 美女黄页网站| 黑人狂躁日本妞一区二区三区| 超碰公开久久网| 久久久性爱| 欧美麻豆成人同性GⅤ在线| 嗯嗯啊啊好大好爽| 亚洲激情综合另类男同| 熟妇最新先锋一二三区| 亚洲综合九九| 久久久久成人蜜桃精品| 蜜臀在线网站| 人人射人人操人人摸| 人妻内射一区二区在线视频| 色色网91| 日韩情色AV| 欧美一二三级精品在线| 91 国产丝袜在线放观看| 久久精品无码一区二区三区| 亚洲色综合| 久久亚洲一区女同性恋中文字幕| 性爱av在线免费观看| 久久久精品视频欧州站| 性色av网站| 中出人妻中文字幕91在线| 婷婷丁香五月天综合东京热| 9 9无尺码天堂网| 中文字幕一区二区韩| 啊啊啊在线看| 免費黃色視頻觀看一| 国模不卡一本二本三电影| 92性色国产午夜福利在线661 | 超碰538| 国产极品99热在线播放69| 美女人妻色网站| 亚洲影院成人| 五月婷婷六月丁香| 一区二区不卡视| 国产精品大香蕉| 人人操人人肉久久精品| 亚洲第一页色| 澳门色噜噜色噜噜色噜噜色噜噜色噜噜| 99热9| 日日骚av| 亚洲美乱| 狠狠操官网| 无码久| 五月天玖玖资源站| 午夜美女诱惑电源网| 一级啊性爱在线视频| 偷拍新久久| 日本三级中国三级99人妇网站| 嗯嗯啊啊操我| 一区二区不卡| 国产亚洲综合欧美一区| 97爱亚洲| 超碰综合色| 伊人女女资源在线观看| 青草一区二区| 99热免费精品| 女人被添高潮免费视频| 天天插网| 99国内熟女露脸视频| 亚洲熟女中文字幕在线| 久久99久久99精品天美传媒棢·纸:. | 中文字幕一区电影在线观看| 蜜臀一二三区| 天天综合精品| 日韩免费大片一级播放| 久久精品无码不卡| 91肏屄网| 久久啊啊| 97色涩| 国产操偷| 蜜臀99久久精品久久久懂爱| 亚洲国产剧情少妇激情| 日本一区二区三区免费观看| 区自美91| 天天干一区二区| 国产99久久99热这里只有精品15| 777超碰| 精品176精品2| 97啪啪| 一本色道无码DVD中文字幕| 青青国产在线拍揄自揄拍| 99久久综合| 色在线亚洲视频www| 美女性91| 国产精品一区二区后入| 熟女色图在线| 欧美97网| 亚洲精品人妻在线| 精精夜夜| 亚洲色婷婷综合久久一区二区三区| 色臀AV| 亚洲免费人妻在| 色情亚洲日本成人| 久久久精品| 国产精品亚洲免费| 97超碰天天爱天天爱| 哈哈操 大香蕉| 91碰超| 欧洲Au麻豆| 女优大全 - 91n| 欧美一级A片在线看视频性色| 日韩一级二级| 九九九九免费视频| 欧美日韩不卡a片| 日本污ww视频网站| 色悠久久久av| 精品国产av一区二区三区四区入口| 国产亚洲精品美女久久久久久2021| 六月丁香网| 人人澡人人澡人人| 精品成人亚洲午夜电影| 大香蕉中文aV在线| 台湾佬大香蕉| 在线视频日韩欧美国产| 蜜臀亚洲综合一二三四区| 男女性无套 免费九一| 人妻熟女av国产网站| 久久久久人妻| 九九热在线精品视频| 天天综合亚洲综合| 亚洲不卡AV在线| 国产精品伦理| 欧美劲爆视频一区二区| 国产精品不卡一区二区三区| 国产91会所女技师在线观看| 中文字幕视频一区视频二区| 欧美+日产+中文| 五月天玖玖资源站| 91久久国外网| 91黑丝美女| 亚洲乱码精品一区二区| 天天视频综合在线观看视频| 人妻少妇精品久久久| 亚洲成人性| 亚洲大胆人体av| 国产精品极品美女视频| 欧美一级专区免费大片| 太久视频| 风月影院男女十八禁| 欧美顶级黄片AAAAA在线免费看| 日韩视频小说在线观看| 国产精品自拍xxxx| 国产精品毛片| 久久精彩免费视频| 天天日天天干天天操| 最新欧洲欧美日本激情网站| 日本道不卡| 97青娱乐超碰久久| 欧美大香蕉同搞| 91AV国产精品| 久久人人爽人人爽人人片Ⅴ| 亚洲色性| 亚洲婷婷五月天| 亚洲天堂在线怕怕视频| 97视频www| 亚洲中文国际强奸字幕| 五月天日日操夜夜操| 久久人妻视频网| 小说区 图片区色 综合区| 天天干2区3区| 二男一女成人A片| 亚洲丨在线| 人人操天天爽| 五月天黄色激情视频| 熟女熟妇一区二区三四区| 亚洲欧洲小说图片视频| 欧美人人曰人人操人人射射| 神马久久久久久久久久久久| 大色综合网| 久肏视频字幕| 操婢日韩| 神马麻豆福利院| 久久精品视频28| 日本三级一区二区 在线| 国产妇女精品视频青青草| 国语av最新自产拍在线观看| 老熟乱一区二区三区四区| 天天干天天日天天射黄色大片| 国产亚洲女v在线观看| 97碰碰色| 亚洲老司机123专区| 国产精品视频白浆免费| 久久国产AⅤ| 女人18精品一区二区三区| 视频在线观看一二三区| 乱伦av国产| 欧美色乱| 伊人在线大香蕉视频久久| 中文字幕av色| 国产精品无码论坛| 高清在线不卡一区二区 视频| 校园春色AV天堂| 97色涩| 久久久久精| 日本色色的视频| 超碰人人操97碰| 超碰偷拍| 亚州 综合 色图| 97色冈| 免费精品福利在线观看| www久久国产精品| 快灬快灬 一下爽蜜桃在线观看| 超碰夫妻97| 手机av天堂久久久久| 欧美日韩操逼嗦吊| 成人AV在线网站| 欧美夜色| 天天亚洲综合| 亚洲男人天堂2019| 九九RE视频在线精品| 久久国产AⅤ| 加勒比综合网| 性生活无遮挡纯毛片在线看| 久久久久久大| 成人无码专区精品视频| 久久精品国产精品亚洲艾通辽熟妇 | 熟女乱伦A| 肏逼视频日本| 高清国产精品福利网站| 熟妇视频一区二区三区在线| 久99在线免费观看视频| 激情终合网| 99色色网| 婷婷丁香五月综合| 中文字幕av一区二区三区人妻少妇 | 日韩精品永久在线观看| 蜜乳AV一区| 中国一级操逼视频| 超碰国产精品久| 欧美18 在线观看| 国产精品人妻免费精品| 91丝袜在线观看| 日韩成人性日韩成人性爱视频在线免费观看| 天天干1区2区在线| 中出人妻中文字幕91在线| 少妇内射视频| 亚洲欧美激情小说| 九九九热精品| 久久久9 9 9精品| 超碰97亚洲区| 玖玖爱伊人玖玖爱| 人妻喷水| 一本色道久久综合精品婷婷| 超碰碰97资源站| 亚洲天堂资源在线| 超碰九7| 91人妻人人澡人人爽人人精品| 乱伦熟女论坛| 91狠狠综| 大香蕉一区二区在线观看.| 久久精品中文字幕无码l| 亚洲熟女精品| 欧美巨大性舒爽顶到了| 亚洲欧洲无码bt精品合集| 96精品久久久久久久久| 午夜福利国产欧美日韩夜夜| 亚洲无码超碰免费| 人人操人人摸人人看人人干| 视频在线观看免费一区二区三区| 郑州宾馆老熟女露脸啪啪| 啪啪AV导航| 亚洲最新av无码成人精品区 | 啊啊啊好想要| 日韩特级毛片免费观看全集| 久热在线精品免费观看| 精品国产Av无码久久久亚洲| 91久久| 中文字幕精品免费一区二区| 精品一区二区在线针对华人免费观看这里只有精品免费观看 | 日本五十路在线| 91亚洲狠狠色| 欧美天天综合网| 伊人久久亚洲色欲综合网站 | 2017大香蕉国产精品久久| nuu12国产麻豆精品| 女人天堂av在线播放| 91超碰丝袜制服| 欧美色综合| 国产熟女免费观看久久| 五月天开心网| 亚洲永久永久永久永久一级一级一级精品| 1024午夜激情男人的天堂| 麻豆熟妇乱妇熟色A片在线看| 黄页av| 在线一道啪| 超碰三级秋霞| 人人操人人射人人干| 亚洲欧美人妻| 亚洲图片另类| 欧美,日韩综合久久| 床上啊啊啊一区二区三区| 天天天乱色综合全| 亚洲高清欧美总合| 日韩av不卡在线看| 欧美成人都市人妻| 免费99精品国产自在在线| 久操视频在线观看| 日本久久天堂| h在线看免费版在线看| 啊啊啊啊啊啊啊在线| 久久精品人妻一区| 国产一区二区三区精品观看啪| 97五月天| 免费草草草草草视频| 18+91网站| 翔田千里A片一区二区| 91狠狠色丁香婷婷综合久久精品| 素人无码中文字幕| 欧美成人一级麻豆| 婷婷久久五月| 欧美性综合| 操逼无码操逼| 亚洲日韩AV视色| 欧美,亚洲,日韩,v,天堂,手机在线观看| 中文字幕日韩专区精品系列 | 91影库| 男人兔费天堂| 校园春色美腿丝袜 | 欧美丝袜91| 国产综合日韩伦理| 日日狠狠久久偷偷色综合免费| 欧美骚少妇| 思思热在线视频在线| 深夜操逼网| 久久岛国| av一区二区三区 中文| 另类视频在线| 欧美天天性| 色五月av| 97亚洲色图| 激情五月天色色网| 色天堂综合| 国产91亚洲精品一区二区三区| 久久久久骚| 夜夜高潮夜夜爽夜夜爱爱一区| 久久性爱大全| 久久久禁| 亚洲成人日韩小说| 99只有精品| 亚洲图片色图欧美另类| 一区,二区,三区网站| 国产强奸无码乱伦| 五月婷婷基地| 九九九国产| 91视频国品一二三区| 亚洲AV不卡在线观看| 亚洲精品成人激情在线| 麻豆天美在线| 欧美少妇性爱网站| 97草草| 一区二区三区激情在线观看| 我想要啊 啊 啊| 制服乱伦| 日产精品久久久一区二区| 国产精品午夜高潮呻吟久久av| 五十路二区在线| 精品国产一区二区三区香蕉欧美| 9久久美女首页| 天堂а√在线最新版在线| 亚洲瓯美色图| 国产精品久久久吖| 日韩啪啪啪视频| 久久成人国产| 9九九国产| 亚洲九月丁香| 疯操AV| 情色AV电影| 欧洲黄色网| 校园春色综合香蕉| 婷婷综合网站| 少妇久久久久久| 日韩三级在线观看mp4| 欧美系列在线一区二区| 日日骚av| 99热综合在线| 影视综合无码少妇| 中文字幕在线第二页| 日韩啪啪网| 久久精品国产精品一区| 欧美日韩青操| 五月婷婷性爱| 八戒午夜福利理论片| 综合网亚洲1| 1024亚洲中文字幕久在线看片你懂的| 偷拍亚洲高清图片| 岛国黄色大片网站| 天天看天天日| 偷拍2020| 天美传媒国产原创中文字幕亚洲欧美另类 | AAAAAAAAA黄片| 久久久久久久| 欧美色图人妻| 激情四射婷婷四五月天| 欧美亚洲尤物久久| 一级免费精品| 97精品国产97久久久久久| 不卡av在线中文字幕| 男人的天堂com| 很很很很操| 激情综合97| 特级毛片特黄久久免费看| 91欧美综合| 欧洲精品区| 久悠悠av| 国产自偷自拍一区| 久艹日日日| 国产精品。| 五月天综合在线| 日本性爰一道本| 97av在线观看| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 婷婷激情四射| 久久久久亚洲?V片无码V| 91中文字幕在线观看| 少妇人妻精品| 国产欧美精品日韩区二区麻豆天美| 97人妻免费中文字幕| 久久精品99| 宅男91视频在线播放| 天天爽天天操| 亚洲古典另类欧美在线| 日韩性爱免费观看视频| 精品午夜福利导航| 久久久久久中文| 91男同| 亚洲第一色页夜| 久久久无码国精品无码三区三区| 人妻 丝袜美腿 中文字幕| 在线视频 亚洲精品| 久久久三区二区一区| 老鸭窝黄色视频网站| 久久精精区一区二区一蜜桃一区二区| 强奸乱伦大香蕉网| 日韩免费看在线黄色片| 亚洲欧美综合| 天天综合色图| 漂亮人妻被强中文字幕hd| 99re在线视频国产| 农村妇女精品一区二区| 一道本东京热加勒比一区二区三区| 亚州国产精品乱| 亚洲欧洲偷拍一区| 激情综合五月| 激情五月天婷婷| 东北丰满熟女国产一区 | 九九九九九精品十六| 国产精品丝袜久久亚洲不卡| 97视频在线观看高清资源| 蜜桃久久久久久久| 九九无码久久精品视频| 老子午夜伦不卡影院| 最新亚洲黄色免费电影| 蜜臀Av一区二区三区| 亚洲精品蜜桃久久久| 婷婷探花久久精品一区| 国产视频小说| 久久久成人免费av电影| 国产热av| 中文字幕人乱码中文字的预防方法 | 精品十八在线观看| 国产青青美女玩逼视频| 96久久科窝| 内射日韩大臀美女| 伊人大香蕉在线| 淫淫总合网| 91超级碰| 男人夜色天堂ss| 日韩性色b| 精品国产污一区二区三区| 久久九九99| 又大又黄国产| www鬼畜国产男人的天堂| 天天操女人| 欧美色日本| 99啪啪| 欧美美女后入| 日韩美女,国产传媒,视频一区| 亚热日本熟女| 97自拍一区| 色97综合中文字幕| 操人妻视频| 麻豆精品一区二区三区四区免费观看| 日本熟妇人妻一区二区三区| 九九九国产精品| 91亚洲欧美激情| 国产女同在线观看视频| www.yeyecao| 91天堂色男人的天堂| 天天视频黄网站| 日日操天天操| 成人女人国产| 男人久久精品| 婷婷五月天无码|