久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

微服務(wù)日志體系設(shè)計(jì):從規(guī)范到排障的完整實(shí)踐

微服務(wù)日志體系設(shè)計(jì):從規(guī)范到排障的完整實(shí)踐 微服務(wù)架構(gòu)解決了單體應(yīng)用擴(kuò)展難的問題卻把排障難度轉(zhuǎn)移到了日志和鏈路追蹤上。一次用戶請(qǐng)求跨越多個(gè)服務(wù)、多個(gè)數(shù)據(jù)庫、多個(gè)中間件任何一個(gè)環(huán)節(jié)超時(shí)或報(bào)錯(cuò)都需要從分散日志中還原現(xiàn)場。如果日志體系沒有設(shè)計(jì)好排障就變成低效的人工 grep。微服務(wù)日志體系不是簡單地接一個(gè)采集工具而是一套覆蓋日志產(chǎn)生、規(guī)范、采集、傳輸、存儲(chǔ)、檢索、告警和治理的完整鏈路。這里會(huì)先講清楚排障難點(diǎn)再逐步展開一套可落地的生產(chǎn)級(jí)日志體系設(shè)計(jì)。1. 為什么微服務(wù)排障難日志體系要解決什么問題1.1 微服務(wù)排障的三類典型困境第一類困境是日志分散。單體應(yīng)用時(shí)代一個(gè)請(qǐng)求的完整執(zhí)行過程基本都在同一個(gè)進(jìn)程里日志文件也相對(duì)集中。微服務(wù)化之后一個(gè)請(qǐng)求可能要經(jīng)過網(wǎng)關(guān)、用戶服務(wù)、訂單服務(wù)、支付服務(wù)、消息消費(fèi)者每個(gè)服務(wù)可能還有多個(gè)實(shí)例。日志散落在不同機(jī)器、不同容器、不同目錄里沒有統(tǒng)一線索時(shí)很難把一次請(qǐng)求串起來。第二類困境是格式不統(tǒng)一。不同團(tuán)隊(duì)寫的服務(wù)可能有的用 logback有的用 log4j2有的直接System.out.println。日志時(shí)間有的用本地時(shí)間有的用 UTC有的沒有毫秒。字段命名也各不相同userId和user_id同時(shí)存在。排障時(shí)每次都要先理解日志格式再去過濾效率很低。第三類困境是日志量大。微服務(wù)實(shí)例一多日志量會(huì)快速膨脹。如果直接全文檢索查詢會(huì)越來越慢如果不做索引生命周期管理磁盤遲早被寫滿。到了大促或故障高峰期日志系統(tǒng)本身也可能成為瓶頸反而拖慢業(yè)務(wù)恢復(fù)。1.2 生產(chǎn)級(jí)日志體系的目標(biāo)所謂生產(chǎn)級(jí)不是日志采集工具能跑起來就行而是必須滿足幾個(gè)基本要求。請(qǐng)求有鏈路標(biāo)識(shí)。入口生成 traceId下游服務(wù)通過調(diào)用鏈透傳日志中能根據(jù) traceId 查到一個(gè)請(qǐng)求的完整路徑。日志格式可解析。日志輸出為結(jié)構(gòu)化字段而不是只有一段模糊的文本。至少包含時(shí)間、級(jí)別、服務(wù)名、實(shí)例、traceId、業(yè)務(wù)消息和異常信息。日志延遲可控。從業(yè)務(wù)寫日志到 Elasticsearch 可檢索延遲需要在一定范圍比如分鐘級(jí)以內(nèi)。不能經(jīng)常出現(xiàn)日志丟失或幾個(gè)小時(shí)后才看到日志。日志有生命周期。熱數(shù)據(jù)保留幾天冷數(shù)據(jù)保留更長時(shí)間超過保留周期的數(shù)據(jù)要自動(dòng)刪除或歸檔而不是等磁盤告警后手工清理。日志系統(tǒng)本身不能影響業(yè)務(wù)。應(yīng)用寫日志是異步的采集鏈路故障時(shí)不能阻塞業(yè)務(wù)線程。生產(chǎn)級(jí)體系還要關(guān)注采集組件狀態(tài)、Kafka 消費(fèi)堆積和 ES 磁盤水位。2. 設(shè)計(jì)日志體系前先把日志規(guī)范定下來日志規(guī)范是整套體系的地基。如果每個(gè)服務(wù)輸出的字段都不一樣后面接 Filebeat、Kafka、Logstash、Elasticsearch 都會(huì)很被動(dòng)。排障效率提升的第一步不是工具而是標(biāo)準(zhǔn)。2.1 統(tǒng)一日志字段讓檢索有依據(jù)建議服務(wù)端日志統(tǒng)一輸出為 JSON 格式。每條日志的頂層字段盡量固定下面是一組常見字段。字段類型含義示例timestampstring日志產(chǎn)生時(shí)間2026-06-01T10:00:00.123Zlevelstring日志級(jí)別ERRORservicestring服務(wù)名order-serviceinstancestring實(shí)例標(biāo)識(shí)10.0.0.1:8080traceIdstring鏈路ID8f3a1b2c...methodstring請(qǐng)求方法POSTuristring請(qǐng)求路徑/api/orderstatusintHTTP 狀態(tài)碼500costMsint接口耗時(shí)毫秒128userIdstring用戶標(biāo)識(shí)u_10001messagestring業(yè)務(wù)消息訂單創(chuàng)建失敗exceptionstring異常棧原文java.lang.NullPointerException...字段不是越多越好但上面這些基礎(chǔ)字段能覆蓋大部分排障場景。service用于區(qū)分系統(tǒng)instance用于還原具體實(shí)例traceId用于串聯(lián)調(diào)用鏈costMs用于定位性能問題exception用于快速搜索異常棧。實(shí)際項(xiàng)目里團(tuán)隊(duì)可以先定一個(gè)最小字段集發(fā)布到協(xié)作文檔或代碼倉庫的模板中。新服務(wù)開發(fā)時(shí)必須按這套字段輸出老服務(wù)逐步遷移。不要指望所有服務(wù)一天改完但至少要有一個(gè)明確的規(guī)范版本。2.2 日志級(jí)別怎么定避免日志噪音日志級(jí)別是排障時(shí)最重要的過濾維度之一。級(jí)別定得不好會(huì)帶來兩種典型問題把 ERROR 當(dāng)普通日志打告警全是噪音或者把 DEBUG 打到生產(chǎn)日志量爆炸真正有用的 ERROR 被淹沒。級(jí)別使用場景生產(chǎn)預(yù)期ERROR業(yè)務(wù)失敗、異常導(dǎo)致流程中斷需要人工介入保留并告警WARN可以恢復(fù)但不正常比如緩存穿透、重試成功保留不直接告警INFO關(guān)鍵流程節(jié)點(diǎn)比如訂單創(chuàng)建、支付回調(diào)保留但要控制頻率DEBUG排查細(xì)節(jié)數(shù)據(jù)默認(rèn)關(guān)閉按需開啟TRACE內(nèi)部調(diào)用鏈細(xì)節(jié)很少開啟一個(gè)簡單判斷標(biāo)準(zhǔn)如果某條日志打出來之后值班同學(xué)不用看那它就不該是 ERROR。ERROR 應(yīng)該對(duì)應(yīng)一個(gè)需要關(guān)注的失敗事實(shí)而不是每次 catch 異常都打 ERROR。2.3 TraceID 貫穿始終從一次請(qǐng)求還原完整路徑TraceID 是微服務(wù)日志體系里最重要的字段。它的作用很簡單一次外部請(qǐng)求進(jìn)入系統(tǒng)時(shí)生成一個(gè)唯一 ID之后所有服務(wù)在處理這個(gè)請(qǐng)求時(shí)都攜帶這個(gè) ID并寫入各自日志。排障時(shí)只要搜索這個(gè) ID就能得到完整請(qǐng)求鏈路。常見做法是在網(wǎng)關(guān)或入口 Filter 中生成 TraceID并通過 HTTP Header 向下游傳遞。比如統(tǒng)一使用X-Trace-Id作為透傳 Header。以 Servlet 場景為例可以用一個(gè) Filter 在入口生成并寫入 MDC。public class TraceIdFilter implements Filter { Override public void doFilter(ServletRequest request, ServletResponse response, FilterChain chain) throws IOException, ServletException { String traceId ((HttpServletRequest) request).getHeader(X-Trace-Id); if (traceId null || traceId.isEmpty()) { traceId UUID.randomUUID().toString().replace(-, ); } MDC.put(traceId, traceId); try { ((HttpServletResponse) response).setHeader(X-Trace-Id, traceId); chain.doFilter(request, response); } finally { MDC.remove(traceId); } } }MDC.remove很重要。線程池中的線程會(huì)被復(fù)用如果不清理下一條請(qǐng)求可能拿到上一個(gè)請(qǐng)求的 traceId導(dǎo)致日志串鏈路。下游服務(wù)在發(fā)起遠(yuǎn)程調(diào)用時(shí)要把 traceId 繼續(xù)傳遞下去。HttpHeaders headers new HttpHeaders(); if (MDC.get(traceId) ! null) { headers.set(X-Trace-Id, MDC.get(traceId)); }使用異步線程池時(shí)MDC 不會(huì)自動(dòng)傳遞。如果是 SpringThreadPoolTaskExecutor可以通過TaskDecorator在提交任務(wù)時(shí)拷貝 MDC執(zhí)行完后恢復(fù)如果只是在代碼里手動(dòng)new Thread則需要手工 put 和 remove。日志框架側(cè)也要把 traceId 輸出到結(jié)構(gòu)化字段中。使用logstash-logback-encoder時(shí)encoder 會(huì)自動(dòng)包含 MDC 中的字段。以 logback 為例一個(gè)最小 JSON 輸出配置如下。configuration appender nameJSON_FILE classch.qos.logback.core.rolling.RollingFileAppender file/data/logs/order-service/app.log/file rollingPolicy classch.qos.logback.core.rolling.TimeBasedRollingPolicy fileNamePattern/data/logs/order-service/app.%d{yyyy-MM-dd}.log/fileNamePattern maxHistory7/maxHistory /rollingPolicy encoder classnet.logstash.logback.encoder.LogstashEncoder includeMdctrue/includeMdc customFields{service:order-service,env:prod}/customFields /encoder /appender root levelINFO appender-ref refJSON_FILE/ /root /configuration這里把service和env固定寫進(jìn)了應(yīng)用日志配置避免了每個(gè)服務(wù)在業(yè)務(wù)代碼里重復(fù)拼接。不同版本 encoder 的配置略有差異落地前先確認(rèn)依賴版本。3. 日志采集層從服務(wù)本地日志到統(tǒng)一通道日志規(guī)范定好后下一個(gè)問題是日志怎么從應(yīng)用進(jìn)程到達(dá)統(tǒng)一的日志中心。生產(chǎn)環(huán)境常見的方案是應(yīng)用寫本地文件Filebeat 采集文件輸出到 Kafka。3.1 本地文件采集和直接上報(bào)怎么選有些新項(xiàng)目會(huì)直接在應(yīng)用里用 HTTP 或 SDK 把日志發(fā)送到 Logstash 或 Kafka。這種方式接入快但客戶端邏輯重還要處理發(fā)送失敗、緩沖區(qū)溢出、網(wǎng)絡(luò)抖動(dòng)等問題。應(yīng)用本身已經(jīng)有業(yè)務(wù)邏輯再承擔(dān)完整的日志傳輸職責(zé)容易引入不穩(wěn)定因素。更穩(wěn)妥的組合是應(yīng)用只負(fù)責(zé)把結(jié)構(gòu)化日志寫到本地磁盤采集器負(fù)責(zé)讀文件和傳輸。Filebeat 是常用選擇它輕量、內(nèi)存開銷小、支持?jǐn)帱c(diǎn)續(xù)采適合部署在應(yīng)用實(shí)例旁邊。采集端故障時(shí)應(yīng)用日志仍然寫在本地文件不會(huì)立刻丟失。這相當(dāng)于給日志多了一層本地緩沖。學(xué)習(xí)環(huán)境可以直接看控制臺(tái)或tail -f日志文件生產(chǎn)環(huán)境建議走文件采集。直接上報(bào)適合日志量不大、團(tuán)隊(duì)能接受客戶端 SDK 維護(hù)成本的場景但不是默認(rèn)首選。3.2 Filebeat 采集配置示例Filebeat 配置由 input 和 output 兩部分組成。下面是一個(gè)把訂單服務(wù)日志采集到 Kafka 的示例。filebeat.inputs: - type: filestream id: order-service-app enabled: true paths: - /data/logs/order-service/*.log fields: service: order-service env: prod fields_under_root: true processors: - add_host_metadata: ~ output.kafka: hosts: [kafka01:9092, kafka02:9092, kafka03:9092] topic: app-log partition: round_robin: reachable_only: true required_acks: 1 compression: gzip max_message_bytes: 1048576paths指定日志文件位置推薦一個(gè) input 只匹配一個(gè)服務(wù)的日志。fields用于給日志打上服務(wù)名和環(huán)境標(biāo)簽fields_under_root: true讓這些字段出現(xiàn)在日志頂層。add_host_metadata會(huì)把主機(jī)名和 IP 加進(jìn)來方便按實(shí)例過濾。output.kafka中的required_acks: 1表示 Kafka leader 寫入成功即可返回性能和可靠性比較均衡。compression: gzip可以降低網(wǎng)絡(luò)帶寬但會(huì)增加一點(diǎn) CPU 開銷。日志量很大時(shí)這個(gè)權(quán)衡通常值得。如果 Filebeat 版本較舊可能沒有filestream需要使用loginput。接入前先確認(rèn)版本不同版本的配置語法有差異。3.3 采集層最容易踩的坑第一個(gè)坑是多個(gè)服務(wù)共享同一個(gè)日志目錄。比如把所有服務(wù)的日志都寫到/data/logs/app.logFilebeat 采集后只能打同一個(gè)service標(biāo)簽無法區(qū)分來源。推薦按服務(wù)隔離目錄比如/data/logs/{service}/app.log。第二個(gè)坑是 Filebeat 重復(fù)采集滾動(dòng)日志。應(yīng)用日志按天滾動(dòng)后舊文件可能被改名成app.2026-06-01.log。如果 Filebeat 的 path 使用*.log可能把滾動(dòng)文件和新文件同時(shí)采集產(chǎn)生重復(fù)。建議嚴(yán)格約定文件名規(guī)則并在采集配置里避免把歸檔目錄包含進(jìn)來。第三個(gè)坑是采集延遲的假象。業(yè)務(wù)日志已經(jīng)寫到文件但 Filebeat 的ignore_older或close_inactive配置過大導(dǎo)致新日志不能及時(shí)讀取。排查時(shí)不要只看應(yīng)用日志有沒有寫還要看 Filebeat 是否處于運(yùn)行狀態(tài)、是否報(bào)權(quán)限錯(cuò)誤。4. 日志傳輸管道如何保證日志不丟不堵日志量是有峰值的。大促、秒殺、定時(shí)任務(wù)集中執(zhí)行時(shí)日志寫入速率可能瞬間翻幾倍。如果所有采集器直接把日志寫到 ElasticsearchES 寫入壓力會(huì)很大。引入 Kafka 作為緩沖是生產(chǎn)級(jí)日志體系里常見的解耦手段。4.1 Kafka 緩沖的作用和關(guān)鍵參數(shù)Kafka 在日志鏈路中負(fù)責(zé)削峰填谷。Filebeat 寫入 Kafka 后下游 Logstash 或消費(fèi)程序可以按照自己的節(jié)奏消費(fèi)不會(huì)因?yàn)闃I(yè)務(wù)流量突增而丟日志。Topic 設(shè)計(jì)時(shí)可以只建一個(gè)app-log主題通過日志中的service字段區(qū)分服務(wù)。也可以按環(huán)境分主題比如app-log-prod和app-log-test。分區(qū)數(shù)要結(jié)合下游消費(fèi)并發(fā)決定。單個(gè)分區(qū)只能被同一個(gè)消費(fèi)組里的一個(gè)線程消費(fèi)分區(qū)太少消費(fèi)并發(fā)上不去分區(qū)太多Kafka 元數(shù)據(jù)開銷也會(huì)變大。副本數(shù)建議生產(chǎn)環(huán)境至少 3并配置min.insync.replicas防止部分節(jié)點(diǎn)故障時(shí)寫入丟失。retention.ms可以設(shè)置日志在 Kafka 中的保留時(shí)間給下游鏈路故障留出恢復(fù)窗口。常見設(shè)置是保留 24 到 72 小時(shí)具體要看磁盤成本和團(tuán)隊(duì)對(duì)日志完整性的要求。分區(qū) key 的選擇也要考慮。如果希望同一實(shí)例的日志順序保持有序可以使用instance作為 key如果只關(guān)心吞吐可以使用輪詢策略。跨服務(wù)按 traceId 聚合到同一分區(qū)意義不大因?yàn)椴樵冸A段已經(jīng)在 ES 中完成聚合不需要在消息隊(duì)列里強(qiáng)制同分區(qū)。4.2 Logstash 消費(fèi)和寫入 ElasticsearchLogstash 在整個(gè)鏈路里負(fù)責(zé)消費(fèi) Kafka 消息、解析字段、補(bǔ)充信息再批量寫入 Elasticsearch。由于應(yīng)用側(cè)已經(jīng)輸出 JSON 日志Logstash 的 filter 可以保持很輕不需要用復(fù)雜的 grok 正則去切文本。一個(gè)最小 pipeline 配置如下。input { kafka { bootstrap_servers kafka01:9092,kafka02:9092 topics [app-log] group_id logstash-app-log codec json consumer_threads 6 } } filter { date { match [timestamp, ISO8601] target timestamp } if [exception] { mutate { add_field { error_flag true } } } } output { elasticsearch { hosts [http://es-data01:9200, http://es-data02:9200] index app-log-%{YYYY.MM.dd} } }codec json表示消息體本身就是 JSON。datefilter 把日志里的timestamp解析成 ES 使用的timestamp字段。error_flag是為了后續(xù)檢索時(shí)快速過濾異常日志。如果應(yīng)用日志里混入非 JSON 行比如System.out.println或啟動(dòng) Bannercodec json會(huì)導(dǎo)致解析失敗。這個(gè)問題最好在應(yīng)用層解決統(tǒng)一使用 logger 輸出不要混用標(biāo)準(zhǔn)輸出。如果無法避免可以改用純文本采集或獨(dú)立 topic再用 grok 解析。4.3 消費(fèi)堆積和背壓處理Kafka 消費(fèi)堆積是日志鏈路最常見的故障。現(xiàn)象是 Kibana 里最新日志遲遲不出現(xiàn)kafka-consumer-groups顯示的LAG持續(xù)增長。處理順序不要亂。先確認(rèn)是上游寫入變快還是下游消費(fèi)變慢。如果只是瞬時(shí)峰值可以等待消費(fèi)追平如果持續(xù)堆積優(yōu)先擴(kuò)容 Logstash 消費(fèi)吞吐也就是增加分區(qū)數(shù)和consumer_threads。但不要無限增加線程因?yàn)樽罱K瓶頸可能在 ES 寫入。ES 寫入壓力大時(shí)會(huì)表現(xiàn)為拒絕寫入或?qū)懭牒臅r(shí)上升。這時(shí)要檢查 ES 集群的寫入隊(duì)列、磁盤水位和 bulk 大小。生產(chǎn)環(huán)境建議將 ES 節(jié)點(diǎn)角色拆分?jǐn)?shù)據(jù)節(jié)點(diǎn)和協(xié)調(diào)節(jié)點(diǎn)分離避免高負(fù)載互相影響。還要給 ES 設(shè)置合理的索引分片數(shù)分片過少無法充分利用多節(jié)點(diǎn)過多會(huì)帶來資源浪費(fèi)。注意Kafka 消費(fèi)堆積本身不一定是故障如果業(yè)務(wù)日志量確實(shí)超過正常水位優(yōu)先擴(kuò)容而不是清空堆積。清空堆積會(huì)丟掉排障現(xiàn)場這是最不建議的做法。5. 日志存儲(chǔ)與檢索ES 索引設(shè)計(jì)決定查詢速度日志進(jìn)入 Elasticsearch 之后能不能快速查出來取決于索引設(shè)計(jì)和字段映射。生產(chǎn)環(huán)境見過太多“索引大了查不動(dòng)”的問題根源往往是最初沒有做索引規(guī)劃。5.1 按時(shí)間分索引避免單索引無限增長日志天然是和時(shí)間強(qiáng)相關(guān)的數(shù)據(jù)。按天建立索引比如app-log-2026.06.01是最常見的做法。好處很明顯查詢最近一天的數(shù)據(jù)只需要掃描當(dāng)天索引刪除過期數(shù)據(jù)只需刪除舊索引不用在單個(gè)大索引里做復(fù)雜清理。索引別名也可以配合使用。比如查詢最近 7 天日志時(shí)可以搜索app-log-*寫入側(cè)使用app-log-write別名由 ILM 管理實(shí)際索引。這樣可以保持查詢和寫入的穩(wěn)定。索引分片數(shù)要根據(jù)數(shù)據(jù)量和節(jié)點(diǎn)數(shù)預(yù)估。一個(gè)分片通常建議控制在 30GB 到 50GB 以內(nèi)。按天索引時(shí)如果每天日志量很大可以按天索引并配置多分片如果每天只有幾百 MB一個(gè)分片或少量分片就夠了。5.2 字段映射決定你是過濾還是全文搜索ES 中的字段類型直接影響查詢方式。精確匹配和聚合統(tǒng)計(jì)要使用keyword類型模糊匹配和關(guān)鍵詞搜索要使用text類型。排障中常用的service、level、traceId、instance、status都應(yīng)該設(shè)計(jì)為keyword或數(shù)值類型。一個(gè)參考 mapping 如下。{ mappings: { properties: { timestamp: { type: date }, level: { type: keyword }, service: { type: keyword }, instance: { type: keyword }, traceId: { type: keyword }, method: { type: keyword }, uri: { type: keyword }, status: { type: integer }, costMs: { type: long }, message: { type: text, fields: { keyword: { type: keyword, ignore_above: 256 } } }, exception: { type: text } } } }message使用text是為了支持關(guān)鍵詞搜索同時(shí)加了一個(gè)keyword子字段方便對(duì)短消息做精確過濾。exception使用text但要注意異常棧內(nèi)容很長不建議在 ES 中對(duì)全文做復(fù)雜聚合。如果日志字段不固定建議關(guān)閉動(dòng)態(tài) mapping 或使用 dynamic template 白名單。大量動(dòng)態(tài)字段會(huì)導(dǎo)致索引 mapping 膨脹嚴(yán)重時(shí)甚至讓集群停止寫入。統(tǒng)一日志字段規(guī)范也是保護(hù) ES 的一個(gè)手段。5.3 索引生命周期管理避免磁盤被打滿索引生命周期管理ILM是生產(chǎn)級(jí)日志存儲(chǔ)的必需環(huán)節(jié)。通過 ILM可以讓索引從熱階段滾動(dòng)到暖階段再按策略刪除。下面是一個(gè)簡單的 ILM 策略索引達(dá)到 50GB 或 7 天時(shí)滾動(dòng)超過 30 天的索引自動(dòng)刪除。PUT _ilm/policy/app-log-policy { policy: { phases: { hot: { min_age: 0ms, actions: { rollover: { max_size: 50gb, max_age: 7d } } }, delete: { min_age: 30d, actions: { delete: {} } } } } }ILM 需要配合索引模板使用把策略綁定到對(duì)應(yīng)索引模式上。PUT _index_template/app-log-template { index_patterns: [app-log-*], template: { settings: { number_of_shards: 3, number_of_replicas: 1, index.lifecycle.name: app-log-policy, index.lifecycle.rollover_alias: app-log-write } } }如果使用 ILM 的 Rollover寫入側(cè)應(yīng)使用別名app-log-write查詢則使用app-log-*。日志保留周期的選擇要結(jié)合業(yè)務(wù)需求ERROR 日志可以保留更久普通 INFO 日志保留 7 到 15 天通常就夠。注意不要只設(shè)置 ILM 而忽略磁盤容量評(píng)估。保留 30 天日志至少要把每天日志量乘以 30 乘以副本數(shù)再算上 ES 索引膨脹和 overhead才能確認(rèn)集群容量是否夠用。6. 排障實(shí)戰(zhàn)從一條報(bào)警到根因定位的完整鏈路日志體系設(shè)計(jì)得再好最終還是要回歸到排障場景。用一個(gè)常見例子說明凌晨收到告警訂單服務(wù) ERROR 增多接口 P99 升高。這時(shí)候應(yīng)該怎么查。6.1 先用時(shí)間和級(jí)別縮小范圍不要盲目搜全文排障第一步不是搜具體異常棧而是確定影響范圍。在 Kibana 中使用時(shí)間范圍過濾最近 15 分鐘再疊加服務(wù)名和級(jí)別。service:order-service AND level:ERROR AND timestamp now-15m如果日志量仍然很大可以加上uri或status進(jìn)一步縮小范圍。比如只查看POST /api/order的錯(cuò)誤日志。service:order-service AND level:ERROR AND uri:/api/order AND timestamp now-15m排序按timestamp升序先看最早的異常因?yàn)榈谝粋€(gè)異常往往是后續(xù)大量錯(cuò)誤的源頭。如果看到Connection timed out或Read timed out要意識(shí)到這可能是下游依賴導(dǎo)致的連鎖反應(yīng)先找出被調(diào)用方是否也有異常。6.2 用 TraceID 串聯(lián)完整調(diào)用鏈確定一條典型錯(cuò)誤日志后復(fù)制其中的traceId在 Kibana 中搜索。traceId:8f3a1b2c3d4e5f6a7b8c搜索時(shí)不限制服務(wù)名。只要 TraceID 在所有服務(wù)間透傳正確就能查到這個(gè)請(qǐng)求經(jīng)過的所有服務(wù)、所有實(shí)例的日志。按時(shí)間順序排列后可以看到請(qǐng)求從網(wǎng)關(guān)進(jìn)入訂單服務(wù)然后調(diào)用支付服務(wù)最后在哪里耗時(shí)最長。日志中會(huì)看到類似這樣的關(guān)鍵點(diǎn)訂單服務(wù)日志顯示調(diào)用支付服務(wù)開始和結(jié)束。支付服務(wù)日志顯示處理耗時(shí)超過 3 秒。支付服務(wù)之后出現(xiàn)數(shù)據(jù)庫超時(shí)或連接池等待。這一步的核心是確認(rèn)異常發(fā)生位置而不是只看最外層報(bào)錯(cuò)。外層的RestClientException可能只是下游超時(shí)的表象根因在支付服務(wù)的數(shù)據(jù)庫連接或 SQL 執(zhí)行上。6.3 從異常日志特征定位根因類型不同錯(cuò)誤特征對(duì)應(yīng)不同排查方向整理成速查表會(huì)很有用。日志特征可能根因下一步檢查status500 大量異常棧服務(wù)內(nèi)部異??串惓?、線程池、連接池Connection timed out網(wǎng)絡(luò)不通或連接池耗盡檢查目標(biāo)服務(wù)、端口、連接池配置Read timed out下游處理慢查看下游服務(wù)耗時(shí)、GC、慢 SQLlock wait timeout exceeded數(shù)據(jù)庫鎖競爭查數(shù)據(jù)庫事務(wù)、慢 SQL、死鎖日志OutOfMemoryError內(nèi)存不足或泄漏查看對(duì)堆配置、GC 日志和
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
国产又黄又爽| 人人人摸人人| 亚洲一级特黄大片在线播放91| 久久综合婷婷| 久热99999| 日本操逼视频免费| 六月丁丁香| 香蕉免费一区二区三区不读| 欧美色图综合| 深爱五月婷婷| 男人的天堂三级| 翔田千里爆乳巨臀无码| 色五月综合| 欧美亚洲厕所精品偷拍91| 国产精品乱码久久久久| 99久久综合网| 熟女精品一区二区在线观看| 国产欧美日本亚洲精品| 强奸少妇AV导航网| 欧美中文综合| 亚洲五月婷婷| 午夜福利一区二区三区四区五区色婷婷| 呦呦影院| 麻豆天美国美国产| 麻豆天美在线| 久久婷婷精品| 亚洲九九视频在线观看| 欧美日产国产在线成人第一区| 欧美久久草熟女| 亚洲同性aV综合| 丁香六月东京热| 不卡九肏| 久久成人东京热人妻| av天堂精品久久| 中文字幕在线观看第二页| 熟女少妇视频| 亚洲欧美中文日韩视频中国语| 涩涩久久精品| 亚洲欧洲综合成人av一区| 欧美高清18A片| 操91| 玖玖综合视频| 国产伦乱91| 久久视频少妇美女| 免费作爱一级视频| 囯产精品强| 欧美日本中字另类在线| 色婷婷久久综合超碰| 日韩福利综合一区| 人妻五十路在线| 欧美一区二区福利在线| 人妻人人澡人人爽人人| 国产精品区在线12p| 夜夜高潮夜夜爽高清视频一 | 无码二级三级| 日本污ww视频网站| 极品出轨视频网站| 色色五月天婷婷| 亚洲天堂一二| 色五月亚洲| 99re这里只有精品2| 色综合久久888| 97在线视频观看免费| **一级毛片国产| 日本 情色 1区| 9久久精品| 青青草在线视频播放器| 69视频入口| 欧美在线伊人色| 日韩免费簧片| 欧美 熟女 日韩| 少妇啪啪自拍| 色综合99999| 欧美劲爆视频一区二区| 亚洲熟女一区二区| 日韩三级久久久| 思思热一热婷婷热一热| 91第一页| 色婷网| 亚洲AV色图一区| h无码动漫在线观看| 99日免费视频中文字幕| 国产丝袜啪啪| 五月丁香啪啪啪| 欧美色图 色综合图| 91人人爽人人爽人人人,gav福利视频导航,日韩欧美亚洲国产字幕四区 | 久久精品久久九九精品| 超碰欧美在线欧美| 国语国产操逼伊人AV网| 亚洲一区中文字幕| 97在线免费看| 国产Av超碰| 中文字幕超碰CAO| 思思热在线cao| 国产在线视视频有精品| 唯美清纯 妖精视频| 99热这里只有精品9| 99re久久| 熟妇人妻一区二区三区| 98人妻精品一区二区色欲| 亚洲色图欧美色图制服丝袜| 黄片视频,下载| 欧美 牲| 国产男人又猛又粗又爽| 日韩久射综合| 成年男人的天堂| 久肏视频字幕| 欧美日韩美女精品久草一区二区三区| 99久久精品国产高潮| 久久久久久中文| 欧美一级色| 无码人妻一区二区三区免费九色| 97超碰天天爱天天爱| 中文字幕一二区二三区人妻专区| 超碰碰小说97| 中文字幕一区av| 狠狠操,使劲操| 伊人一区二区三区| 九九香蕉网| 久久久久久9999| 日韩性爱免费视频在线网站| 一起草视频在线| 美国美女AV在线| 国产成人在线观看网址| 狠狠爱夜夜干| 九色 人妻 大香蕉| 乳欲人妻办公室奶水| 极品人妻少妇综合| 曰本91情色| 午夜高清成人在线视频| 亚洲欧美综合| 久操九九九九九九九九九九九九九九九九九九九九九九九九九九九九 | 大香蕉色网| 国产精品视频白浆免费| 97干97色| 欧美在线视频播放| 国模限制级电影| 中国一级特黄大片护士| 最新AV在线| WWW.加勒比人妻一区不卡.com| 久久久久久AⅤ无码免费肉站| 91欧美经典| 超碰人妻中文在线| 亚州色交| 最新国产亚洲精品精品国产亚洲综合| 日韩电影天堂视频一区二区| 搡老熟女老女人老熟妇免费视频| 午夜性生活av免费在线看| 天美一区在线| 超碰日本97美女人妻人人玩人人爱 | 人人做人人妻人人夜视频| 97综合激情| 色大香蕉97N| 五月天婷婷色| 欧美黑人精品一区二区| 日韩成年人性爱视频| 欧美偷偷网| 精品夜夜澡人妻无码| 亚洲最大的综合性av| 麻豆天美传媒在线视频天堂| 婷婷丁香久久| 浪人综合网| 久操视频在线观看| 久热精品在线| 偷拍在线观看视频| 国产视频三区四区| www.婷婷| 亚洲女毛多水多21P| 强被迫伦姧在线观看无码网站| 福利五区| 欧美色日本| 人妻久久久久久久久久久久久久久| 999久久久免费精品国产牛牛| 蜜臀中文无码午夜| 岛国999| 精品免费1| 免费黄色视频网址| 亚洲精品天堂久久A∨51成人漫| 97爱| 男女国产精品| 国产2.3.4区| 999综合色| 久久大香蕉手机高清视频| wwwcaobibi| 久久久久久久久国产| 99热超碰| 熟妇在线视频一区二区| 丁香九月激情| 中文字幕成人理论在线| 91高清无码下载| 激情黄色片在线观看| 91麻豆天美传媒在线| 爱妻综合网| 天天亚洲综合| 射丝袜高跟鞋99| 激情自拍 校园春色| 精品一区二区成人动漫| 风流老熟女一区二区三区l| 久久久精品91八戒| 成人国产视频在线观看| 啊啊啊爽爽| 大逼色网站| 高潮9999外国| 婷婷激情五月综合| 97欧美久久久久久久| 97视频620| 欧亚乱色熟一区二区三四区| 天天日老熟妇| 亚洲色图久久成人| 又黄又爽在线观看视频| 中文字幕在线24| 六月丁香网| 丁香六月综合激情| 久久五月丁香| 99爱爱| 激情久久久| 色情乱伦AV| 免费一级特黄特色大片在线观看看| 国产精品国产亚洲区艳妇糸列| 日本精品五区| 精品91日日夜夜超清资源| 91 丝袜在线播放| 91 丝袜在线播放| 色汉综合| 欧美乱伦专区| 久久久久久久伊人精品| 国产精品人人爽人人做可爱福利| 国产精品爱欲| 蜜桃视频成a人v在线| 亚洲图片激情综合另类| 久久中文字幕一区不卡| 天天爽夜夜爽夜夜爽精| 国产午夜福利专区综合| 国产精品网址| 亚洲最新av无码成人精品区| 无码逼| 日本一区二区成人在线| 国模精品一区二区三区苹果色戒| 色婷婷网| 男人的天堂2010| 五月丁香六月婷| 大香樵伊人网| 麻豆人妻少妇在线免费观看| 97色涩| 久草综合视频| 国产一区二区在线播放,久久亚洲精品中文字幕第一区,亚洲精品在线中文字幕视频 | 自拍六区| 白丝AV| 国产精品一区二区a| 一起草三级AV电影在线观看| 日B操| 日韩在线一区高清在线| 欧美日韩香蕉| 国产精品秘 福利姬在线观看| 国产亚洲综合欧美一区| 亚洲色图久久精品蜜| 江都AV在线| 爱啪精品一区| 九九九只有精品| 嗯嗯不要视频| 美国日韩黄片| 熟女乱伦A| 午夜寂寞欧美| 人人天天欧洲| 久久99手机免费视频| 大香蕉综合在线| 午夜九九| 东京热一区二区中文字幕| 国产午夜福利专区综合| 国产偷拍自拍在线视频| 激情五月天婷婷| 麻豆久久久久久久久丝袜 | 六月丁香久久| 国产又大又粗又色生活片亚洲国产精品成人久久久综合免费 | 欧美不卡在线美女| 亚洲精品国产精品乱码不卡| 一区超碰一区| 午夜精品久久一区二区| 国产精品久久久久久 百度| 激情五月丁香五月| 欧美18禁91| 日日日色色色色色| 亚洲人久久久久日| 操婢日韩| a网站免费观看| av操操不卡| 亚洲AV不卡在线观看| 天天做天天爱| 久久久免费的精品| 国产精品91一样| 一二三四视频在线社区中文字幕| 久久99九九九九6666免费观看软件| 国产精品懂色tv影视免费观看| 久久美女国产| 亚洲 日本 一 二 三| 97久久精品国产| 青青久日| 99e久久国产精品| 91在线无码精品秘 软件| www.操| 色色青青久久| 亚洲国产美女久久久久| 欧美日韩中文亚洲v在线综合| 热天堂一区二区| 久久 久久国内精品亚洲| 人人妻人人澡人人爽人人精品浪潮| 2018天天日天天日| 日本三级日本三级99| 久久精品72| 狠狠入| 久久久久免费看少妇A片特黄| 亚洲激情av| 大奶尤物鲍汁淫荡欧美视频粉嫩夜夜骚| 久艹视频在线| 操逼www.| 欧美在线伊人色| 九九九国产精品| 18禁在线视频| 激情五月婷婷| 女上位精品在线| 在线播放成人高清免费视频| 五月丁香| 欧美成人国产精品| 操啊国产| 六九九九| 精品人妻一区二区蜜桃视频| ji熟女.com| 日本免费中文一区二区三区四区| 精品一区二区久久| 国产成人精品必看| 色哟哟国产精品免费网址| 日韩特一级久久| 伊人丁香五月婷婷| 91 国产丝袜在线放观看| 亚洲玖玖爱| 国产精品久久久无码aV去| 日本一本一区二区三区四区五区欧美日韩中文字幕 | 国产激情综合五月久久| 91女优在线观看 | 欧美极品美女aaaaaa级黄片| 午夜人妻精品综合在线| 色网亚洲人| 岛国AB视频| 亚洲综合影片| 亚洲色图综合| 一区二区偷拍拍视频| 天天搞欧美| av天堂精品久久| 9久久9综合| 欧美综合网A| 人人色人人操在线| 屁股久久久久久久久| 久久东京伊人一本到鬼色| 99re3这里只有精品| 99久久99九九99九九九| 91 亚洲 欧美 日韩 国产 综合| 久久久久ab| 成人精品在线免费视频| 不卡超碰护士AV在线免费播放| 亚洲欧美清纯| AV大香蕉| 少妇的嫩逼图片| 日韩不卡a级视频专区| 亚洲男人天堂2013| 国产免a费看黄片在线| 日日夜夜国产综合| 日韩操啪| 欧美久久毛片基地| 综合国产影视三级| 亚洲AV不卡在线观看尤物| 亚洲97成人在线观看| 成人AV素股で擦久久| 99在线精品视频| 九九色色| 久久久久亚洲Aⅴ无码| 亚洲风情在线观看| 五月天婷婷欧美三区| 精品成人女人久久| 亚洲欧美日韩免费电影| 蜜臀久久在线视频| 一级特黄aaa大片在线观看成人一级片在线观看| 九九九久千久久激情蜜桃在线看 | 人妻少妇精品视频一区二区三区| 中文字幕永久在线| 中文字幕成人乱码熟女精品国50| 色99视频| 丰满少妇一区二区三区免费看| 日日夜夜狠狠| 亚洲精品久久久久久久蜜桃臀| 夜色五月天| 日韩精品啪啪啪| 五月香婷婷| 91高潮| 91N五十路| 黄色视频高清无码网站| 岛国成人av在线播放网址| 91模特在线观看| 99天堂网| 国产精品96久久久久久| 江都AV在线| 91九色精品熟女内射| 亚洲国产亚洲天堂| 日本熟女中文| 中文自拍欧美影视| 中文字幕第二页| 99热91| 国产女人视频三四五区| 4141514逼喷水三级片| 精品亚洲成人免费在线| 九九热精彩视频| 青青操在线视频| www.zbzhongsen.com| 国产97色在线| 麻豆福利视频导航| 国产欧美亚洲精品a第2页| 国产乱码久久久| 97在线免费看| 无码国产Av| 茄子社区国产精品| 婷婷五月天网| 中文?日韩?免费?精品| 草蕉影视亚洲无码| 自拍大香蕉乱插| 97色香蕉| 在线综合 亚洲 欧美中文字幕 | 一区二区 韩日AV| 国产精品直播在线观看直播| 一区,二区,三区视频| 日韩欧美俄罗斯A片| 在线女人91| 欧美极品性爱天天射| 欧美96交| 国产精品老熟女一区二区| 老子午夜伦不卡影院| 精品一区二区三区蜜桃臀www| 成人午夜无码视频| 一级做a爰片性色毛片久久| 欧美精品久久| 亚洲国产第一页综合视频| 麻豆视频国产一区二区| 熟女熟妇一区二区三区视频| 天堂av2019| 国产特级毛片AAAAAA高潮流水 | 香蕉久久国产AV一区二区| 91老熟女| 天天干1区2区在线| 亚洲AV无码| 中文字幕成人理论在线| 性生活久久久久久久久久| 夜间福利片1000无码| 婷婷午夜清品久久久久久久性色视频观| 欧美日韩黄色片一区二区三区四区人与兽做爱| 国产区性爱在线视频秋霞豆 | 久久久一区二区三区麻豆| 九九九九九九亚洲| 日日操丁香五月天| 女人综合网| 一区二区三区色综合| 六月天婷婷| 中文人妻av高清一区| 亚洲清纯综合| 久久中日麻豆| 91视频国品一二三区| 做爱A级亚欧| 亚洲精品99999| 爽 好舒服 无码刺激久久| 97爱综合| 中文字幕色AV| 91熟女视频网| 日韩成人精品| 超碰人人干天天射| 欧美日韩青操| 国产精品久久久视频| 亚欧高清在线| 欧美精品日韩久久久九| 91爱| 97精品人妻一二三四| AV在线资源| 丰满人妻-区二区三区免费| 亚洲成人久久一区二区| 澳门黄片一香蕉视频| 亚洲女优有码无码高清| 999 久久久| 操逼日批| 亚洲精品99999| 熟女露脸激情自拍视频| 91l欧美在线| 炮色五月| 天天干天天爽| 探花激情视频| 精品国产丝袜一区二区三区乱码| 国产强奸乱伦无码视频| 99夜夜操| 久久久月天| 日韩精品大香蕉伊人在线| 啊啊啊好湿久久| 五月婷婷无码| 你懂得91| 白天啪啪晚上啪啪视频| 在线观看高清AV| 中英熟女操女| 久久97超碰| 欧美—性—交—色| 青青草AV色| 亚洲色图伊人网| 午夜福利视频在线一区| 亚洲图片婷婷五月天| 家庭乱伦麻豆| 亚洲日韩国产精品| 99999亚洲| 欧美激情内射| 中文字幕黄色一起草| 天天天堂影视日韩亚洲91| 夜夜综合| 麻豆 亚洲 97| 亚洲揄拍网| 日韩人妻网站| 欧美色66| 青青操少妇| 久久久久久大| 99re3这里只有精品| 青娱乐av在线| 人妻精品综合中文字幕在线 | 日韩AV一区二区三区四四| 97人人模人人爽人人| 国内毛片国产专区二| 国产亚洲美日韩Aⅴ中文字幕无码成人| 超碰98综合网| 亚洲欧美日韩电影网站一区| 精品中文日韩字幕视频| 91少妇香蕉久久精品| 九九热在线精品视频| 一区二区蜜臀| 天天综合网AV91| 97精品国产精品免费观看| 亚洲人妻在线精品| 丝袜美腿操av| 在线天堂资源亚洲| 九九九国产| 极品色综合| 老鸭窝成人免费毛片视频| 97亚洲色图| 久久高潮妇女视频| 日韩欧美传媒一区国产| 香蕉人欧美综合| 密乳视频在线| 日亚韩精品视频二区三| 欧美刺激色黄片免费看| 国产热RE99久久6国产精品首| 色综合色欲色综合色综合色综合| 婷婷丁香五月激情啪啪| 男人天堂一区二区| 亚洲熟女国产综合另类| 97超碰天天爱天天爱| 美女主播色欲91抠b在线播放| 97一区二压| 在线情色电影 91大 | 香蕉婷婷| av中文字幕在线熟女| 精品久久久av| 九九九九日本| 青青草女人天天干| 夜夜精品视频| 国产真乱mangent| 乱伦a片视频| 性爱乱伦一区| 激情文学网伊人| 亚洲中文字幕有码视频一区二区三区| 躁躁日曰躁2020| 91少妇通奸网站| 欧美97网| 国产毛片片精品天天看视频| 最新亚洲人成网站在线影院| 日本国产欧美高清在线| 色香色香欲天天天影视综合网| 亚洲人在线| 亚洲日本韩国在线| 爽爽淫人网| 97资源欧美| 99re6国产精品99re| 婷婷丁香人妻 | 综合久久婷婷| 嫩草 人人网精品| 日本黄色XXX| 啊啊啊好舒服视频| 1000部熟女视频在线观看| 天天综合网日韩7799| 色婷五月| 很黄很污的免费网站| 欧美 日韩 婷婷 五月| 亚洲成人AB| 思思热国产高清| 国产h片在线观看视频| 色五月首页| 欧美三级不卡| 果冻传媒A片一二三区| 国产三级片在线观看| 亚洲人人夜夜澡人人爽| 天天伊人| 成人a大片在线观看| 婷婷99| 免费网站观看www在线观| 亚洲欧美啪啪| 日韩欧无码一区二区三区免费不卡| 中文字幕一区电影在线观看| 密桃99999| 天天操天天谢| 久久神马| 8050无码八戒| 2025亚洲男人天堂| 国产丁香精品露脸视频| 91网九色蝌蚪操熟女| 懂色AV蜜臀无码精品APP| 日本 成 人 小说 电影 一区二区| 欧美 牲| 欧美激情区| 人妻献身系列第54部| 67914亚洲精品| 国产成人www免费人成看片| ,国产乱人伦精品一区二区三区| 国产免费一区| 88xx成人精品视频| 婷婷色影院| 狠狠夜色午夜久久综合在线| 超碰美国| 日韩欧美经典在线观看| 亚洲欧美setu| 大学生美女口爆| 欧美一级A片在线看视频性色| 第四色亚洲色图| 日韩精品午夜操呦呦不卡影院| 高潮毛片无遮挡高清免费| 青草视频在线看看看看看看看看看| 日本天天干天天搞一区| 亚洲国产精品久久AV| 久久精品美女一区| 欧美少妇高潮久久91| 97在线观看| 五月激情在线| 五月婷视频| 亚洲欧洲无码一区夜| 无码久久国产 | 国产一国产一级毛片古装| 国产激情在线| 天美传媒在线一区| 在线日韩精品一区二区三区| 国产成人网| 啊啊啊啊啊舒服| 午夜啪啪片| 东北女人的毛片| 天天日天天插| 天天淫人人妻日日色| 欧美韩日精品99综合| 精品一区二区成人| 草久久久| 国产精品爆乳懂色蜜乳| 99热66| 亚洲第一男人天堂| 成人免费在线网站| 亚码人妻| 天天干天天燥| 久草色悠悠在线视频| 91青青草| 日韩精品一二三四| 日韩久射综合| 免费视频a级毛片免费视频| 啊啊啊久久久视频| 久久东京伊人一本到鬼色| 欧美激情 日韩精品| 亚洲国产综合图区中文字幕| 91碰碰碰| 99热亚洲天堂| 国模限制级电影| 农村少妇久久久久久久| 免费av大片| 欧美国产操逼| 久久久久久久亚洲Av无码| 欧美 传媒 麻豆 日韩 偷拍| av激情亚洲五月天| 精品久久一区二区三区四区五区| 超碰吊日色| 伊人色综合网电影| 另类图片五月天| 黄片无码在线制服| 亚洲丝袜制服国产91_国语字幕免费观看完整版下载第5集_ | 91美女看B| 琪琪精品免费一区二区三区| 四虎国产成人精品免费一女五男| 日韩免费簧片| 91麻豆天美国产| 一区二区免费电影久久| 97天天做| 欧美在线干| 金莲网址| 美女让帅哥通她小鸡鸡| 特级丰满少妇一级AAAA爱毛片| 熟妇高潮精品一区二区三区下载| 国产成人无码啪| 亚洲自拍欧美国产首页网曝 | 老女人综合网| 青青草密桃在线播放| 亚洲丝袜综合| 尻女朋友一夜| 欧美黄色手机在线观看| 97资源欧美| 蜜乳AV.COM| julia中文字幕在线观看| 久久久久久久伊人精品| 五月天加勒比啪| 一区三区啪啪| AV女资源| 6080yy午夜理论三级一区二区三区无码| 91丝袜美女视频| 国产精品一区二区在钱播放| 天天上日日上日韩精品| 日韩精品人妻中文字幕久久久| 美女91色黄18| 午夜欧美女人操逼| 97日韩超碰超碰中文字幕| 91无人区卡一卡二卡三乱码入口最新版:能让用户有更多选择的选择-经典说说-爱 | 国产女人和拘做爰视频 | 国产精品亚洲天堂网址| 99re6国产精品99re| 中文字幕av乱伦| 深夜国产福利| 福利风月五月天影院| 国产无码三级视频在线观看| 69久久久久久久久久久久久| 最新国产亚洲精品精品国产亚洲综合| 日日干日日摸| 亚洲人成色9999精品久久| 日本人妻伦在线中文字幕| 免费久久9999| 91国产操逼视频| 亚洲成人色情五月天丁香花| 大色综合网| 97超碰精品图片| 蜜色网色哟哟| 伊人久久综合影院| 一本大道久| 麻豆视频test| 盗摄女人妻在线| 加勒比99999| 国产久久久9999| 久草毛片| 一区在线观看中文字幕| 五月天人妻综合| 天天做天天爱天天高潮| 囯产精品久久久久久久久久梁医生| 99色婷婷中文字幕乱色| 免费看久久久性性| 人人妻人人玩人人澡人人爽| 亚洲色性情三级| 亚洲少妇综合在线播放| 熟妇人妻丰满久久久久久久无码| 国产精品肉丝自拍| 日韩探花精品在线视频| 日韩15p| 超碰97最新人妻| 欧美91变态| 一区二区首页| 全球成人中文在线| 亚洲欧洲成人在线电影| 2019午夜福利视频| 韩日精品四区| 小视频玖玖| 久久岛国| 99只有精品| 99色视频| 九九综合久久中文字幕| 外国免费性情大片| 无码人妻精品一区二区三区九九 | 97精品一二区| 在线观看AV片| 91黑丝在线| 玖玖草久草99蜜月一区二区三区| 国模一区二区三区| 久久久亚洲欧美综合| 淫荡网址| 欧美综合狠| 久久精品欧美一区蜜桃| 黄色av片三级三级三级免费看| 欧美人妻少妇| 丰满人妻一区| 嗯嗯嗯嗯啊啊啊好紧好大| 91在线精品| 久久丁香久草综合网| 日本一卡二区在线| 亚洲最新a在线观看| 国产精品操| 校园春色美腿丝袜| 久久999久| 男人的天堂2010| 日本Xx性爱| 亚洲影院365| 日韩本不卡视频在线观看| 欧美一二在线| 天天日天天爽| 日本护士高潮| 日韩在线一区高清在线| 精品78| 久久风骚城市| 亚洲中文电影| 中文字幕视频在线观看一区二区| 色色色999| 人妻一区视频| 欧美日韩插逼视频| 91M一社| 91 综合 色| 91亚洲影院综合| 1区2区3区在线视频| 91精品黄在线观看| 激情网色| ,成人免费啪啪视频| 狠狠超| 精品一区二区三区蜜桃臀赵总| 色综合久久88色综合久久天天| 色欲天天综合久久久无码网中文| 亚洲资源一区| 超碰97人人乐| 青青草久久在线| 国产欧美日韩臀| 日韩伦理视频| 欧美九9 9 9| 99ri精品| 亚洲第2页| 日逼视频日本| 久久透逼视频| 狠狠操,使劲操| 91美女网站| 欧美偷拍| 国产嫩草精品A88AV| 亚洲午夜蜜臀| 九草九九九| 久热大香蕉网站| 亚洲人91| 先锋音影AV| 18岁禁 茉莉成人久久| 亚洲国产剧情少妇激情| 五月天色五月| 黄污污污污| 九九在线视频| AV中文在线| 亚洲欧洲综合视频在线| 亚洲第一成人影院色播| 欧美性爱三区二区| 在线观看AV片| 亚洲男人天堂手机版| 国产女主播视频在线观看| 丝袜美腿射精91| 亚洲欧洲无码一区夜| 伦在线97| 五月开心久久AV官网| 伊人991| B049AV在线播放| 久久一本大香蕉| 久久久99999久网站| 欧美 日韩 另类 亚洲| 一牛一区二区三区久久| 国产极品久久久| 蜜臀99999| 99www.bibizy香蕉资源国产一区二区三区高清| 久久超碰亚洲人| 一区 欧美 日韩 麻豆| 亚洲欧美天堂在线| 精品视频专区| 久婷婷一区| 情侣操 逼视频99| 男人的天堂无码| 97超碰欧美手机在线| 亚洲欧美激情小说| 欧美性高潮| 啊啊啊好舒服视频| 又大又大又大又粗爽高潮观看| 神马久久69| 东京热男人的天堂精品| 国产福利在线视频网站| 欧美日韩另类在线播放| 久久精品性| 日本天天干天天日一区| 日韩av情韩国爱禁区av一区二区| 日日夜夜草草草| 亚洲系列欧美| 素人伊尹大香蕉免费下载视频| 精品超碰国产| 精品国产肉丝袜在线拍国语| 91一起操| B049AV在线播放| 嗯嗯啊啊好疼| 伊人精品国产| 四虎免费视频| 久久啊啊| 亚洲一区日韩精品中文字幕 | 超碰97欧美在线| 精品久久久久瑟瑟| 日韩9999| 国产成人精品一区| 十八禁黄色| 久久只有精品| 蜜乳Av成人片网站| 青娱乐久久艹| 97自拍视频在线| 中文字幕视频一区视频二区| 久久久久久波多野吉衣高潮| 欧美激情黑人| 色香综合| 国产精品爱欲| 伊人影院综合是一个与深夜成人在线| 伊人久久婷婷| 青青草在线视频人人想人人上| 蜜桃视频一区二区三区| 91欧洲入口| 96久久久| 强奸国产在线| 久久人妻视频网| 亚洲综合影片| 亚洲中文字幕在线视频一区二区| 色69大色97香蕉| 欧美色性情| 高清无码久操视频| 人人爱人人操人人性| 91麻豆va国产精品| 日韩99999色| 欧美在线视频观看一二三四区高清| 97久操| yw尤物av无码点击进入麻豆| 日逼国产| 校园春色之综合网| 91无码人妻| 91爱| 国产亚洲精品农村妇女| 26uuu国产| 欧美性爱一区| 大香交| 亚洲欧洲无码bt精品合集| 久久精品国产亚洲AV无码电影| 欧美性天天影视| 亚洲性少妇| 后入式免费视频| 九九精品无码专区免费| 九九综合久久| 国精综合一二三区影视| 天天操天天干美女网址导航| 免费观看成人www精品视频| 久久久精品视频免费观看| 老女人日韩美91| 久久9免费视频| 日本成人免费一区二区三区| 色色色色网站| 久偷拍| 欧美九九九九九| 在线a v| 97久久资源| 伊人96在线| 欧洲黄色网| 中文字幕成人| 91成人在线| 亚洲在线a| 国产欧美日韩精品中文| 欧美成不卡网| 大香蕉草草| yellow网站免费观看日韩高清无码| 精品夜夜澡人妻无码| 人妻大香蕉| 成人五级久久| 精品国产一区二区三区av在线资源| 亚洲资源网| 亚洲欧美日韩中文播放| 人妻av在线| 精品久久九| 肏逼视频日本| 五月婷婷色| 天天干1区2区在线| 性爱Av免费| 国产天天骚| 91宗合网| 日韩少妇一区二区三区| 啊啊啊97视频| 国产呦精品系列在线观看| 91爱网| 国产无码一二三区| 97精品综合久久网| 一级毛片电影免费看| 精品久久久亚洲AV成人网站| 天天内射| a片久久久久久久久久久久| wwwss在线观看| 九草九九九| 91AV入口| 116美女午夜| 肥佬影院91| 人、人、摸,人、人、草| 欧美乱妇狂野欧美在线视频| 99久久99久久免费精品蜜臀| 99综合| 人妻少妇无码| 日本一区二区三区四区免费观看| 麻豆福利视频导航| 精品无码久久久久久久久果冻糖心 | 欧美色图自拍| 日韩精品人妻一| 亚洲91网。| 精品久久久av无码免费| 日韩在线视频1234| 亚洲黄色AV电影| 国产亚洲国产超碰| 免费99精品国产自在在线| 大香蕉黄色一级片免费看| 91艹逼精品| 性无码专区2020| 午夜激情床戏激情| 大香蕉综合网| 99自拍视频在线| 九九九九一区| 欧美一级A片在线看视频性色| 青草视频人妻在线观看| 在线观看高清AV| 日韩精品熟妇| 久偷拍欧美日韩三区| 亚洲蜜乳av| 欧美少妇色综合| 成人性爱av| 老熟妇综合| 老司机深夜18禁污污网站| 欧美专利1区2区3区4区5区免费| 天天综合~91| 欧美亚洲玖玖玖| 久久久无码视频| 啊啊啊com| 亚洲天堂精品日韩电影| 狠狠躁AV| 免费A片三p视频| 69精品人人人人| 免费的黄片有限公司| 美国久久一二三四| 两女互慰AV高潮喷水在线观看| 强上我不卡卡| 国产不良强奸视频免费看| 99精品网站| 国产一区二区三区视频在线看| 欧美78| 黑人狂躁日本妞一区二区三区| 国产乱人妻精品入口| 伊人久久在线视频观看| 涩涩久久精品| 日韩精品人妻一| 亚洲文学偷乱拍啪啪啪啪| 综合在线导航一区| 91日日夜夜| 日韩成人大片在线观看| 人妻夜爽夜夜爽| 91大学精品激情戏| 日韩三级伦理中文字幕| 亚洲棕合电彰| 色在线亚洲视频www| 物业黑人 AV一区| 日本肏逼视频在线观看| 丝袜熟女2P| 日本中文字幕不卡视频| 日韩精品9999| 亚洲精品性爱片| 后入福利| 99无码| 最新日本中文字幕| 大香蕉一人在线| 久久精品国产亚洲AV无码电影| 超碰97人人乐| 亚洲中文字幕97久久精品少妇| 九九九九精品| 日韩精品99久久久久久中文字幕| 亚洲第一黄色av网站| 日日AAvv| 操少妇很爽av| 日韩人妻有码免费视频| 欧美激色| 久9热| 2020久久免费视频| 一区二区视频你懂的| 96久久精品一二三区色欲| 精品97久久| 色哟哟-国产专区| 国产精品熟女丝袜一区二区| 久久久人妻| 国产精品免费久久久久久久久久| 涩爱AV在线| 精品亚洲黄色片 国产精品导航一区二区 | 欧美综合97www| 综合久久久久久久综合网| 青青草中出视频 | 日本一级特级毛片视频| 天天做日日做天天欢。| 蜜桃臀av一区二区| 久久国产99精品72福利 | 啊啊啊想要| 亚洲限制级| 91狼人| 天天伊人| 裸体1区| 久久综合久色欧美综合狠狠| 色狠狠综合| 男女啪啪啪18禁网站| 91黑丝操| 久久精品视-一级做a爰片性色毛片16美国-中国女与老外在线精品 | 久久成人国产精品| 欧美日本视频一区| 精品91摸| 亚洲中文日韩精品| 欧美色宗合| 久草在| 色优久久| 日本免费人成视频播放120秒| 国产人妻久久精品一区二区三区| 精品射1999| 熟女人妻一区二区三区| 日韩性爱小视频| 免费99精品国产自在在线| 国语人妻精彩刺激| 久草视频在线视频在线视频在线观看| 亚洲激情视频| 九九九九九九九九九九九九九九九女| 亚洲AV麻豆Aⅴ无码电影一| 超碰综合97在线| 欧美成人亚洲精品| 极品极品色影院| 人人看人人插| 99re欧美| 99re在线精品78| 欧美第一页性| 人妻精品一区二区在线| 91精品国产91综合久久蜜臀| 国内成人圈中文字幕无码视频| 91国产精品熟女| 在线观看黄色电话| 2023天天操夜夜操| 日韩本不卡视频在线观看 | 欧美天堂超碰97| 日本三级韩三级99久久| 亚洲成人久久一区二区| 神马午夜久久| 天天干夜夜操一区二区| 亚洲av综合伊人久久| 五十路二区在线 | 九九九九九九精品| 亚州色图狠狠干| 亚洲激情网| 国产精品蜜乳AV| a片在线播放| 91亚洲网站| 中精品一区二区三区| 欧美天天综| www色色色com| 青椒国产97在线熟女| 午夜男女爽爽大片免费观看| 国产9熟妇视频网站| 伊人久久亚洲中文字幕不卡| 久久99黄色卞西瓜| 蜜桃午夜视频一区二区| 操美女人妻| 青青草视频这里只有精品| 中文自拍欧美影视|