久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Linux系統(tǒng)編程實(shí)戰(zhàn):從文件I/O到多線程同步的排查思路

Linux系統(tǒng)編程實(shí)戰(zhàn):從文件I/O到多線程同步的排查思路 簡(jiǎn)介《Linux系統(tǒng)編程技術(shù)》是瑞典系統(tǒng)專(zhuān)家杰克-本尼·佩爾松撰寫(xiě)的一本系統(tǒng)編程實(shí)戰(zhàn)書(shū)籍主要面向已經(jīng)具備一定Linux使用基礎(chǔ)、希望深入了解底層開(kāi)發(fā)原理的開(kāi)發(fā)者。全書(shū)從開(kāi)發(fā)環(huán)境配置開(kāi)始逐步講解共享庫(kù)的創(chuàng)建與使用、終端I/O的掌控、進(jìn)程管理與進(jìn)程間通信、多線程同步、程序調(diào)試等核心主題并通過(guò)豐富的代碼案例和針對(duì)性練習(xí)將各個(gè)知識(shí)點(diǎn)串聯(lián)起來(lái)。作者非常注重動(dòng)手實(shí)踐引導(dǎo)讀者在編寫(xiě)、編譯和運(yùn)行程序的過(guò)程中深入體會(huì)系統(tǒng)調(diào)用與內(nèi)核交互的行為特征從而編寫(xiě)出更高效、更可靠的程序每個(gè)專(zhuān)題還配有可獨(dú)立運(yùn)行的示例代碼便于讀者對(duì)照驗(yàn)證。資源包共1個(gè)PDF文件壓縮后約4.82MB體積小巧無(wú)需額外安裝環(huán)境即可在主流閱讀器中打開(kāi)非常適合在電腦、平板或手機(jī)上隨時(shí)查閱。目前該資源已有102人學(xué)習(xí)下載作為一本兼顧理論深度與工程實(shí)踐的技術(shù)書(shū)既能幫助讀者快速搭建Linux系統(tǒng)編程知識(shí)體系也能在具體項(xiàng)目開(kāi)發(fā)中提供切實(shí)的參考與啟發(fā)。 干 Linux 系統(tǒng)編程這行也快十年了帶過(guò)團(tuán)隊(duì)也面試過(guò)不少人發(fā)現(xiàn)大家真正容易卡住的往往不是語(yǔ)法和 API而是對(duì)系統(tǒng)到底怎么運(yùn)作缺少一個(gè)直觀的手感。很多人在學(xué)校和培訓(xùn)班里學(xué)過(guò)文件操作、學(xué)過(guò) fork、學(xué)過(guò)線程同步可一丟到真實(shí)項(xiàng)目里面對(duì) CPU 飆高、進(jìn)程卡死、日志錯(cuò)亂、core dump 崩得莫名其妙整個(gè)人就懵了。這篇文章我不打算給你堆一堆 man page而是把這么多年實(shí)戰(zhàn)里踩過(guò)的坑、驗(yàn)證過(guò)的方法、排查問(wèn)題的思路一次性理清楚。不管是剛上完系統(tǒng)編程與創(chuàng)新設(shè)計(jì)這類(lèi)課程的同學(xué)還是已經(jīng)入行想系統(tǒng)補(bǔ)課的后端和嵌入式工程師照著這個(gè)思路去琢磨 Linux 系統(tǒng)編程會(huì)比盲目刷題高效得多。系統(tǒng)編程的本質(zhì)其實(shí)就是站在內(nèi)核的門(mén)口調(diào)用資源。你寫(xiě)的每個(gè) open、read、write、fork、pthread_create最后都會(huì)變成對(duì)內(nèi)核的請(qǐng)求。理解這一層再看什么文件描述符、進(jìn)程模型、線程同步就全通了。1. 文件I/O系統(tǒng)編程的第一塊基石1.1 文件描述符一張被忽視的下標(biāo)表很多人把文件描述符當(dāng)成一個(gè)普通的整數(shù)用的時(shí)候記住 open 返回 3 就行。但實(shí)戰(zhàn)里一旦出現(xiàn) fd 泄漏、fd 被意外關(guān)閉、socket 和普通文件混淆這類(lèi)問(wèn)題你就必須深入理解 fd 的真實(shí)身份——它其實(shí)是進(jìn)程文件描述符表的下標(biāo)。這張表每個(gè)進(jìn)程一份每一項(xiàng)指向內(nèi)核打開(kāi)文件表里的一個(gè)條目而那個(gè)條目又指向真正的 inode 或 socket 對(duì)象。所以當(dāng)你在/proc/pid/fd/下看到一堆軟鏈接它們鏈接到的目標(biāo)就代表這個(gè)進(jìn)程當(dāng)前持有的所有資源。排查 fd 泄漏我一般先跑ls -l /proc/pid/fd | wc -l看數(shù)量再跑lsof -p pid定位是什么文件。順手強(qiáng)調(diào)一個(gè)容易出事的細(xì)節(jié)fd 是會(huì)被復(fù)用的前一個(gè) fd 關(guān)閉后后面新建的文件或 socket 大概率復(fù)用同一個(gè)編號(hào)。如果你代碼里把某個(gè) fd 當(dāng)成固定編號(hào)到處存很可能在不知情的情況下操作了別的文件。正確做法是始終用變量保存返回的 fd別硬編碼。還有一點(diǎn)在寫(xiě)網(wǎng)絡(luò)服務(wù)時(shí)要特別留意從 accept 返回的新 fd本來(lái)只想讓它在子進(jìn)程里用結(jié)果 fork 之后父進(jìn)程忘了關(guān)最終所有子進(jìn)程都握著一份多余的 fd服務(wù)端明明沒(méi)幾個(gè)連接ulimit -n卻很快被耗盡。這種問(wèn)題 ps 看不出異常lsof一看全是重復(fù)的 socket這就是對(duì)fork 會(huì)復(fù)制 fd 表理解不透的代價(jià)。我在項(xiàng)目里處理這類(lèi)問(wèn)題的標(biāo)準(zhǔn)做法是所有 fd 在 fork 后立刻按需關(guān)閉該加的FD_CLOEXEC標(biāo)志必須加。1.2 緩沖、系統(tǒng)調(diào)用與一次 write 的旅程剛?cè)腴T(mén)時(shí)總覺(jué)得 write 就是把數(shù)據(jù)寫(xiě)到磁盤(pán)后來(lái)才發(fā)現(xiàn)這對(duì)理解性能問(wèn)題是個(gè)災(zāi)難。簡(jiǎn)單梳理一下數(shù)據(jù)路徑應(yīng)用調(diào)用 write實(shí)際是進(jìn)入內(nèi)核態(tài)把數(shù)據(jù)從用戶(hù)態(tài)緩沖區(qū)復(fù)制到內(nèi)核頁(yè)緩存由內(nèi)核決定什么時(shí)候真正落盤(pán)。一次 write 一次系統(tǒng)調(diào)用但系統(tǒng)調(diào)用不是免費(fèi)的——它涉及上下文切換、參數(shù)校驗(yàn)、權(quán)限檢查。如果你在循環(huán)里一次寫(xiě)一個(gè)字節(jié)那性能基本是斷崖式下跌因?yàn)槊看味荚诮贿^(guò)路費(fèi)。我曾經(jīng)在一個(gè)數(shù)據(jù)采集程序里見(jiàn)過(guò)這類(lèi)寫(xiě)法采集量一上來(lái) CPU 占用率直接 100%可實(shí)際上大部分 CPU 都在內(nèi)核態(tài)做無(wú)意義的上下文切換。優(yōu)化思路也很樸素就是加用戶(hù)態(tài)緩沖區(qū)湊夠 4KB 或者更大再一次 write性能立刻提升了幾個(gè)數(shù)量級(jí)。這里再補(bǔ)一個(gè)經(jīng)典坑fopen系列自帶的 stdio 緩沖和open的裸系統(tǒng)調(diào)用混用時(shí)很容易出現(xiàn)日志順序錯(cuò)亂。原因很簡(jiǎn)單兩邊各有一份緩沖區(qū)flush 時(shí)序不一致。我見(jiàn)過(guò)線上系統(tǒng)日志時(shí)間戳顛倒排查到最后就是因?yàn)橐惶幱昧藈rite一處用了fprintf還沒(méi) fflush。所以同一文件的寫(xiě)路徑選一種方式走到黑。1.3 mmap當(dāng)文件映射進(jìn)內(nèi)存文件 I/O 的另一個(gè)高頻武器是 mmap它把文件直接映射到進(jìn)程地址空間讀文件就像讀內(nèi)存指針一樣。對(duì)大型只讀文件的隨機(jī)訪問(wèn)這個(gè)方案比反復(fù) lseek read 不知道高到哪里去了。我做的嵌入式 Linux 項(xiàng)目里很多配置文件、資源文件就靠 mmap 加載省掉一層拷貝還能被多個(gè)進(jìn)程共享映射節(jié)約物理內(nèi)存。但 mmap 也不是萬(wàn)能的。文件很小的時(shí)候映射建頁(yè)表的開(kāi)銷(xiāo)可能比直接 read 更大這時(shí)候不要盲目炫技。另一個(gè)坑是寫(xiě)入時(shí)序mmap 的寫(xiě)操作先進(jìn)頁(yè)緩存真正的落盤(pán)取決于內(nèi)核回寫(xiě)機(jī)制。如果進(jìn)程崩潰或系統(tǒng)斷電數(shù)據(jù)可能沒(méi)寫(xiě)進(jìn)去。需要強(qiáng)一致性的場(chǎng)景要在合適時(shí)機(jī)調(diào)用 msync 刷盤(pán)但要意識(shí)到這會(huì)削弱性能優(yōu)勢(shì)??偨Y(jié)來(lái)看大文件只讀場(chǎng)景優(yōu)先 mmap小文件或者寫(xiě)頻繁的場(chǎng)景老老實(shí)實(shí)用 read/write 加緩沖。2. 進(jìn)程管理fork、exit 與回收的藝術(shù)2.1 fork 的寫(xiě)時(shí)復(fù)制與繼承陷阱fork 大概是系統(tǒng)編程面試?yán)锍霈F(xiàn)頻率最高的詞之一。它創(chuàng)建一個(gè)子進(jìn)程但現(xiàn)代 Linux 下并不是把父進(jìn)程整個(gè)地址空間拷一份而是采用寫(xiě)時(shí)復(fù)制技術(shù)。父子進(jìn)程一開(kāi)始共享物理內(nèi)存頁(yè)只有某一方真正寫(xiě)入時(shí)內(nèi)核才復(fù)制對(duì)應(yīng)的頁(yè)。這也是 fork 之后能快速創(chuàng)建子進(jìn)程的原因。但寫(xiě)時(shí)復(fù)制也帶來(lái)一個(gè)隱蔽的問(wèn)題如果你 fork 之后馬上 exec其實(shí)之前那些內(nèi)存復(fù)制完全沒(méi)必要。Linux 提供了 vfork語(yǔ)義上更激進(jìn)子進(jìn)程直接共享父進(jìn)程地址空間父進(jìn)程會(huì)被掛起直到子進(jìn)程 exec 或退出。對(duì)fork exec這種固定組合用 vfork 能省不少開(kāi)銷(xiāo)不過(guò)使用時(shí)要格外小心子進(jìn)程里別改任何父進(jìn)程的變量。更頭疼的是多線程程序里調(diào)用 fork。子進(jìn)程只會(huì)留下調(diào)用 fork 的那個(gè)線程其他線程直接消失但那些線程可能正握著鎖。于是子進(jìn)程里再順手調(diào)一個(gè)需要同樣鎖的庫(kù)函數(shù)直接死鎖。常見(jiàn)的規(guī)避辦法是 fork 之后盡快 execexec 會(huì)用全新的進(jìn)程鏡像替換掉子進(jìn)程的地址空間原來(lái)的鎖狀態(tài)不再影響新程序??扇绻?fork 和 exec 之間還想干點(diǎn)別的就得提前做好鎖的清理策略或者干脆用 posix_spawn。2.2 僵尸進(jìn)程為什么殺不掉剛接觸進(jìn)程管理的人會(huì)特別困惑進(jìn)程明明退出了為什么 ps 里還能看到還殺不掉這就是僵尸進(jìn)程。任何進(jìn)程退出時(shí)并不會(huì)立刻從進(jìn)程表中消失而要先變成僵尸狀態(tài)等父進(jìn)程用 wait / waitpid 讀取它的退出狀態(tài)內(nèi)核才會(huì)徹底清理。如果父進(jìn)程一直不調(diào)用 wait僵尸進(jìn)程就會(huì)一直占著進(jìn)程表項(xiàng)。進(jìn)程表的容量是有限的僵尸多了系統(tǒng)就創(chuàng)建不了新進(jìn)程。而僵尸進(jìn)程本身不占 CPU、不占內(nèi)存它占的是內(nèi)核進(jìn)程表所以 kill -9 對(duì)它沒(méi)用因?yàn)樗呀?jīng)死了。我見(jiàn)過(guò)一個(gè)長(zhǎng)期運(yùn)行的服務(wù)功能一切正常但不定什么時(shí)候就報(bào)Resource temporarily unavailable。查到頭就是有個(gè)子進(jìn)程退出后沒(méi)人 wait時(shí)間一長(zhǎng)把進(jìn)程表?yè)伪?。解決辦法有兩條路一是認(rèn)真在父進(jìn)程里處理 SIGCHLD 信號(hào)循環(huán)調(diào)用 waitpid(-1, status, WNOHANG) 回收所有子進(jìn)程二是在明確不想管子進(jìn)程退出狀態(tài)的情況下顯式將 SIGCHLD 設(shè)為 SIG_IGN內(nèi)核會(huì)自動(dòng)回收子進(jìn)程不產(chǎn)生僵尸。選擇哪種要看業(yè)務(wù)是否需要知道子進(jìn)程的退出碼。如果讓子進(jìn)程干完活要看結(jié)果就老老實(shí)實(shí)用 waitpid如果只是點(diǎn)火開(kāi)路的異步任務(wù)可以直接 SIG_IGN。2.3 exec 家族程序替換的注意事項(xiàng)exec 這個(gè)動(dòng)作會(huì)完全替換當(dāng)前進(jìn)程的代碼、數(shù)據(jù)和堆棧但 pid 不變。這也是 shell 執(zhí)行外部命令的基本機(jī)制先 fork 出一個(gè)子進(jìn)程然后子進(jìn)程里去 exec 目標(biāo)程序。如果 exec 失敗子進(jìn)程還活著一定要處理這個(gè)分支否則程序會(huì)在不知情的情況下繼續(xù)跑一個(gè)已經(jīng)假死的邏輯。選擇 exec 的具體函數(shù)時(shí)要注意兩個(gè)點(diǎn)一是要不要自動(dòng)搜索 PATH二是環(huán)境變量怎么傳。execlp和execvp會(huì)按 PATH 找可執(zhí)行文件適合執(zhí)行外部命令execve則可以完全控制環(huán)境變量。還有一個(gè)最容易被忽視的細(xì)節(jié)exec 成功后之前設(shè)置的那些信號(hào)處理器、fd 標(biāo)志可能變得不再可靠所以生產(chǎn)級(jí)代碼里通常會(huì)在 exec 前把關(guān)鍵 fd 設(shè)置FD_CLOEXEC我就是這么干的不然子進(jìn)程會(huì)繼承一堆不該繼承的 fd層層傳遞下去遲早出事。3. 多線程同步選對(duì)鎖性能與正確性兼得3.1 互斥鎖、讀寫(xiě)鎖、自旋鎖怎么選線程之間共享數(shù)據(jù)必須同步但同步絕不意味著拿一把鎖到處加。選錯(cuò)鎖性能差別可以到數(shù)量級(jí)?;コ怄i是最通用的但它會(huì)在鎖被占用時(shí)讓線程進(jìn)入睡眠由內(nèi)核喚醒這個(gè)調(diào)度來(lái)回可能微秒級(jí)。如果臨界區(qū)很短比如就做一個(gè)原子變量賦值大量線程反復(fù)地睡眠喚醒調(diào)度開(kāi)銷(xiāo)會(huì)淹沒(méi)業(yè)務(wù)本身。這時(shí)候自旋鎖更合適它讓線程在用戶(hù)態(tài)忙等不進(jìn)入睡眠代價(jià)是占滿(mǎn) CPU。關(guān)鍵是判斷臨界區(qū)長(zhǎng)度短則自旋長(zhǎng)則睡眠。讀寫(xiě)鎖則是區(qū)分讀者和寫(xiě)者的鎖讀多寫(xiě)少的場(chǎng)景能獲得很好并發(fā)性。比如配置表、路由表基本都是讀操作。但要提醒一下讀寫(xiě)鎖的公平性設(shè)計(jì)會(huì)影響性能。有些實(shí)現(xiàn)里寫(xiě)者容易餓死一旦有寫(xiě)者等待后續(xù)讀者可能被阻塞或者提前讓位。實(shí)際使用時(shí)要根據(jù)業(yè)務(wù)調(diào)整策略不能寫(xiě)完就扔。我遇到過(guò)的一個(gè)案例是某服務(wù)從互斥鎖換到讀寫(xiě)鎖后吞吐量只提升了 20%遠(yuǎn)低于預(yù)期。原因在于鎖粒度太大讀臨界區(qū)里做了一堆無(wú)關(guān)計(jì)算。鎖這個(gè)工具再快也替代不了結(jié)構(gòu)設(shè)計(jì)。所以?xún)?yōu)先考慮縮小臨界區(qū)再考慮換鎖類(lèi)型。3.2 條件變量用 while 代替 if條件變量是用來(lái)等待某個(gè)條件成立的同步原語(yǔ)但它本身沒(méi)有條件狀態(tài)。它的核心是和互斥鎖配合使用一個(gè)標(biāo)準(zhǔn)姿勢(shì)先加鎖再在 while 循環(huán)里檢查條件條件不滿(mǎn)足就調(diào)用 pthread_cond_wait 釋放鎖并睡眠被喚醒后重新拿回鎖再次檢查條件。為什么必須是 while不能是 if因?yàn)榇嬖隗@群和虛假喚醒兩個(gè)問(wèn)題。多個(gè)線程同時(shí)被喚醒但只有一個(gè)線程能真正處理?xiàng)l件變化其他線程如果不重新檢查條件就會(huì)在條件已經(jīng)不成立的情況下繼續(xù)往下執(zhí)行導(dǎo)致邏輯錯(cuò)誤。我在一個(gè)任務(wù)隊(duì)列里踩過(guò)這個(gè)坑用 if 判斷隊(duì)列非空再加鎖取任務(wù)結(jié)果同一時(shí)刻多個(gè)消費(fèi)者都被喚醒一個(gè)消費(fèi)者把唯一的任務(wù)取走了其他消費(fèi)者拿著空隊(duì)列繼續(xù)跑出完 bug 才徹底記住 while。另一個(gè)經(jīng)驗(yàn)是pthread_cond_wait 調(diào)用前要保證互斥鎖已經(jīng)持有而調(diào)用返回后鎖會(huì)自動(dòng)重新獲得但返回也不代表?xiàng)l件一定滿(mǎn)足所以那句while 中使用就是鐵律。寧可多檢查一次也不要冒險(xiǎn)。3.3 原子操作與無(wú)鎖編程的邊界對(duì)整型計(jì)數(shù)、標(biāo)志位這類(lèi)簡(jiǎn)單場(chǎng)景原子操作能避免鎖的上下文切換開(kāi)銷(xiāo)。GCC 和 Clang 提供__atomic_*內(nèi)置函數(shù)C11 有標(biāo)準(zhǔn)原子庫(kù)C 有std::atomic選擇很多。我常在性能敏感的數(shù)據(jù)路徑上用__atomic_add_fetch做計(jì)數(shù)器實(shí)測(cè)比互斥鎖能低一個(gè)數(shù)量級(jí)。但原子操作只適合非常簡(jiǎn)單的場(chǎng)景一旦涉及多個(gè)變量的關(guān)聯(lián)更新原子操作就無(wú)法保證整體一致性。舉個(gè)典型例子你要維護(hù)隊(duì)列長(zhǎng)度和隊(duì)列數(shù)據(jù)兩個(gè)字段如果用兩個(gè)原子變量分別更新并發(fā)時(shí)消費(fèi)者看到的長(zhǎng)度可能已經(jīng)加一但數(shù)據(jù)還沒(méi)寫(xiě)進(jìn)去。這種復(fù)合操作必須有鎖或者用無(wú)鎖隊(duì)列這種精心設(shè)計(jì)的數(shù)據(jù)結(jié)構(gòu)。無(wú)鎖編程很酷但正確性極難驗(yàn)證生產(chǎn)環(huán)境里我一般只在鏈路最核心、臨界區(qū)最短的地方用其他位置絕不硬上。4. 調(diào)試與排查用工具把系統(tǒng)調(diào)用看清楚4.1 strace系統(tǒng)調(diào)用的抓包工具排查系統(tǒng)編程問(wèn)題strace 是我第一個(gè)上的工具。它能把進(jìn)程發(fā)起的每次系統(tǒng)調(diào)用、參數(shù)、返回值都打印出來(lái)就像網(wǎng)絡(luò)問(wèn)題里的抓包工具。我見(jiàn)過(guò)最經(jīng)典的場(chǎng)景是服務(wù)無(wú)緣無(wú)故卡住不是死循環(huán)進(jìn)度條不動(dòng)CPU 很低。這時(shí)候用strace -p pid附加到進(jìn)程上瞬間就能看到它阻塞在哪個(gè)系統(tǒng)調(diào)用上可能是一個(gè) socket 讀操作也可能是等待某個(gè)文件鎖。常用參數(shù)我習(xí)慣這么配-f跟蹤子進(jìn)程-tt打印精確時(shí)間-T顯示每次系統(tǒng)調(diào)用的耗時(shí)。排查網(wǎng)絡(luò)超時(shí)的時(shí)候strace -f -e tracenetwork -p pid只看網(wǎng)絡(luò)相關(guān)調(diào)用輸出干凈很多。但要注意strace 會(huì)對(duì)性能產(chǎn)生明顯影響在生產(chǎn)環(huán)境附加時(shí)別時(shí)間太長(zhǎng)。定位完問(wèn)題立刻斷開(kāi)否則業(yè)務(wù)延遲會(huì)被拉高。還有一點(diǎn)strace 顯示的是系統(tǒng)調(diào)用層面的行為如果你調(diào)的是 malloc 這種庫(kù)函數(shù)它內(nèi)部可能觸發(fā) brk 或 mmap你會(huì)看到調(diào)用稀奇古怪別被誤導(dǎo)。4.2 gdb core讓崩潰現(xiàn)場(chǎng)說(shuō)話程序崩潰時(shí)最怕的是連現(xiàn)場(chǎng)都沒(méi)有。生產(chǎn)環(huán)境里我會(huì)提前把 core dump 打開(kāi)ulimit -c unlimited然后按需配置/proc/sys/kernel/core_pattern讓 core 文件落到固定目錄。一旦程序崩潰直接gdb 可執(zhí)行文件 core文件輸入bt看調(diào)用棧再用frame n切換棧幀info locals看局部變量配合list看源碼行號(hào)十有八九能立刻定位到崩潰點(diǎn)。這個(gè)流程最核心的價(jià)值是保持現(xiàn)場(chǎng)。很多人遇到崩潰第一反應(yīng)是趕緊重啟結(jié)果日志又沒(méi)打全下次復(fù)現(xiàn)找不到規(guī)律。正確做法是先把 core 文件收下來(lái)再用 gdb 靜態(tài)分析。有一次線上服務(wù)隔幾天崩一次沒(méi)有任何報(bào)錯(cuò)日志我分析 core 后發(fā)現(xiàn)崩潰在線程池銷(xiāo)毀時(shí)一個(gè)線程正在使用已經(jīng)被釋放的任務(wù)對(duì)象。如果當(dāng)時(shí)不保留 core這個(gè)問(wèn)題單靠肉眼邏輯推演不知道要熬多少天。還有一個(gè)實(shí)用技巧崩潰后不急著 bt先info threads看看所有線程狀態(tài)有時(shí)候崩潰線程只是受害者真正的兇手是另一個(gè)線程把共享內(nèi)存改壞了。4.3 從百思不解到定位一次線上崩潰案例復(fù)盤(pán)去年我處理過(guò)一個(gè)詭異的線上問(wèn)題服務(wù)運(yùn)行幾小時(shí)后 CPU 會(huì)突然飆到 100%然后恢復(fù)再過(guò)一陣又飆。一開(kāi)始以為是業(yè)務(wù)流量高峰但流量曲線完全對(duì)不上。我先用top抓到飆高那一刻的進(jìn)程號(hào)再用perf top看熱點(diǎn)發(fā)現(xiàn)熱點(diǎn)集中在字符串比較函數(shù)上。繼續(xù)深入才發(fā)現(xiàn)是一個(gè)全局哈希表的 key 在某些條件下出現(xiàn)異常值導(dǎo)致哈希退化成鏈表查詢(xún)復(fù)雜度從 O(1) 變成 O(n)。整個(gè)過(guò)程讓我重新意識(shí)到系統(tǒng)編程的排查不能只靠猜工具鏈只是幫你縮小范圍真正的問(wèn)題往往隱藏在數(shù)據(jù)結(jié)構(gòu)的極端場(chǎng)景里。現(xiàn)在我再遇到類(lèi)似性能問(wèn)題排查路徑已經(jīng)比較固定先 top 確認(rèn)現(xiàn)象再用 strace 排除系統(tǒng)調(diào)用層面的異常再用 perf 看 CPU 熱點(diǎn)最后用 gdb 或日志定位具體代碼路徑。每一步都在收窄范圍不需要重新發(fā)明輪子但每一步都需要對(duì)系統(tǒng)原理有足夠的理解才能走對(duì)方向。4.4 再補(bǔ)充一個(gè)嵌入式場(chǎng)景的調(diào)試思路如果你的工作涉及嵌入式 Linux會(huì)多一層交叉編譯 目標(biāo)板運(yùn)行的復(fù)雜度。多數(shù)嵌入式板子的資源有限跑不了完整的 gdb 交互式調(diào)試串口日志就成了最樸素也最可靠的調(diào)試手段。我會(huì)在關(guān)鍵路徑上加帶時(shí)間戳的日志尤其會(huì)打印函數(shù)進(jìn)入和退出的標(biāo)記這樣即使沒(méi)有調(diào)試器也能在串口輸出里看到邏輯卡在哪。另一個(gè)實(shí)用的技巧是交叉編譯 gdbserver 到板子上然后通過(guò)網(wǎng)線遠(yuǎn)程用 gdb 連接體驗(yàn)會(huì)好很多。不過(guò)前提是目標(biāo)板上要有網(wǎng)絡(luò)接口和剩余空間資源實(shí)在緊張時(shí)還是老老實(shí)實(shí)把日志打全很多時(shí)候能把日志打好的工程師排查問(wèn)題的效率反而更高。5. 命令、問(wèn)題與知識(shí)沉淀實(shí)戰(zhàn)中的高頻碎片5.1 我常用的排查命令清單系統(tǒng)編程的日常離不開(kāi)幾條命令我整理過(guò)一套自己高頻使用的列表每次排查問(wèn)題基本從里面挑ps -ef/ps aux看進(jìn)程狀態(tài)、CPU、內(nèi)存特別留意Z僵尸狀態(tài)。top/htop實(shí)時(shí)觀察 CPU 和內(nèi)存占用top -H -p pid能看進(jìn)程內(nèi)各線程占用。cat /proc/pid/status看線程數(shù)、內(nèi)存映射、上下文切換次數(shù)。strace -p pid附加到進(jìn)程追蹤系統(tǒng)調(diào)用。gdb -p pid在線調(diào)試運(yùn)行中的進(jìn)程注意會(huì)短暫停住目標(biāo)。lsof查看進(jìn)程打開(kāi)的所有文件排查 fd 泄漏必備。perf top/perf record定位 CPU 熱點(diǎn)優(yōu)化性能時(shí)離不開(kāi)。dmesg看內(nèi)核日志很多段錯(cuò)誤和 OOM 會(huì)在這里留痕。5.2 那些面試中常被問(wèn)到的系統(tǒng)編程概念面試官問(wèn)系統(tǒng)編程問(wèn)題其實(shí)問(wèn)的也是本質(zhì)理解。fork 和 vfork 的區(qū)別、僵尸進(jìn)程與孤兒進(jìn)程、寫(xiě)時(shí)復(fù)制、文件描述符與文件鎖、互斥鎖與自旋鎖的選擇、協(xié)程與線程的關(guān)系這些概念如果你真在項(xiàng)目里用過(guò)就不會(huì)只是背答案。比如問(wèn)到你如何設(shè)計(jì)一個(gè)高并發(fā)的日志系統(tǒng)核心一定繞不開(kāi)緩沖、批量寫(xiě)、無(wú)鎖或最少鎖的路徑設(shè)計(jì)問(wèn)如何排查 CPU 飆高答案其實(shí)就是上面 4.3 里的排查路徑。概念和實(shí)戰(zhàn)是強(qiáng)綁定的只背不練面試稍微追問(wèn)一句那你遇到過(guò)什么案例就會(huì)露餡。5.3 從課程到實(shí)戰(zhàn)怎么完成從會(huì)做作業(yè)到能上生產(chǎn)的跨越很多同學(xué)從系統(tǒng)編程與創(chuàng)新設(shè)計(jì)這類(lèi)課程里出來(lái)作業(yè)能寫(xiě)課設(shè)能過(guò)但一接觸到生產(chǎn)級(jí)代碼還是會(huì)慌。差異在于課程項(xiàng)目往往把問(wèn)題邊界規(guī)定得很清楚而真實(shí)系統(tǒng)里邊界是你自己劃的。我的建議是找?guī)讉€(gè)開(kāi)源項(xiàng)目精讀像 Redis、Nginx、sqlite 的源碼都值得反復(fù)看重點(diǎn)看它們?cè)趺垂芾韮?nèi)存、怎么處理 fd、怎么設(shè)計(jì)線程模型??赐暝创a再自己動(dòng)手模仿寫(xiě)一個(gè)小型服務(wù)比如一個(gè)支持并發(fā)請(qǐng)求的文件服務(wù)器強(qiáng)制自己處理 fork、線程池、超時(shí)、fd 管理、信號(hào)處理踩完一圈坑你對(duì)系統(tǒng)編程的體感會(huì)上一個(gè)很大的臺(tái)階。結(jié)尾最后再分享一個(gè)小技巧排查系統(tǒng)編程問(wèn)題永遠(yuǎn)把先復(fù)現(xiàn)、再縮小、后定位的順序刻在腦子里。不要一上來(lái)就猜是某個(gè)函數(shù)寫(xiě)錯(cuò)了先看現(xiàn)象是否可復(fù)現(xiàn)再看是哪個(gè)進(jìn)程、哪個(gè)線程、哪個(gè)系統(tǒng)調(diào)用最后才回到代碼邏輯去推理。這個(gè)順序能幫你省掉大量的無(wú)效排查時(shí)間。我自己也是從亂打日志、亂試方案走過(guò)來(lái)的熟練之后你會(huì)發(fā)現(xiàn)Linux 系統(tǒng)編程的大部分問(wèn)題都有規(guī)律可循真正考驗(yàn)?zāi)愕氖菍?duì)底層機(jī)制的理解深度和排查問(wèn)題的耐心。希望這篇實(shí)戰(zhàn)經(jīng)驗(yàn)整理能讓你在自己的項(xiàng)目里少走幾段彎路。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
日韩操逼HD| 婷婷10月天青娱乐| 黑人粗大V S日韩女优视频| 欧美日韩人人精品| 动漫av中文| 91艹| 91性感在线| 在线观看亚洲成人精品| 乱伦日本色图AⅤ| 日本一级黄色电影| 性色高清在线| 偷窥自拍亚洲| 青草精品视频-日本久久久久网站| 久久精品久| 国产亚洲精品久久久久小| 欧美日韩国产高清在线一二三区 | 亚洲熟女人妻中文字幕一区二区| yaouchengrenav| 国产精品自在线发布| 深爱五月婷婷| 大香蕉性欧美| 伊人网青青| 天天色播亚洲综合网站| 青青操少妇| 97精品网站| 91综合网站| 思思久热在线精品66| 黄色片一区二区三区四区五区| 干婷婷综合网| 97香蕉人人乳| 农村少妇久久久久久久| 秋霞成人一级在线观看| 亚洲丝袜色| 午夜精品久久久久久久99热影院 | 日韩av乱伦| 区一在线观看| 久久久久久免费电影| 天美传媒AV在线播放| 91影库| 国产Aα| 日本三级大片| 97操在线| 国产欧美日本亚洲精品| 大香蕉97久久| 91黄射| 欧美v日韩v亚洲v最新在线| 国语国产操逼伊人AV网| 天天干天天日天天射黄色片| 96超碰网| 无码精品人妻一区二区三区妖精| 自拍盗摄一区| 久久久久99999| 手机在线视频国内精品| 中文久久一区| 亚洲色狠| 久久久久13| 久草线上视频免费看| 翔田千里无码一区| 中文字幕日韩综合| chaopen97久久| 欧美中文字幕日韩在线| 99久re热视频精品98| 女人一区| 一级黄色性爱裸体视频| 91啪啪| 久久久精品一区二区| 很很操在线| 九九在线精品| 色欲av国内精品久久久久久| 99久久综合| 啊啊啊啊啊舒服| 97人人夜夜精品视频| 精品免费1| 91黑人狂躁丰满熟妇| 曰韩成人免费视频| 男人天堂无码| 强歼乱伦资源网| 欧美亚洲美少妇一区二区| 国产美女高潮| 综合网~91综合网| 欧美人人曰人人操人人射射| 天操天操夜操夜月操月年年操| 91国模| h在线看免费版在线看| 久草精品一区| 无码高清国产AV| www.91欧美| 日韩熟女操逼| av东京热男人的天堂| 黑人白女精品一区| 一区二区三区成人 | 久久久久国产一区二| 东京热精品97综合网| 26uuu国产亚洲综合| 美女淫穴| 国产成人精品必看| 久久久久9999精品九九九| 精品人妻中文字幕4399| 小骚逼被操的爽不爽| 人人性爱视频免费| 久操 高清| 超碰在线人妻中文字幕| 91精品成人| 日本欧美韩国国产在线| 91欧美丨精品丨入口| 亚洲人妻在线一区| 亚洲自拍青操视频| 97久久精品亚洲| 97超碰色| 国产精品久久久久999| 日本 欧美 国产一区| 东北女人性交| 亚洲一区中文字幕久久,果冻传媒一区二区天美传媒 | 精品国产AV一区天美传媒| 日本在线不卡一二区| 91综合网在线| 久久久久成人蜜桃精品| 午夜小电影在线插入淫高潮| 国产精品suv一区| 男女性感激情网站| 人人妻人人爽一区二区三区| 欧美Ⅴ性爱| 熟妇熟女亚洲天堂网| 伊人影院日本| 欧美一级专区免费大片| 日本欧美国内在线| 亚洲天堂一区| 99精品高潮| 激情五月天丁香社区| 78操B| 玖玖蜜臀资源网| 岛国毛片手机在线观看| 东京热,男人的天堂| 熟女性视频| yw尤物av无码点击进入麻豆| 人妻素股| 日本三级韩三级99久久| 国产综合在线视频网站| 中国的操老妇女| 六月激情婷婷| 欧美日韩啪啪电影| 超碰超碰超碰超碰的大鸡吧操黑丝袜| 亚洲 中文 女同| 日韩精品碰碰| 亚洲资源站| 四月丁香婷婷| 一类无码操逼视频| 欧美翘臀视频网站一区二区三区| 丁香婷婷激情五月天无毒不卡| 粉嫩在线一区二区懂色| 日本成a人v网站在线观看| 打av高清| 五月婷色| 亚洲人妻中文高清| 天天拍夜夜| 久久m| 婷婷五月天网| 欧美性生活免费网| 亚洲性天堂| 婷婷丁香一区二区三区| 日韩三级一区| av在线一区二区三区| 日韩大香蕉| 欧美色图 人妻| a久久| a片自拍直播视频| nuu12国产麻豆精品| 97色论| 亚洲夜夜欢无码一区二区| 亚洲国产成人7777| 欧美九九九九九| 欧美 日韩 另类 亚洲| 人妻久久久| 日韩亚洲中文字幕在线| 尤物网站91| 天海翼久久| 五月天色图| 九九黄色网| 1769国内精品视频| 亚洲一二三四区| 97在线观看免费| 91网站18在线| 四虎视频在线观看| 婷婷六月色| 熟妇操花| 日本视频在线观看污污污| 亚洲美女AV无码| 亚洲熟女乱综合一区二区在线-...亚洲国产日韩欧美一区二区三区,久久久久久精 | 欧美日韩国产中文精品字幕自在自线,| 亚洲精品影视老司机| 亚洲全色网| 97资源免费视频| 爽爽淫人网| 99人人干| 伊人久久婷婷| 亚洲欧洲综合视频在线| 极品白嫩美女白浆成人福利在线看| 欧美一级黄色免费专区| 成人性交免费视屏| 欧美丝袜亚洲| 色欲天香天天综合网-成年人三级片网站-欧美乱妇狂野-日韩国产专区-久久久久久 | 日韩性爱免费视频在线网站| 一区二区三区美女超清| 欧美亚洲天堂| 男人的天堂1024| 天天插天天操天天摸天天射天天看| 亚州再线| 欧美在线啊啊啊 | 亚洲综合另类欧美久久久| 精品少妇后入一区二区三区四区人妻巨乳 | 日韩探花精品在线视频| 91丨豆花丨熟女| 青青免费在线视频一区 | 国产毛片精品一区二区色欲黄A片| 亚洲欧洲综合av在线| 国内毛片四区| 一区二区视频在看| 亚洲综合色图欧美| 丝袜美腿操av| 伊人午夜福利视频| 欧美午夜视频| 伊人991| 熟妇精品juliaannAV| 超碰精品| 中文字幕色AV| 操死我了啊啊啊| 人妻大香蕉| 亚洲亚洲亚洲天堂天堂 | 久久精品三级影视| 大香蕉黄色一区| 国产精品久久久无码AV网站| 国产18精品亚洲精品| 在线观看日韩av不卡| 国产理论视频在线播放| 国产精品探花视频| 六月激情婷婷| 人妻在线臀日韩| 欧美性,色九九| 久久久久久久久久久久九| 97网址97| 操一对老熟妇爽上天视频| 大香蕉伊人75| 97人人夜夜精品视频| 天天懆天天日| 日本操逼视频导航| 久久99精品视频| 三级三级三级日本99| 97色在线观看| 亚洲诱惑天堂 | 免费观看国产小粉嫩喷水精品午| 无码一区免费在线不卡| 精品区国产区一区二区三区| 五月天成人综合| 青青草在线成人视频| 超碰1024久久| 33044男人的天堂深夜备| 91爱网| a片偷拍视频| 啪一啪免费视频| 亚洲制服欧美另类内射| 骚货| 玖色av| 色区97| 国语对白露脸XXXXXX| 99re99在线视频| 久久男人的天堂| 亚洲国产婷婷在线播放| AV综合中文字幕干| 国产传媒美日韩av| 啪啪啪男女亚洲中文字幕99| 超碰在线人妻中文字幕| 偷看洗澡一二三区美女| 91人妻视频在线| 久久中文字幕女同性恋一区| 成人性交免费视频| 男人的天堂2018| 天天操天天射天天日| 啊…啊…操我用力操我| 青青草原成人| 日本1区2区不卡视频| 99久久婷婷国产综合| 蜜桃在线观看一区二区三区| 日韩欧美麻豆 | 91色碰| 久久久九九| 国产精品一区二区手机看片| 激情久久久| 中文字幕视频免费| www.久久制服糖| 97超碰碰碰| 久久久天美| 国产强奸乱伦xd| 亚洲有码 欧美精品| 亚州高清av| www久久国产精品| 欧美色婷婷| 免费超碰97久久| 日韩一级欧美一级国产一级台湾 | 78操B| 国产欧美岛国精品一区| 日韩ab网 | 欧美丝袜亚洲| 亚洲Av无码成人精品国产| 91中文精品日韩欧美在线 | 看日韩操逼| 亚洲色图国产另类| 性爱视频免费网址| 九久9热| 色噜噜狠狠色综无码久久合欧美| 午夜丁香| 拍拍拍拍大尺度黄色三级片拍拍拍拍拍照| 青椒国产97在线熟女| 精品无人区麻豆乱码久久久| 2024年最新色情网站在线观看| 色色婷| 人人操人人精品影片| 操逼片国产| 中文在线久久字幕| 久久久一区二区三区三州| 狠狠躁AV| 人妻精品视频一区二区三区| 午夜福利久久久噜久噜久久综合| 久久久久少妇| 青青草原狼av| 麻豆美女丝袜人妻中文| 亚洲精品久| 五十路熟女人妻一区二区三区四区五| 欧美另类色图片| 久久精品国产亚洲av水密被窝| 国产成人www免费人成看片| 天天射夜夜| 欧美一区二区三区四区综合| 啊好爽快点-国产一区二区三区撒尿在线-成人AV | 人妻精品一区二区三区| 任你草| 欧美瑟综合| 日本日皮视频逼| 日本性一区| 天天日天天干天天整| 欲色啪| 精品国产乱码久久久久久口爆网站 | 性感女人网页在线观看视频| 囯产精品久久久久久久久久梁医生| 老女人爆菊| 午夜超碰| 日韩一级二级| 亚洲阿v天堂在线| 黄色二级片网站| 日本操逼视频在线| 日日日骚女人精品| 国产精品午夜高潮呻吟久久av| 久久熟女嫩草成人片免费 | www.yeyecao| 青青草啪啪网| 日韩一级特黄av毛片| 亚洲熟久久| 激情 欧美 亚洲 小说| 丝袜av一区二区三区| 欧美丰满少妇xx高潮| 亚洲男人的天堂网| 簧片免费看视频| 丝袜足交视频| 操美女人妻| 一区二区三区黄色片a| 天天操天天日天天干| 国产综合操逼高清| av中亚| 激情亚洲天堂| 国产精品激情久久久久久久| 99精品综合久久久久五月天| 超碰调教97| 一区二区精品日韩欧美在线观看| 亚洲欧美日韩国产丝袜自拍中文| 综合久久欧美| 2024年最新色情网站在线观看| 久操 高清| 最新中文字幕在线亚洲| 欧洲亚洲少妇| 蘋果手機免費看成人Av| 成人片在线播放| 久久超碰网| 免费久久9999| 色综合99| 国产综合在线视频网站| av橘色网站| 殴美性色a级欧美| 久久精品国产精品一区| 亚洲丝袜制服国产91_国语字幕免费观看完整版下载第5集_ | 欧美熟女丝袜| 99热成人| 欧美久久人人网| 亚洲国产天堂| 青青青青草av在线观看| 久久老子无码午夜伦不卡| 国产精品96| 亚洲的天堂网| 欧美专区在线| 伊人黄色视频免费观看| 精品人妻一二三| 久欲AV| 夜夜高潮夜夜爽| 国产又大又硬又长又粗| 中日韩免费看男女操逼大全| 免费男人的天堂| 久久精品亚洲东京热色播| 干婷婷综合网| 欧美色www亚洲国产阿娇要播| 男人的天堂日韩| 中文字幕91综合| 免费精品福利在线观看| 精品无码一区二区三区| 韩日欧亚a级| 99精品丰满人妻| 国内精品久久国产,www香蕉久久五月丁香,亚洲欧美日韩精品永久在线,日本精品一 | 性爱视频无打码在线观看| 97在线播放| 免费9 1久久| 欧美成人都市人妻| 日韩性爱免费视频在线网站| 国产美女在线精品免费看| avav青青草久久夜| 国产欧美成人精品| 亚洲男人天堂网久久| 亚洲国产日韩欧美熟妇在线| 操逼不卡中文字幕| 国产最火爆久久国产网站网站| 日本不卡一二区| 爱妻综合网| 日本天堂网| 人妻激情偷乱视频一区二区三区| 亚洲乱码国产乱码精网站| 呦呦影院| 欧美色乱| 香蕉99秘 一区精品蜜桃臀| 99热国产| 亚洲素人网| 中文字幕55555| 天天看天天综合成人网| 色色热| 久久人人爽人人爽人人片Ⅴ| 顶级丝袜熟女一区二区三区| 国产精品无码av在线 | 九九九九精品九九九九| 91日产桃蜜| 亚洲色天堂九9| 亚洲色图综合网| 欧亚久久偷拍视频| 日本丝袜美腿人妻九九| 色91综合网| 久久激情五月| 3p国产欧美99热| 17c在线成人免费A片观看| 看免费一级在线播放毛片| 91中文字幕| 夜夜躁狠狠躁日日躁av| 极品色综合| 中国少妇啪啪视频| 大香蕉中文201| 国产精品一区在线播放| 熟女91网站| 蜜臀网 一区| 午夜一区| 免费观看日本操逼视频| 在线视频亚洲无码| 黑人精品一区二区在线播放| 美女操逼A A| 综合av社区| 国产曰批免费观看久久久| 成人无码在线超碰网| 欧美日韩啪啪电影| 国产精品久久久久久照片| 福利操逼| 三级网色| 婷婷精品视频| 9久综合网| juliaann精品熟女一区| 久久深夜无码| 亚洲精品不卡一二三区| 精品一区99999| 少妇蹲下买菜露大唇0| 少妇高潮九九九九九九九| 日韩日韩日韩-国产乱码精品一区二区| 久久精品国产97欧美精品亚洲| 亚洲双插| 久久久少妇| 性爱综合一区二区| 中文字幕精品一区二区精| 上海一级黄片| 国产精品成人在线| 欧插网站| 性欧美精| 欧美成人精品一区| 欧美色www亚洲国产阿娇要播| 最新无码国产| 国产三级多多影院2022国产AA一级毛片无码 | 99re9| 国产亚洲精品一区二区三区| 手机在线播放国产福利| 国产精品久久久久久久久AV大片| 九九热九九热| 久草色悠悠在线视频| 国产精品在线一区二区| 久久久精品视频欧州站| 久久久久久九九九九| 国产精品直播在线观看直播| 看一级特黄a大一片| 丁香五月色| 天堂资源欧美| 日本熟妇色熟妇在线视频播放| 亚洲人久久久网| 亚洲丨在线| 2017亚洲天堂| 欧美性爱三区二区| 超碰亚洲欧美日韩无| 欧美性爱网97| 日躁天天爽爽| 日韩精品在线观看观看| 婷婷五月天基地| 91亚洲不卡一区| 人妻少妇久久| 你懂的在线观看区国产| 黄色片大香蕉| 四虎免费看黄| 亚洲综合伊人无码久久| 第四色奇米影视777| 欧美aaaaaaa| 内射日韩大臀美女| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 国产树林里野战在线看| 精品.99999| com 首页 18岁 禁区 女优 免费 精选 同城 | 欧美成人国产精品| 精品国产乱码久久| 亚欧高清在线| 九九热精品免费视频| 后入式999| 欧美爆乳精品一区二区| 色玖玖| 天海翼久久| 在线日韩精品一区二区三区| 免费一级视频特黄色大片| 色情亚洲日本成人| 精品九九九九九九| 5278欧美一区二区三区| 99RE在线视频精品,这里只有精品| 日韩十八禁| 久久一级无码精品毛片6| 亚州成人A√| 在线免费试看60秒| 国内偷自视频区视频综合| 国产欧美精品日韩区二区麻豆天美| 五十路人妻在线| 9丨亚洲一区二区在线| 久久香蕉国产传媒一区剧情天美| 欧美日日人人天天| 亚洲一欧洲中文字幕在线 | 手机在线播放国产福利| 九九热精品在线| 久久高潮妇女视频| 中文字幕日本久久| 一级黄碟| 亚洲中文日韩欧美大香蕉视频| 日本999精品视频| 日韩人妻丝袜中文字幕| 大香樵伊人网| 日比av无码| 中文字幕乱在线伦视频中文字幕乱码在线| 欧美日韩人人精品| 久久久亚洲熟妇熟女| 色99在线| 亚洲一区中文字幕| 婷婷午夜成人色中色| 日韩操呦呦影院在线观看| 沈阳熟女高潮对白视频| 亚洲一区二区三区久久 亚洲一区二区| 欧美自拍网| 新版天堂中文资源8在线| 97超碰总站| 先锋色眉乱伦资源| 亚洲男人天堂2013| 久久91精品国产9丨久久分亭| 精品国产一区二区三区久久久蜜臀 | 国内精品久久久久影院亚洲| 欧美色图片欧美色图| 久久亚洲AV成人精品无码| 嫩草黄页| 国产色精品午夜大片| 久久6热精品99视频| 色色色色日本| 国模久久在线| 天堂种子在线www网资源| 国产91丝袜在线播放蜜月| 人人射人人操人人摸| 伦理日韩国产久久| 亚洲国产一区二区三区四区国产| 性感美女91影视| 99热超碰| 亚洲激情片| 蜜臀av一区二区三区免费观看| 欧美乱欲| 欧美性色综合网| 久久欲| 色踪合AV| 亚洲aV无码成人在线观看| 91天天爽| 久操黄色视频| 黄色大片免费在线| 香蕉av一区二区三区| 国内精品伊人久久久久影院会| 久草综合网| 日韩AV一区二区三区四四| 精品视频在线观看精品| 欧美日本天堂| 日本性爱少妇| 亚洲91色| 久草久热| 国产熟女完整版中字| 久久禁| 久久欧美按摩999| 亚洲**2021在线观看| 日日日骚女人精品| 亚洲成?V人片在线观看福利| 精品天堂| 香蕉久久精品| 亚洲五码一区二区三区| 丝袜足交视频| 一区二区三区四区久久视1| 在线可观看的黄色网址| 超碰97亚洲| 淫骚熟女一区二区三区| 欧美日韩国产色图在线| 成·人免费午夜在线观看| 久久亚洲熟妇在线视频| 三级片网站在线播放| 中文操逼字幕| 欧亚日本情色| 亭亭丁香激情| 青草av在线| 亚洲黄片免费在线播放| 男人天堂无码| 国产白嫩精品久久| 欧美很很操视频| 国产综合色精品在线观看| 免费97视频| 女人的久久久| 夜嗨影院| 精品人妻免费观看| 舔人妻中文免费视频| 成人婷婷丁香| 黄色AAAAAAAAAAA大片| 亚洲色交| 秋霞鲁丝午夜无码一区二区三| 亚洲欧洲网站免费观看| 最近2018中文字幕在线高清第一页| 欧美综合传媒| AV老汉| 亚洲色久| 国产精品自在线发布| 精品国产Av无码久久久伦古装 | 熟妇乱伦一区二区| 97在线观看免费| 99re69| 九九无码| 国产女人操逼视频| 性色av大全| 五月情色天| 自拍亚洲综合| 91九九九逼| 五月丁香六月激情| 午夜电影在线观看无码专区| 91性高朝久久久久久久久| 久久久亚洲精品中文字幕人妻| 天天综合网1| 蜜臀av中字字幕网站| 丁香色婷婷| 久久一级无码精品毛片6| 成人性爱AV在线免费观看| 国产精品欧美在线观看| 九9精品| 亚洲宗合网| 欧美久久久15P| 97超碰碰碰| 五月婷婷综合网| 亚洲黄色网址视频| 亚洲图片激情综合另类| 久久久久亚洲熟妇熟女| 99re99| 亚洲人妻色图| 91久久久久| 亚洲熟久久| 九九九九九九成人| 4141514逼喷水三级片| 亚洲人人操| 久99热| av一区二区三区 中文| 一级黄色视频网| 亚欧免费| 性饥渴少妇av无码毛片| 成·人免费午夜在线观看| 蜜臀一区二区三区亚洲最新章节在线观看 - 高清蜜臀一区二区三区亚洲全集播放 | 色综合国产在线观看| 啊啊啊啊啊啊在线观看| 久久国产精品m码| 0755午夜福利视频| 美女t无毒不卡不卡| 97综合久第一页| 蜜桃臀一区二区aV| 97超碰色中文字幕| 中文字幕精品亚洲熟女| 国产不卡的视频 | 久久久久久69国产一区二区| 岛国激情视频在线观看| 伊人一区二区在线播放| 思思热在线视频在线| 青娱乐淫乱1314| 色激情综合网站| 东京热男人天堂| 亚洲91在线| 国产老太乱伦一区| 久久无码一区二区二三区性色| 人人弄人人摸| 日本一区二区三区午夜观看| 尤物视频新赏网鲜网色诱网| 超碰9 7女人| 亚洲色图第四色| 国产自产91区13区| 长久操视频| 免费?级毛片无码?∨蜜芽试看| 嗯嗯啊在线视频| 怡红院网站在线视频| 八戒无码国产午夜福利| 欧美视频在线第3页| 欧美,日韩,中文,另类| 欧美国产精品| 亚洲综合另类欧美久久久| 精品对白久久不卡| 日韩av乱伦| 综合97久久| 久久黄色性爱视频| 91夜色chaopeng| 丁香色狠狠色综合久久小说| 国产毛片精品一区二区色欲黄A片| k频道色撸撸| 天天操天天干一区二区| 国内精品久久国产,www香蕉久久五月丁香,亚洲欧美日韩精品永久在线,日本精品一 | 九九热这里只有在线精品视 伊人草 成人菠萝蜜视频在线观看 | 五月激情小说| 色欲天香天天综合网-成年人三级片网站-欧美乱妇狂野-日韩国产专区-久久久久久 | 免费啊啊啊| 青草草免费网站av| 中文乱码99| 日本阿v天堂在线观看| 五月开心网| 亚州五月| 盗摄女人妻在线| 殴洲老熟女| 亚洲av无码成电影在线播放| 国内精品不卡无毒99999| 超碰九7免费| 男人的天堂啪啪| www欧美91| 欧美激情综合色综合啪啪五月| 四虎影视国产精品| 日韩成人大片一区二区| 少妇精品久久久八区九区| 亚洲AV无线| 韩国毛片一区二区三区| 十八禁成人网站在线观看| 久久久久9| 色官网色综合| 欧美激情亚洲情色| 久久精品欧美一区二区三区不卡| 亚洲欧洲色情高清| 欧美天天干| 劲爆欧美人妖三区91| 18禁的网站在线| 欧美与日韩97| 日本日皮视频逼| 四虎精品亚洲| 狠狠操狠狠插| 91亚洲欧洲| 99热这里只有精| se吧提供91精品国产91久久久久久| 欧美色图中文字幕| 青娱乐福利99| 91真人天天在线| 乱论91| 中日韩久久久免费看| 综合激情婷婷| 日韩熟女精一区二区三区不卡| 玖玖视频在线资源一区二区三区| 91社区伊人| 色噜噜人妻丝袜AV资源| 精品九九国产无码| 色哟哟精品1精品2| 久久婷婷色| 97干在线| 欧美国产视频| 国产精品无码av| 大香蕉2017| 曰韩精品九九无码| 人人操人人干xxx| 亚洲和欧美裸体美女双飞视频| 国产日韩欧美亚洲精品95| 亚洲精品蜜桃久久久| 一区二区激情国产熟女| 久久精品 六十路 熟女 欧美| 99精品丰满人妻| 色欲日韩欧美在线一区| 欧美黑人熟妇精品91| 伊人久久国产免费观看视频| 亚洲AV噜噜狠狠网址蜜桃动漫| 97精品网站| 正在播放:深夜激情大战,自带黑丝袜全力输出骚穴 | 国产对白刺激视频| 欧美综合色综合| 久久久久久久一级黄色打同平台| 岛国1区2区3区在线观看| 97热视频在线观看| 色九月婷婷| 日韩偷拍一区二区三区| 男人成人黄色视频在线观看免费下载| 精品久久久亚洲AV成人网站| 秋霞Av理论一级在线| 日欧毛片久久| www.狠狠| 久久久精品中文字幕爱豆| 在线小视频| 首页亚洲国产高跟丝袜诱惑视频| 家庭乱伦国产精品| 好一吊区二区| 蜜色网色哟哟| 成人福利视频网| 东北毛片| 丝袜狠狠草尤物 91| 熟妇人妻精品一区二区视频色欲| 黄片免费视频2019| 农村少妇久久久久久久| 麻豆福利视频导航| 男人a天堂手机在线版| 九九九九9999| 欧美男人亚洲天堂| 久操99| 人妻中文字幕日韩电影| 2017av无码免费无线播| 2019男人的天堂| 美女97超碰| 99久久综合网| av一区二区三区四区| 日韩一卡二卡三卡| 日韩图区| 18一区二区三区| 久久久久久AⅤ无码免费肉站| 九九九色| 日本免费二区三区| 久草新免费| 欧美后进式| 国产极品99热在线播放69| 91精品国产91久久青草| 国产中文字幕在线| 欧美操逼视频二区| 亚洲不卡AV在线| 亚洲古典另类欧美在线| 100啪啪视频大全| 91狠狠综合久久| 国产情色第一第二页在线观看| 欧美日韩情色一区二区| 午夜黄色免费在线观看| heyZO天然素人无码AⅤ专区| 蜜臀久久久99久久久久 | 久久超碰国产一区二区三区| 97人人夜| 射丝袜大香蕉| 青青草在线视频欧美| 久久,精品一二三| 国产男人又猛又粗又爽| 人妻啪| 欧美激情综合| 久草资源在线| 欧美色道啊| 色香伊人| 中文97国产| 欧美亚洲国内自拍| 色综合九九| 性色av蜜臀av色欲aV| 性饥渴少妇av无码毛片| …亚洲黄色厕厕女女在线播…| 一区二区播放| 日本中文字幕一区| 久久久网一区| 日本一区二区三区精品| 天天影视网综合少妇| 六月丁香久久| 国产第25页在线观看| 中国大陆国产高清AⅤ毛片| 日韩熟女无码| WWW.操逼.COM| 九九久久玖玖| 97天天| 香港久久久| 国产精品另类一区大香蕉| 无码人妻系列少妇| 中文字幕日韩人妻视频一区二区三区交换夫妻| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 无码操逼天堂| 大香蕉欧美伊| AV天堂电影网| 啊啊啊啊啊啊啊国| 插入综合网| 东京热亚洲一区二区| 天天爽天天操| 日本一级一级一级一级| 国产成人网站在线观看| 亚欧高清在线| 亚洲性爱无码乱伦av| 亚洲中文日韩欧美大香蕉视频| 人妻一区视频| 欧美老妇曰批的视频| 丰满美女一级毛片在线播放| 超碰97人人cao| 精品久久久av无码免费| 色哟哟 日韩精品| 中文字幕国产在线天堂| 日韩电影在线观看网址| 欧美欧美啪啪视频| 韩国免费播放一级毛片| 日本精品一级二级三级| 天天做天天爱夜夜爽毛片试看| 一区二区三区免费视频入口| 秋霞一级鲁丝片A片| 国产精品一二三区18| 欧美影院一区二区三区| 日本操逼aaaaa| 国产午夜福利专区综合| 精品久久久久久中文字幕三区| 欧美日韩另类在线| 欧美一区二区三区另类精品| 99精品视频在线观看免费| 333kkkk·亚洲com久久| 在线国产一区二区av| 亚洲av无码成人精品国产| 任你爽视频| 私色综合网| 艳美熟妇先锋一二三区| 97se综合网| 热久日综合| 加勒比日本在线| 蜜臀th| 日韩在线观看AV| 九久精品| 人人操,人人液| 大香蕉www.超碰| 午夜精品五区| 啪啪啪大香蕉| 国产高清1234区| 97精品久久久久久久| 欧美熟妇亚洲版| nuu12国产麻豆精品| 一级AAA片一区二区三区| 九九九九精品| 欧美自拍偷拍综合图片| 太久视频| 99视频在线| 麻豆久久久久久久久丝袜 | 亚洲国产成人精品无码专区| 色欲天天综合网| 久久草草欧美精品| 熟妇艹鸡八| 1.igao73.com 加入收藏 免费专区 国产精品 中文字幕 日韩精品 欧美精品 精彩 | 金莲网址| 96久久精品一二三区色欲| 丁香五月av| 久久不卡一区二区 | 国产熟女自拍| 超碰97护士| av最新免费中文字幕| 97人人模人人爽人人| 女人天堂AV五区在线| 天天摸夜夜操视频| 麻豆色约约| 边做饭边操逼逼| 91社区拍啪人妻| 一区二区三区精品黑丝白丝酒店对鸡 | 中文字幕精品专区搜索结果91| 亚洲人妻精品一区二区| 超碰国产精品无码| 日韩av乱伦| 96爱综合| 国产精品一区二区麻豆| 中日韩免费看男女操逼大全| 极品尤物自安慰| 精品精品精品| 99国产精品久久久在线播放| 日韩天天综合| 51国产午夜精品视频| 亚洲第一无码播放立川理惠| 97免费在线视频在线观看| 天天激色| 欧美日韩亚洲天堂| 国产乱色国产精品免费视| 九九成人视频| 中文字幕日韩人妻视频一区二区三区交换夫妻| 2017天天操天天日| 午夜福利无毒不卡| 色婷婷丁香五月| 无码久| 色噜噜国产精品视频一区二区| av日韩国产一区二区| 东京日日夜夜| 91国产丝袜美女| 凹凸视频在线一区二区| 操婷婷逼| 久久久久久久久久久97| 亚洲色图 91| 成全在线观看免费观看| 狂操嫩妻视频一区二区三区| 91精品久久久久久77777| 九九九精品| 九色婷婷| 国产精品久久久久久久久久久久久久久| 欧美 亚洲 第一页 | av日韩在线观看电影| 中文字日本乱码| 台湾佬大香蕉| 日va操| 97干色天堂| 久操免费观看| 奇米狠999| 99re只有精品| 诱惑网综合| 精品伊人久久久大香线蕉小说| 91成人国产综合久久精品蜜月| 91精品91久久久中77777| 国内毛片国产专区二| 91国产大片| 又粗又长又大国产不卡| 亚洲欧洲网站免费观看| 99re这里| 91视频精品| 国产久久一区二区午夜| 色哟哟av| 日韩人妻中文视频| 久久久久9999妇女| 天堂v无码免费视频| 一区二区视频在看| 97干在线| 国产农村一一级特黄毛片| 青草视频人妻在线观看| 蜜乳AV免费观看| 久热伊人99re| 怡红院成人视频| 午夜男女爽爽爽在线视频 | 国产精品经典一卡久久久| 少妇无码999| 超碰人人操97碰| 人妻精品4K4K4K4K4| 日本精品五区| 久久久久久久人妻| 人妻人久久精品中文字幕| 综合免费无码中文| 日本新免费二区三区| 中文字幕一区二区三区字幕| 中文字幕丝袜人妻| 91丝袜在线观看| 巨爆乳肉感一区二区三区竹菊影视| 丰满丝袜少妇AV| 中文字幕交换人妻| 91l欧美在线| 国产亚洲日韩欧| 国产农村妇女精品1区二区| 久久天堂| 超碰亚洲97| 天天综合欧美| 精品久久青青草| 久9综合在线| 最近的最新的中文字幕视频| 欧洲大香蕉| www黄片免费看com| 330Dv国产女人终合视频极品人与兽 | 91亚洲网站| 中文自拍欧美影视| yazhouzaixian| 偷窥自拍亚洲天堂网爆| 天天综合站| 国产精点久久久成人| 锕锕好爽 死我在线观看| 中文字幕成人理论在线| 精品国产久久乱码| 日本激情免费大片| 九草九九九| 久久久久久AⅤ无码免费肉站| 亚洲情色综合网| 探花一区在线| 成人区人妻精品一| 超碰在线成人| 欧美翘臀视频网站一区二区三区 | 日本黄色大片一级视频免费麻豆| 国产25页| 色久桃花影院在线观看| 久久熟女嫩草成人片免费| 日本3级一区二区免费| 黑人性欧美| 男人的天堂2010| 免费国产视频| 2025亚洲男人天堂| 被男人添B超爽视频| 97国产伦理| 久久精品色欧美aⅴ一区二区| 97超碰精品图片| 九色97| 国产毛片毛片4p懂色| 久久最新视频免费观看| 无码日韩人妻av一| 97操碰| 亚洲宅男天堂| 日本操逼视频免费| 欧美白嫩女HD| 久久精品国产亚洲AV无码做| 亚洲av热热色| 丝袜剧情| 激情另类激情| 91日本在线观看| 97鸡把在线视频| 中文字幕二区日韩天堂| 超碰97人人cao| 中文一区二区婷婷视频| 亚洲精品国产无码高清| 久久久久网站-538在线视频-欧美永久乱码| 岛国在线免费视频| 97日视频| 亚洲伊人a线观看视频| 欧美九一精品久久久熟妇| 九九热在线视频| 亚洲性爱乱操x| 久草毛片| 激情五月综合网| 日韩综合无码一区久久92| 亚洲中文电影| 日本精品不卡一二三区| 国产99热| 国产肏屁眼视频| 国产大学生高潮在线播放| 久久精品久| m欧洲一级午老| 亚洲国产激情国产av| 97爱| 激情五月天校园春色网| 97人人射| 人妻无一区二区三区| 999九九九九国产动| 91麻豆天美国产欧美日| yiqicaoav| 丝袜综合| caoni国产亚洲av| 九久精品| 成人黄页| 天天欧美色| 国产精品自拍欧美在线| 91老熟女视频| 91天天爱|