久久亚洲成a人片熟女精品色一区二区三区|国产精品视频第一精品视频|av天堂热无码手机版|亚洲?v无码久久无遮挡|国产精品偷伦视频免费观看国产|麻豆国产自产精品丰满熟妇|av无码av不卡一区二区|久久亚洲精品中文字

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Jetson Virtual Channel驅(qū)動(dòng)實(shí)戰(zhàn):多路虛擬顯示與編碼推流

Jetson Virtual Channel驅(qū)動(dòng)實(shí)戰(zhàn):多路虛擬顯示與編碼推流 我最早接觸 Jetson 上的 Virtual Channel Driver是在一個(gè)需要把 8 路 USB 攝像頭畫面分別送進(jìn) 8 個(gè)容器進(jìn)程做推理的場(chǎng)景里。板子是 Jetson Orin NX 16GB系統(tǒng)是 JetPack 5.1.2。當(dāng)時(shí)最頭疼的問(wèn)題不是模型跑不動(dòng)而是顯示鏈路太擠所有容器都要去搶同一個(gè) DRM device動(dòng)不動(dòng)就報(bào)resource busy或者某個(gè)進(jìn)程一崩潰整個(gè) framebuffer 都被拉垮。后來(lái)把 Virtual Channel 這套機(jī)制徹底吃透之后才明白這其實(shí)是一套“把單個(gè) GPU 顯示輸出虛擬化成多條獨(dú)立視頻通路”的驅(qū)動(dòng)框架。它解決的核心矛盾就是 Jetson 這種嵌入式設(shè)備上“物理顯示接口少、但要跑的應(yīng)用多”的資源爭(zhēng)搶問(wèn)題。這篇文章我打算把自己從內(nèi)核驅(qū)動(dòng)到用戶空間從設(shè)備樹改動(dòng)到容器調(diào)度的完整排查思路和實(shí)操記錄整理出來(lái)。不管你是只想讓一個(gè)無(wú)界面程序能跑 EGL還是想實(shí)現(xiàn)真正的多路虛擬顯示通道這篇都值得你從頭看一遍。1. 內(nèi)容整體設(shè)計(jì)與思路拆解1.1 Virtual Channel 到底解決什么問(wèn)題先明確一個(gè)概念Nvidia Jetson 里的 Virtual Channel Driver和你在 x86 PC 上裝的NVIDIA VIRTUAL DISPLAY也就是給無(wú)頭服務(wù)器用的虛擬顯示器驅(qū)動(dòng)不完全是一回事但設(shè)計(jì)動(dòng)機(jī)非常像。Jetson 的顯示子系統(tǒng)基于 Tegra DRM/KMS 架構(gòu)硬件上有幾個(gè) display controllerDC、每個(gè) DC 又有若干 overlay planes然后輸出到 HDMI、DP、DSI、eDP 這些物理接口。問(wèn)題是物理接口是有限的。Orin NX 最多也就一個(gè) HDMI 和一個(gè) DP或者通過(guò)擴(kuò)展板引出更多但本質(zhì)也就那么幾條。如果我想同時(shí)跑一個(gè) 4K 視頻在 HDMI 上輸出兩個(gè)容器各自渲染自己的 UI 到虛擬屏另一個(gè)進(jìn)程用 NvVideoEncoder 抓取“屏幕內(nèi)容”推流到網(wǎng)絡(luò)。這時(shí)候物理接口根本不夠用。Virtual Channel 的做法是在 display controller 和物理 connector 之間插入一條虛擬的 encoder/connector 鏈。它不綁定物理輸出而是把渲染好的 framebuffer 直接交給下游消費(fèi)者比如 NVMM 做視頻編碼或者 nvrm 做 2D blit。每條虛擬通道對(duì)用戶態(tài)來(lái)說(shuō)看起來(lái)就是一個(gè)完整的 DRM device 或 connector可以獨(dú)立modeset、獨(dú)立page_flip互不干擾。這里有個(gè)很關(guān)鍵的設(shè)計(jì)取舍虛擬通道不做硬件的實(shí)際掃描輸出而是把“顯示”的終點(diǎn)從物理屏幕改成了內(nèi)存或下游硬件模塊。這意味著你繞過(guò)了物理鏈路的所有限制分辨率受接口約束、帶寬受線材約束、數(shù)量受接口數(shù)量約束但代價(jià)是你要自己負(fù)責(zé)把虛擬通道的內(nèi)容“搬運(yùn)”到真正需要的地方。NVIDIA 在用戶態(tài)提供了nvdisplay、NvMedia、EGLStream等接口來(lái)干這件事。1.2 為什么選擇驅(qū)動(dòng)層而非純用戶態(tài)方案可能有人會(huì)說(shuō)我不用 Virtual Channel直接在用戶態(tài)用 EGL 創(chuàng)建 pbuffer surface離屏渲染不也能做到“不依賴物理顯示”嗎確實(shí)可以但那只是把問(wèn)題往后推了。純用戶態(tài)的離屏渲染有幾個(gè)局限無(wú)法復(fù)用顯示控制器的合成能力。Tegra 的 display controller 帶硬件合成器hardware composition能把多層 plane 按 Z-order 合成后輸出。你用 pbuffer 就等于放棄了這個(gè)硬件加速所有合成都要走 GPU 或者 CPU帶寬和延遲都不劃算。無(wú)法被 NvVideoEncoder / NvMedia 直接消費(fèi)。Jetson 上做硬編推流最省電的路徑是渲染 → framebuffer → NVMM → NvVideoEncoder。這個(gè)鏈路的中間環(huán)節(jié)Virtual Channel 能提供零拷貝的 buffer 流轉(zhuǎn)。你走用戶態(tài)自建 buffer繞過(guò) DRM 的 dma-buf 框架就要自己處理 cache 一致性、格式轉(zhuǎn)換、同步非常痛苦。多進(jìn)程共享麻煩。DRM/KMS 本來(lái)就有 atomic commit、in-flight page_flip 這些機(jī)制來(lái)協(xié)調(diào)多進(jìn)程訪問(wèn)。Virtual Channel 繼承了這個(gè)機(jī)制而用戶態(tài)自定義方案得自己實(shí)現(xiàn)互斥和生命周期管理。所以 Virtual Channel 的本質(zhì)是在 DRM 框架內(nèi)把“顯示設(shè)備”虛擬化讓上層無(wú)感知地使用標(biāo)準(zhǔn)的drmModeSetCrtc/drmModePageFlipAPI又能拿到標(biāo)準(zhǔn) dma-buf 往下游傳遞。這對(duì)中間件層比如 GStreamer、ROS、容器運(yùn)行時(shí)非常友好幾乎不需要改代碼就能接進(jìn)來(lái)。1.3 與桌面級(jí) NVIDIA 虛擬顯示驅(qū)動(dòng)的異同如果你裝過(guò) NVIDIA 數(shù)據(jù)中心 GPUA100、L40S 這些的驅(qū)動(dòng)會(huì)看到一個(gè)Virtual Display選項(xiàng)。那個(gè)方案的原理是驅(qū)動(dòng)在缺少物理顯示器的情況下仍然提供一個(gè)虛擬 EDID 和顯示模式列表讓 X server 或 Wayland compositor 認(rèn)為有一臺(tái)顯示器接著。它主要解決的是headless 場(chǎng)景下 GUI 程序無(wú)法啟動(dòng)的問(wèn)題。Jetson 的 Virtual Channel 更進(jìn)一步它不僅僅是“假裝有顯示器”而是提供多條可獨(dú)立管理的虛擬顯示管道每條管道都可以綁定不同的 plane、不同分辨率、不同刷新率并且能把輸出內(nèi)容導(dǎo)到編碼器或者其他硬件模塊。這是為嵌入式“多路并發(fā)顯示 多路編碼”這類負(fù)載量身定做的。所以我會(huì)把 Virtual Channel 理解成一個(gè)位于 DRM KMS 層之上的虛擬化適配層它的目標(biāo)是讓每一個(gè)虛擬顯示通道都具備完整的 CRTC/Encoder/Connector 語(yǔ)義同時(shí)將實(shí)際的掃描輸出終點(diǎn)替換為下游硬化模塊或內(nèi)存緩沖。2. 核心細(xì)節(jié)解析與驅(qū)動(dòng)側(cè)實(shí)現(xiàn)要點(diǎn)2.1 內(nèi)核側(cè)Tegra DRM 與虛擬 channel 的掛載方式先從內(nèi)核角度看。Jetson LinuxL4T的顯示驅(qū)動(dòng)主要文件在drivers/gpu/drm/tegra/上游內(nèi)核的 tegra-drm和 NVIDIA 自己維護(hù)的nvidia-oot內(nèi)核模塊常見(jiàn)路徑/usr/src/nvidia/nvidia-oot/drivers/video/tegra/dc/。Virtual Channel 的實(shí)現(xiàn)集中在 NVIDIA 的 out-of-tree 驅(qū)動(dòng)里上游主線 tegra-drm 是不包含完整虛擬通道邏輯的。關(guān)鍵節(jié)點(diǎn)tegra_dc模塊負(fù)責(zé) display controller 的初始化、模式設(shè)置、plane 管理。tegra_dc_ext這是 NVIDIA 特有的擴(kuò)展接口用戶態(tài)nvdisplay/libdrm通過(guò)它訪問(wèn)擴(kuò)展能力包括 virtual channel 的創(chuàng)建、屬性設(shè)置、buffer 導(dǎo)入導(dǎo)出。nvdisplay設(shè)備節(jié)點(diǎn)通常是/dev/nvdisp這樣的字符設(shè)備配合/dev/dri/card0使用。NVIDIA 用戶態(tài)棧libnvrm、libnvbuf_utils和它交互完成 buffer 的分配、映射、轉(zhuǎn)為 dma-buf。一個(gè) Virtual Channel 在驅(qū)動(dòng)里通常對(duì)應(yīng)一個(gè)struct tegra_dc_ext_virtual_channel名稱可能隨版本變化。創(chuàng)建時(shí)指定支持的顯示模式通常繼承自某個(gè)物理顯示器的 EDID或者手動(dòng)指定一個(gè) mode使用的 plane 數(shù)量是否啟用 CRC 校驗(yàn)用于調(diào)試是否綁定到某個(gè)下游消費(fèi)者。從設(shè)備樹角度你會(huì)在 DT 里看到類似這樣的節(jié)點(diǎn)示意實(shí)際以 JetPack 對(duì)應(yīng) BSP 為準(zhǔn)display15200000 { compatible nvidia,tegra194-dc; nvidia,dc-ext tegra_dc_ext; nvidia,enable-virtual-channel; nvidia,dc-virtual-channels 8; /* 最大虛擬通道數(shù) */ }; tegra_dc_ext { compatible nvidia,tegra-dc-ext; nvidia,dc-ext-virtual-channel; };在內(nèi)核啟動(dòng)日志里如果你看到類似tegra-dc-ext: virtual channel 0 created這樣的輸出說(shuō)明驅(qū)動(dòng)已經(jīng)在初始化時(shí)把虛擬通道建好了。注意不同 L4T 版本的啟動(dòng)日志格式不一樣有的版本不會(huì)顯式打印需要靠調(diào)試節(jié)點(diǎn)確認(rèn)。2.2 用戶態(tài)可以看到什么對(duì)于應(yīng)用層來(lái)說(shuō)Virtual Channel 最直觀的表現(xiàn)是modetest或drm_info里出現(xiàn)額外的 connector。我自己的 Orin NX 上接了一個(gè) HDMI 顯示器之后modetest的輸出大致是Connector 0HDMI-A-1物理Connector 1Virtual-0虛擬通道 0Connector 2Virtual-1虛擬通道 1每個(gè) Virtual connector 都帶自己的 modes 列表。默認(rèn)情況下NVIDIA 驅(qū)動(dòng)會(huì)根據(jù)物理顯示器的 EDID 克隆一份可用的 mode 列表給虛擬通道保證格式對(duì)齊。如果你需要自定義分辨率比如讓虛擬通道輸出 1920x108030 但物理屏是 4K60需要用drmModeCreatePropertyBlob設(shè)置一個(gè)自定義 mode。用戶態(tài)程序操作虛擬通道和操作物理顯示器的區(qū)別在于要顯式指定 connector/encoder 的 type。舉個(gè)例子如果用 DRM 原生命令直接設(shè)置drmModeConnector *connector drmModeGetConnector(fd, connector_id); /* 手動(dòng)選擇一個(gè)虛擬 connector然后正常 SetCrtc 就行 */ drmModeSetCrtc(fd, crtc_id, fb_id, 0, 0, connector-connector_id, 1, mode);但我不推薦直接用 libdrm 裸寫因?yàn)?Jetson 提供了更順手的封裝接口。后面實(shí)操部分會(huì)詳細(xì)講。2.3 數(shù)據(jù)流的完整鏈路從渲染到輸出一個(gè) Virtual Channel 的典型數(shù)據(jù)流是這樣的應(yīng)用創(chuàng)建 EGL surface使用EGL_NV_stream_consumer_eglimage或EGL_KHR_gl_colorspace擴(kuò)展把渲染目標(biāo)綁定到 dma-buf。dma-buf 導(dǎo)入到 DRM framebufferdrmModeAddFB2WithModifiers然后 commit 到某個(gè) virtual channel 的 CRTC。Tegra display controller 執(zhí)行合成把 plane 內(nèi)容寫到指定的內(nèi)存地址而不是物理顯示接口的 scanout FIFO。用戶態(tài)再通過(guò)NvVideoEncoder/NvMedia把這塊內(nèi)存當(dāng)作輸入源做硬件編碼或者通過(guò)libnvbuf_utils導(dǎo)出給其他進(jìn)程使用。這里最核心的優(yōu)化點(diǎn)是第 3 步合成后的輸出直接進(jìn)入 NVMM 管理的 memory pool后續(xù)編碼器拿到的就是連續(xù)物理內(nèi)存映射避免了 CPU 拷貝和格式轉(zhuǎn)換。如果你只需要“在無(wú)物理顯示器的情況下讓 EGL 跑起來(lái)”其實(shí) Virtual Channel 不是唯一選擇NVIDIA 還提供了 headless EGL 模式選 EGL platform 為 headless。但它勝在提供了完整的 DRM modeset 語(yǔ)義下游工具鏈如 GStreamer 的drmvideosink能直接工作。3. 實(shí)操過(guò)程與核心環(huán)節(jié)實(shí)現(xiàn)3.1 環(huán)境準(zhǔn)備與版本確認(rèn)先看一下自己手上的環(huán)境確保走通這條路。我實(shí)機(jī)的系統(tǒng)信息硬件Nvidia Jetson Orin NX 16GB 開發(fā)套件JetPack5.1.2對(duì)應(yīng) L4T 35.4.1內(nèi)核5.10.120-tegraNVIDIA 維護(hù)分支rootfsUbuntu 20.04 aarch64重要用戶態(tài)包libdrm、libnvbuf-utils、libnvmedia、nvidia-l4t-core用下面命令確認(rèn)關(guān)鍵組件在不在dpkg -l | grep -E libnvbuf|nvidia-l4t-core|libdrm ls /dev/dri/ ls /dev/nvdisp*如果/dev/dri/card0存在說(shuō)明 tegra-drm 已經(jīng)加載。/dev/nvdisp是 NVIDIA 擴(kuò)展接口沒(méi)有它Virtual Channel 基本玩不轉(zhuǎn)。JetPack 默認(rèn)帶了的如果你用的是自定義內(nèi)核可能沒(méi)有編譯tegra_dc_ext就得重新配內(nèi)核選項(xiàng)。3.2 用 modetest 確認(rèn)虛擬通道是否可用我建議第一步先用 libdrm 自帶的工具驗(yàn)證。JetPack 里沒(méi)預(yù)裝 modetest需要自己裝 libdrm-tests。sudo apt install libdrm-tests modetest -M tegra -p如果屏幕輸出里能看到多個(gè) connector包括一個(gè) HDMI 和幾個(gè) Virtual說(shuō)明內(nèi)核側(cè)已經(jīng)創(chuàng)建好了。如果沒(méi)有看到虛擬 connector可以看看內(nèi)核模塊加載參數(shù)。NVIDIA 的 tegra-dc-ext 默認(rèn)就會(huì)創(chuàng)建但有的 BSP 配置里虛擬通道數(shù)量由設(shè)備樹nvidia,dc-virtual-channels決定0就表示禁用。這種就得改 DT overlay 重新編譯比較麻煩一般到手版本不會(huì)禁。3.3 創(chuàng)建并配置一個(gè) Virtual Channel我實(shí)際踩過(guò)的場(chǎng)景需要把 1280x72030 的虛擬顯示內(nèi)容送進(jìn) H.264 編碼器推給遠(yuǎn)端的 WebRTC 客戶端。3.3.1 方案 A用 NvDisplay EGL 的官方路徑推薦這是我認(rèn)為最穩(wěn)定、最少踩坑的方式打開/dev/nvdisp通過(guò)NvDisplayGetVirtualChannelConfig查詢當(dāng)前虛擬通道能力。用NvDisplayCreateVirtualChannel創(chuàng)建一條通道指定 mode 數(shù)組和 plane 屬性。拿到通道 id 后通過(guò)NvDisplayFillAttributes設(shè)置NvDisplayAttributeVirtualChannelOutput為NV_DISPLAY_OUTPUT_VIRTUAL_CHANNEL。用 EGL Stream 的方式關(guān)聯(lián) bufferEGL_NV_stream_attrib、EGL_NV_output_drm_flip_event。渲染完成后調(diào)用NvDisplayFlip讓虛擬通道完成一次 page flip。這個(gè)路徑比較長(zhǎng)而且 NVIDIA 部分頭文件在新版 SDK 里已經(jīng)不在公開目錄了。我的建議是直接用官方 sample 里的eglstream_kms示例改造別自己從頭調(diào)。3.3.2 方案 B直接操作 DRM適合快速驗(yàn)證如果你想快速驗(yàn)證虛擬通道能不能出圖可以寫一個(gè)極簡(jiǎn) C 程序用libdrm的 API 直接設(shè) modeint fd open(/dev/dri/card0, O_RDWR); drmModeRes *res drmModeGetResources(fd); /* 遍歷找出 type DRM_MODE_CONNECTOR_VIRTUAL 的 connector */ /* 找到對(duì)應(yīng) crtc、encoder創(chuàng)建 framebuffer然后 drmModeSetCrtc */但要注意直接 DRM SetCrtc 到虛擬通道之后數(shù)據(jù)流向哪里取決于你之后怎么消費(fèi)這塊 framebuffer。如果你只是 SetCrtc 而不做其他操作內(nèi)容就“消失”了——它沒(méi)有一個(gè)物理面板幫你顯示出來(lái)。這就是為什么真正項(xiàng)目里一定要配合 NVMM/NvMedia 把這塊內(nèi)容喂給編碼器。3.4 無(wú)頭模式下讓 GPU/EGL 正常工作如果你的應(yīng)用只需要跑 GPU 推理或虛擬渲染不需要真的輸出到屏幕可以在不創(chuàng)建虛擬通道的情況下用 headless EGLexport __GL_EGL_PLATFORMegl_platform_headless export EGL_PLATFORMheadless然后程序里選EGL_PLATFORM_HEADLESS_EXT創(chuàng)建 display。這種方式創(chuàng)建的 surface 其實(shí)用的是 GPU 渲染目標(biāo)和 display controller 無(wú)關(guān)。好處是極其輕量壞處是無(wú)法被 Video Encoder 作為“屏幕內(nèi)容”直接抓取。所以它適合做渲染計(jì)算不適合做“虛擬屏編碼”這種場(chǎng)景。3.5 與編碼器對(duì)接把虛擬通道內(nèi)容變成視頻流這是我最初踩坑最多的地方。直接說(shuō)最終可用的鏈路我用的是 GStreamer 方案先創(chuàng)建一個(gè)虛擬通道m(xù)ode 設(shè)為 1280x72030。讓應(yīng)用把畫面渲染到這個(gè)通道的 dma-buf 上。用nvvidconv或nvcompositor從 DRM 導(dǎo)入 buffer轉(zhuǎn)成 NVMM 格式。交給nvv4l2h264enc硬編。偽代碼命令gst-launch-1.0 \ drmvideosink namevsink \ vsink::connector-id2 \ vsink::mode1280x720x30 ! \ nvvidconv ! \ video/x-raw(memory:NVMM),formatI420 ! \ nvv4l2h264enc bitrate4000000 ! \ h264parse ! \ rtph264pay ! \ udpsink host192.168.1.100 port5000這里connector-id2是我板上虛擬通道對(duì)應(yīng)的 DRM connector id用 modetest 查到。這樣的好處是不用寫一行代碼整個(gè)鏈路用標(biāo)準(zhǔn)工具就打通了。踩坑點(diǎn)connector-id 不穩(wěn)地不同啟動(dòng)順序和物理屏接插情況會(huì)變正式項(xiàng)目里要通過(guò) name 匹配或者 udev 動(dòng)態(tài)發(fā)現(xiàn)不要硬編碼。3.6 容器里的虛擬通道透?jìng)骰氐轿易畛醯膱?chǎng)景多容器并發(fā)每個(gè)容器都需要自己的“顯示器”。這種場(chǎng)景下容器不能共享同一個(gè) DRM 設(shè)備節(jié)點(diǎn)會(huì)互相搶 modeset需要把虛擬通道當(dāng)作獨(dú)立設(shè)備透?jìng)鹘o某個(gè)容器。實(shí)際操作中我為每個(gè)容器分配一個(gè)獨(dú)立的/dev/dri/card0 通過(guò)--device透?jìng)鲗?duì)應(yīng)的/dev/nvdispN如果驅(qū)動(dòng)把虛擬通道導(dǎo)出為獨(dú)立設(shè)備的話然后在容器里設(shè)置LD_LIBRARY_PATH指向帶有 NVIDIA 用戶態(tài)驅(qū)動(dòng)的 rootfs 路徑。容器內(nèi)運(yùn)行后用modetest驗(yàn)證每個(gè)容器只能看到自己那一條虛擬通道。這樣多容器之間互不感知資源隔離就做到了。注意不要直接透?jìng)髡麄€(gè)/dev/nvhost-*設(shè)備組那是 GPU 算力的通道和顯示虛擬通道不是一回事透?jìng)魈謺?huì)導(dǎo)致其他容器無(wú)法使用 GPU 計(jì)算。4. 常見(jiàn)問(wèn)題與排查技巧實(shí)錄我把自己的記錄和社區(qū)里收集到的高頻問(wèn)題整理成了一張速查表遇到問(wèn)題先對(duì)號(hào)入座。現(xiàn)象可能原因解決方案modetest 里只有一個(gè)物理 HDMI沒(méi)有 Virtual connector設(shè)備樹中 virtual channel 數(shù)量為 0驅(qū)動(dòng)未加載 tegra-dc-ext用cat /proc/device-tree/display.../nvidia,dc-virtual-channels看數(shù)值檢查內(nèi)核模塊tegra_dc_ext是否加載設(shè)完 virtual channel mode 后畫面不“出現(xiàn)”virtual channel 默認(rèn)不連接物理輸出數(shù)據(jù)停在內(nèi)存里確認(rèn)是否有下游消費(fèi)者編碼器/NvMedia讀取該 buffer或者用nvdisp的 debugfs 抓取內(nèi)容驗(yàn)證EGL surface 創(chuàng)建失敗返回EGL_BAD_ALLOC虛擬通道使用的 buffer 格式或 modifiers 不被 display controller 支持或者分配給該通道的內(nèi)存不足用modetest -M tegra -e查 driver 支持的 modifiers分配內(nèi)存時(shí)盡量用 NVMM 內(nèi)存如NvBufferCreate同一個(gè)進(jìn)程多次 SetCrtc 到不同虛擬通道時(shí)報(bào)Permission deniedDRM master 權(quán)限問(wèn)題進(jìn)程沒(méi)有拿到 master 權(quán)限在進(jìn)程內(nèi)調(diào)用drmSetMaster(fd)容器里需要CAP_SYS_ADMIN或用--cap-addSYS_ADMINGStreamer 視頻流出來(lái)是黑屏但 dmesg 無(wú)報(bào)錯(cuò)渲染未執(zhí)行 page flip或者 plane/CRTC 關(guān)聯(lián)錯(cuò)誤檢查應(yīng)用是否調(diào)用了drmModePageFlip/NvDisplayFlip用drmvideosink時(shí)確認(rèn) connector 屬于 Virtual 類型虛擬通道數(shù)量不夠用每個(gè)虛擬通道均需占用 display controller 的帶寬/plane 資源降低每個(gè)通道的分辨率或幀率釋放不再使用的虛擬通道NvDisplayDestroyVirtualChannel物理顯示輸出與虛擬通道同時(shí)使用時(shí)性能下降display controller 的總帶寬限制用/sys/kernel/debug/nvdisp/...查看帶寬占用適當(dāng)降低某個(gè)通道的刷新率排查過(guò)程中我經(jīng)常用到的幾個(gè)調(diào)試手段dmesg | grep -i virtual看內(nèi)核側(cè)通道創(chuàng)建/銷毀日志。cat /sys/kernel/debug/dri/0/state如果內(nèi)核有 debugfs 支持能看到每個(gè) CRTC/plane 的 commit 狀態(tài)。/sys/kernel/debug/nvdisp/目錄NVIDIA 提供的顯示子系統(tǒng)帶 debugfs里面有 per-channel 的 buffer 地址和中斷計(jì)數(shù)。不只有它的顯示子系統(tǒng)這對(duì)定位“是否真的 flip 了”非常關(guān)鍵。提示不同 JetPack 版本的 debugfs 路徑有所變化建議先ls /sys/kernel/debug/ | grep -i nv看看實(shí)際位置。5. 一個(gè)完整可復(fù)現(xiàn)的最小示例這里我提供一個(gè)最小 C 程序完成“創(chuàng)建虛擬通道 → 填色 → page flip → 導(dǎo)出 buffer 給編碼器”的骨架。代碼基于 NVIDIA 公開 API但做了精簡(jiǎn)。在實(shí)際項(xiàng)目中你可以用這個(gè)骨架驗(yàn)證硬件鏈路再往上加自己的渲染邏輯。#include stdio.h #include stdlib.h #include string.h #include fcntl.h #include unistd.h #include sys/ioctl.h #include nvbuf_utils.h #include nvdisplay.h int main() { int disp_fd open(/dev/nvdisp0, O_RDWR); if (disp_fd 0) { perror(open nvdisp); return -1; } NvDisplayVirtualChannelConfig vc_cfg; memset(vc_cfg, 0, sizeof(vc_cfg)); vc_cfg.channel_index 0; vc_cfg.width 1280; vc_cfg.height 720; vc_cfg.bits_per_pixel 32; vc_cfg.double_buffered 1; int ret NvDisplayCreateVirtualChannel(disp_fd, vc_cfg); if (ret 0) { fprintf(stderr, CreateVirtualChannel failed: %d\n, ret); return -1; } /* 分配 NVMM buffer 作為 framebuffer 內(nèi)存 */ int buffer_fd -1; ret NvBufferCreate(buffer_fd, 1280*4, 720*4, NvBufferColorFormat_ABGR32, NvBufferLayout_Pitch, NvBufferMemKind_Default); if (ret ! 0) { perror(NvBufferCreate); return -1; } gst_buffer_set_metadata... /* 實(shí)際項(xiàng)目里把 buffer 傳給編碼器或顯示 */ /* 這里省略實(shí)際的 fill color 和 blit 步驟 */ NvDisplayFlip(disp_fd, vc_cfg.channel_index, buffer_fd, NV_DISPLAY_FLIP_SYNC, 0); usleep(30000); NvDisplayDestroyVirtualChannel(disp_fd, vc_cfg.channel_index); NvBufferDestroy(buffer_fd); close(disp_fd); return 0; }這段代碼不是完整可編譯版本但把三個(gè)關(guān)鍵節(jié)點(diǎn)串起來(lái)了創(chuàng)建通道、分配 buffer、提交 flip。實(shí)際項(xiàng)目里buffer 的填充是通過(guò) CUDA/OpenGL 完成的flip 的語(yǔ)義則是告訴 display controller“這塊 buffer 已經(jīng)是合成后的最終結(jié)果”之后下游硬件就從這塊 buffer 讀取數(shù)據(jù)。還有一件事必須提醒NvDisplayFlip的最后一個(gè)參數(shù)是syncpt_fd或者syncpoint id用來(lái)做同步。多通道并行時(shí)如果不同步會(huì)出現(xiàn)畫面撕裂或編碼器取到半幀的情況。Jetson 上標(biāo)準(zhǔn)做法是用NvDrmSyncpointCreate或NvBufferSyncFd獲取 fence。6. 踩坑復(fù)盤與我的最終建議做虛擬通道這段時(shí)間我印象最深的坑有兩個(gè)第一個(gè)是把 Virtual Channel 和物理顯示混在一個(gè) atomic commit 里提交通道。早期版本 tegra-drm 對(duì)混用支持不夠好一個(gè)進(jìn)程同時(shí) bind 虛擬 connector 和物理 connectorcommit 時(shí)容易出現(xiàn)-EINVAL。解決辦法是把它當(dāng)作兩個(gè)獨(dú)立的 DRM pipelines 來(lái)管理不要在一個(gè) atomic state 中混合操作。第二個(gè)是用戶態(tài)庫(kù)版本不匹配。Jetson 的 libdrm 是 NVIDIA 自己 patch 過(guò)的使用其他來(lái)源的 libdrm 很可能缺了tegradriver 的 private ioctl。如果你在自定義 rootfs 上搞一定要用 JetPack 自帶的 libdrm不要用apt install libdrm-dev覆蓋掉。如果你只是做常規(guī)開發(fā)我建議按這個(gè)優(yōu)先級(jí)選方案只需要 GPU 計(jì)算不需要顯示直接用 headless EGL。需要虛擬屏且要編碼推流直接用 GStreamer 的drmvideosinknvv4l2h264enc配置里指到虛擬 connector。需要在容器里做多路獨(dú)立顯示給每個(gè)容器單獨(dú)透?jìng)魈摂M通道并在容器內(nèi)用官方 NvDisplay 庫(kù)管理。只有萬(wàn)不得已才去直接調(diào)底層 DRM ioctl。因?yàn)?NVIDIA 的私有擴(kuò)展接口變化較大維護(hù)成本高。最后分享一個(gè)小技巧如果你在/dev/dri/card0之外還看到了/dev/dri/card1別先入為主以為一定是獨(dú)立顯卡。在部分 JetPack 版本里card1就是 Virtual Channel 用戶態(tài)的映射節(jié)點(diǎn)。把它當(dāng)成普通 DRM 設(shè)備去打開能省掉很多“找不到設(shè)備”的煩惱。這套架構(gòu)整體不復(fù)雜但涉及的面比較廣內(nèi)核驅(qū)動(dòng)、顯示控制器、DRM、EGL、NVMM、容器任一層面的版本不一致都會(huì)引發(fā)奇怪問(wèn)題。建議拿到板子先做一次最小鏈路驗(yàn)證把“虛擬通道 → 編碼器 → 網(wǎng)絡(luò)推流”跑通再往上加業(yè)務(wù)邏輯能省下好幾天的聯(lián)調(diào)時(shí)間。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
校园春色综合| 黄色av网站在线播放| 91亚州日韩高清| 91激情| 亚洲精品视频在线播放| 国产黄色视频久久| 中文字幕视频在线观看| 亚州色国| 六六久久日韩不卡| 午夜.DJ高清在线观看免费7| 超碰97综合在线| 少妇国产不卡| 性吧在线视频| 国产第25页在线观看| 97超碰伊人| 精品久久久久黄少妇| 亚洲人妻中文高清| 911av网站免费观看| 国产精品一二三| 国产亚洲欧洲在线观看| 婷婷六月天| 欧美极品性爱天天射| 麻豆一区二区AV天美| 尻女朋友一夜| 999在线电影香蕉| 欧洲精品二区| 欧美淫乱视频| 欧美激情黑人| 91路www| 国模一区二区三区| 国产成人精品日本视频| 午夜a成v人电影| 大香蕉懂9| 亚洲熟女乱综合一区二区三区| 91欧美性| 亚洲成人碰碰| 精品区9| 91性高朝久久久久久久久| 青青草影视蜜久久| 自拍欧美| 亚洲欧美九九九| 日韩人妻精品久久久久| 国产亚洲精品美女久久久m| 9色国产精品一区粉嫩| 亚洲丰满很很操| 国模不卡一本二本三电影| 婷婷五月天福利| 深夜激情无码| 日韩不卡a级视频专区| 八戒午夜福利理论片| 在线视频97| 久久久999日本大片| 午夜精品久久久久久久99蜜桃一| 欧美色图99| 久久av一级av少妇av高潮| 内射白嫩美女| 五月激情天| 日韩免费性爱视频在线观看| 国模吧 一区二区三区| 高清国产成人无码| 大香蕉中文在线| 欧美超碰97| 九九热精品| yaouchengrenav| 亚州久久9| 色av中文字| 大香蕉手机视频| 亚洲砖码砖专无区2023| 国产伦乱91| 亚洲综合色婷婷| 免费视频a级毛片免费视频| 岛国精品视频在线观看| 高清不卡视频| 狠狠入| 亚洲男人的天堂va亚洲男人社| 欧美在线播放| 91久久精品中文字幕| 亚洲欧洲网站免费观看| 五月开心久久AV官网| 亚洲丝袜二区在线| 亚洲码在线中文在线观看| 国产最火爆久久国产网站网站| 日韩亚洲国产视频| 午夜精品一区二区三区三上悠亚| 亚州欧美总和| 97爱| 九九亚洲| 人人爽夜夜玩视频| 久久在线观看免费视频| 激情综合亚洲| 九一国产精品| 在线无码视频| 9999久久久久| 高清不卡 中文 人妻| 欧美 亚洲精品首页| 高清一区AV无码| 九九色热| 在线观看啊啊啊啊啊| 日韩成人私密一级精品av| 久久久久久国产手机AV| 97超碰天天爱天天爱| 2020天天色综合| 国产美女在线精品免费看| 色婷婷九月| 美女网站黄页| 国产精品无码论坛| 国产吹潮女在线观看| 91成人18| 九色 人妻 大香蕉| 日本2020一区二区| 亚洲精品色| 日韩熟女视频二区| 亚洲一区二区三区中文字幕| 人妻黑丝袜电影| 又粗又长又大国产不卡| 99热66| 美女网站黄页| 中日亚韩免费视频| 夜草欧美| 国产精品亚洲无码| 亚洲AV不卡在线观看尤物| 精品一区二区三区麻豆| 亚州图片第一页| 2018天天干在线视频| 曰本精品久久久| 女人天堂av在线播放| 91人人臊| 欧美成人一级麻豆| 青青草国产盗摄一二三区| 成人精品在线免费视频| 强奸少妇AV导航网| 国产一国产一级毛片古装| 桃色五月天| 羞涩视频| 亚洲男人的天堂一区二区| 神马九九| 亚洲精品不卡一二三区| www色婷婷| 后入式999| 欧美性爱伊人| 国产精品国产精品国产| 性色高清在线| 亚洲日韩美国人妻| 久操视频在线| 亚洲熟妇自偷自拍另欧美| 99热精品在线观看| 色噜噜人妻av 中文字幕| 激情综合网激情综合| 欧洲中文字幕| 午夜视频好爽啊| 成人在线午夜视频一区| 日本色色的视频| 欧美情色亚洲| 干B| 无码高清专| 欧洲视频在线| 男人下部插入女人下部| 91c色| 色综合大香蕉| 狠狠图片青青草| 亚洲最大的综合性av| 色与欲影视天天看综合网| 我想要啊 啊 啊| 九九AV| 中文有码9| 久热久一区二区三区| 精品人妻av在线播放| 久久精品人妻一区二区三区| 开心五月深爱五月| 亚洲成aⅴ人片不卡无码| 在线一区| 曰韩精品九九无码| 欧美激情中文字幕另类小说| 超碰人妻久久| 亚洲有码第一页| 1024人妻| 日本熟女免费視颖| 大逼色网站| 99999精品成人| 亚洲综合中文字幕有码| 精品玖九九久| 日本黄页视频在线观看| 一二三区在线| 久久黄色性爱视频| juliaann欧美丝袜办公室| 日韩AV色图| 人妻欧美| 果冻传媒A片一二三区| 农村妇女一级二级三级视频| 黄色大香焦1级‘′‘| 97超级久久| 欧美视频第二页| 欧美日韩岛国大片在线观看| 精品无码欧美三级| 亚洲精品白丝| 麻豆伊人网| 少妇高潮99p| 国产精品熟女丝袜一区二区| 自拍偷拍草一草| 97欧美资源| 色眯眯av| 亚洲色图欧洲| 97在线日韩中文字幕| 欧洲精品网| 亚洲熟女国产综合另类| 五月丁香影院| 六月丁香网| 婷婷午夜成人色中色| 国产在线视频午夜精华在| 91天天综合在线观看| 青青操在线亚洲视频观看欧美在线| 婷婷五月天影院| 国产操逼逼网| 岛国免费黄色网址| 高清一区AV无码| 中文字幕av亚洲精品| 97爱亚洲| 97免费视频在线观看| 人人妻人人色一区二区三区| 亚洲视频,小说| 91在线限制级| 怡红院怡春院| 伊人青青一区成人视频在线观看区| 日韩成人综合网| 国产精品无码AV网站| 操逼www.| 中文字幕交换人妻| 嫩草影院在线观看精品| 日韩乱伦视频| 99熟女| 爱做久久久久久| 另类小色呦| 丁香五月综合| 日韩无码专区| 日韩欧美视频青青| 久久精品免费| 夜夜骑日日| 男女国产精品| 日本成熟少妇A∨网站| 操逼视频色| 久久av一级av少妇av高潮| 少妇人妻好深太紧了vr91| 日韩av不卡在线看| 午夜福利精品| 精品一区二区啪啪啪| 五月丁香综合激情| 夜夜夜爽www精品视频| 最近二区三区视频大全| 色综合av综合久久| 激情网色| 伊人成人中文字幕久久网| 欧美 亚洲 综合 制服| 日本不卡码黄色 | 99ri视频| 一区二区精品更新提醒| 色臀aV| 女生看匆91网站| 国产福利精品98视频| 人人操人人色网| aaaa少妇高潮大片| 久超碰在| 免费成人在线熟妇网| AV男人天堂网| 国产无码精品久久久久久| 91影库| 91精品国产麻豆国产自产在| 91丝袜美女| 女人天堂网| 日日夜夜精品视频| 欧美精品久久久久久久久88| 800zy一区二区| chaopen97久久| 沈阳熟女高潮对白视频| 香蕉人人操tv| 日韩在线人妻网站| 欧美日韩系列| 国产无码久久高清| 99综合视频一体| 成人色女网| 综合少妇网| 高清一区AV无码| 女优视频第10页| 任我爽在线视频免费观看| 久9九综合在线| 国产一区二区三区导航| 97综合在线观看| 阿姨一区二区免费视频-高清正片西瓜视频下载app-T450AV | 成·人免费午夜在线观看| 久久国产乱子伦精品免费女人| 五月天社区| 99re99视频在线免费观看| 亚洲高清在线se| 久久欲| 亚洲高潮少妇| 中出欧美| 九九热视频在线观看| 日韩天天本| 秋霞网无码| 亚洲成人av色网| 亚洲性天堂| 日韩av乱伦| daxiangjiao你懂的| 性暴力欧美猛交在线直播| 激情五月天色色| 夜夜爽夜夜摸夜夜操免费视频| 九九精品无码专区免费| 久九九九九九九热| 人人操,人人液| 色综合美国| 久久久久久九九九| 少妇500双飞99| 无遮挡男女激烈动态图| 亚洲综合有玛| 91精品久久久久五月天精品| 国产乱弄免费在线视频。| 性天堂| 2011国产精品| 亚洲日韩视频二区| 亚洲综合性网址| 免费一级黄色录像影片| 国产第二页| 久久久久久国产精品免费网站 | ..日韩av毛片精品久久久| 国内精品不卡无毒99999| 美女诱惑久久| 精品久久久久久亚洲| 另类图片天天影视| 91爰爱欧美| 日本日逼高清| 少妇的嫩逼图片| 久9热| 97干97色| 二级久久网| 久草资源欧美在线视频| 美女黄站| 久草热制服丝袜在线观看| 都市久久精品激情亚洲| 欧美另类天堂| 亚洲中文电影| 97人妻碰碰中文无码久热丝袜| 亚洲Av诱惑| 欧美性区| 色色五月天婷婷| 翔田千里爆乳巨臀无码| 久超碰这里只有精品| 精品国产精品一区二区| 国产精品白领在线观看 | 精品蜜乳AV免费观看| 亚州中文字幕超碰97| 在线中文字幕极品av| 婷婷丁香人妻 | 亚洲欧洲另类| 91香蕉视频在线观看免费| 婷婷五月天色网| 99re6久热只有精品6在线直播| 久久久久久日韩| 九九热精品视频六| 久久大线蕉一区| 九九AV| 天天干天天燥| 欧美精品三级黄片| 成人性交午夜免费片| 久久99手机免费视频| 欧美特大黄一级片片免费| 夜色综合| 国产又大又粗又长视频| 麻豆国产原创AV色哟哟| 秋霞视频一区二区| 日本一本道A级黄色毛片试看60分钟| 欧美天天射| 欧洲亚洲人人爽爽视频| 国产性爱欧美性爱在线| 亚洲一区中文字幕久久,果冻传媒一区二区天美传媒 | 国产精品久久久久久久久久久久久久吹 | 丰满少妇精品一区二区| 九九九九九九九| 超碰97资源中文字幕| 久久激情综合| 性爱乱伦网址| 色综合天天| J?P?NESEHD熟女熟妇伦| 猛猛干| 热热色综合网| 久操在97| 黑人精品久久97| 色噜噜国产在线| 五月丁香在线| 色五月婷婷网| 91精品电影18| 日本一本一区二区三区四区五区欧美日韩中文字幕 | 日韩免费人妻色情网站| 九九久久综合| 99日精品欧美国产| 五月天黄色激情视频| 女人被男人桶爽视频网站| yaouchengrenav| 国产精品美女视频诱惑| 九九九久久久| 91天天看| 永久免费观看的毛片的网站| 99re免费| 日本性感人妻91| 夜色综合| 秋霞Av理论一级在线| 97精| 久久精品国产精品一区| AV乱伦专区| 亚洲欧洲无码bt精品合集| 欧美熟妇成人一区二区| 亚洲色图尤物视频 | 91ise欧美| 青青青操| 91天堂视频| 最新精品久久蜜桃| 蘋果手機免費看成人Av| 人人超碰在线观看黄| 超碰97最新人妻| 欧美成人精品一区二区三区| 免费看污网址| 亚洲双插| 在线视频97| 中文字幕精品一区二| 97超碰中文字幕| 国产捆绑一区| 黄色一区二区秘书性感| 9久久精品| 亚洲国产第一页综合视频| 丰满人妻一区二区三区四| 在线啊啊啊啊| 亚洲涩图欧美| 啊啊啊爽爽| 久久精品国产欧美日韩亚洲欧美日韩中文久久国产一区 | 91黑丝美女| 亚洲成人色情五月天丁香花| 亚洲性高潮| 国产精品免费久久久久久久久久| 久久精品中文字幕观看| 91九九| 亚洲激情网| 天天日天天射天天干| 久热99999| 日韩福利电影网| 人妻一区二区三区视频| 乱老女人一区二区视频| 亚洲激情色片| 综合久久9| 欧美人妻精品一区二区| 99热免费| 日比av无码| 色婷婷视频| 97超碰jingpin| 啊啊啊好疼| 久久狠狠色噜噜狠狠狠狠97| 嗯啊抽插大香蕉网页| 曰韩精品九九无码 | 中文?日韩?免费?精品| 日本视频一区二区三区| 97资源超碰| 欧美丰满少妇交换91欧美精品| 欧美v亚洲v综合v国产v妖精| 免费AV播放| 亚洲蜜臀懂色| 国产福利合集| 五月天婷婷久久| 天天内射| 狠狠操官网| 97精品一二区| 亚洲资源一区| 99热婷婷| 九九九九亚洲| 九九色逼| www久久精品| 岛国网址国产| 久久久久久中文版| 蜜臀久久99精品久久久久| 欧美很很操视频| 色眯眯av| 亚洲国产欧美中文永久| 午夜AV污污污| 亚洲aV性爱| 欧美性视频二区三区| 国产精品久久久久久照片| 午夜人妻精品综合在线| 97伦综合| 插入综合网| 一区二区三区高清| 婷婷四五区| 秋霞Av理论一级在线| 中文字幕在线观看AV| 国产AV中文| 欧美另类色图片| 91精品导航| a网站免费观看| 91宗合网| 九九英色视频| 综合久久久久久久综合网| 中文幕97| 强免费黄色网址| 97在线视频观看免费| 久久久夜夜嗨免费视频| 亚洲偷91色| 九久9精品| 久久粉色| AV高清一区| 久久一区二区三区入口| 国产丁香精品露脸视频| 天美传媒av 在线| 欧美福利视频啊啊啊啊| 丁香婷婷激情五月天无毒不卡| 国产精品网址| 蜜区区视频79 | 久久伊人网视频一区二区三区| 国产一级舔足在线观看| 欧美性爱一区二区三区四区| 黄骗免费| 春色综合免费| 熟女丝袜视频| 免费看国产曰批40分钟怎么下载| 亚洲综合有码| 欧美日韩电影一区二区| 十八禁视频一区二区| 操淫穴亚洲五月丁香| 亚洲精品美女久久久久久久久| 91白嫩| 超碰在线人妻不卡| 成视频在线观看免费看| 国产Av超碰| 美女好片色日本| 欧美老妇女内射网址| 福利在线观看一区二区| 老司机福利青青草| 日日躁狠狠躁天天躁精品| 内射白嫩美女| 国产成人久久久精品免费AV| 天天干人人看综合| 亚洲天堂久久| 亚洲日韩av一区二区三区百合| 亚洲精品无码久久AV| 欧美激情 亚洲色图| 欧美激情超碰777| 日本人妻A片成人免费看片| 欧美性爱91| 中文 人妻 制服| 男人天堂站| 色色色色综合网| 国产极品精品美女视频| 91老熟女视频| 老熟女阿 国产91| 亚洲精品美女操逼| 亚洲丝袜色图| 国产夫妻一区二区| 国产精品久久久亚洲一区| 欧美日韩香蕉| 精品国产91内射久久| 热99re69精品8在线播放| 欧美大色交| 台湾大香蕉99热| oumeisetu综合| 日韩另类| 最新日产中文在线麻豆| 午夜福利无毒不卡| 日韩一级性爱无码| 欧美色图片| 超碰97 线线 在现| 欧美综合色,www| 亚洲成人帖图| 少妇蹲下买菜露大唇0| 欧美aⅴ99久久黑人专区| 真实高潮91| 久久久久国产一区二| 屁屁影院一区二区三区国产| 中文字幕一区二区三区高清| 久久久久亚洲AV无码专区少妇| 日韩熟女三十乱伦| 欧美激情精品| 99国产女人| 精品久久97| 国语精品av| 成人性交午夜免费片| 久草资源在线| 久久精品国产亚洲5555| 欧在线一二区| 人妻天天爽天天爽三区| 中文字幕后石码三区四区| 欧美色蜜桃97| 91熟女丨91老女人| 午夜操一操| 亚洲丝袜少妇在线| 欧差乱伦二三| 熟女这里只有精品6| 一区二区三区视频国产免费| 十八禁的黄污污免费网站| 欧美日韩 强奸乱伦| 亚洲精品视频在线播放| 人妻少妇视频在线播放| 无码一区二区三区四区五区六区七区八区九区十区视频 | 色婷婷一区二区三区久久午夜成人不| 女上位精品在线| 一本一道久久综合久久| 欧洲精品一级二级精品综合视频综合 | 四虎影视永久在线观看精品免费网站| 超碰欧美COM| 久久精品熟妇丰满人妻99| 欧洲性爱无码区| xxxx网站亚洲精品| 超碰在线国产| 色999偷自拍拍| 久操影视| 欧美不卡五十路| 青青久久手机线视频| www.色操逼| 东北夫妻性偷拍| 日产国产精品中文久久婷婷| 碰超人人在线一区二区三区| 久久香蕉国产线看观看亚洲女人 | 男生女生啊啊啊啊| 亚洲区限制级| 黑人性欧美| 精品无码一区二区三区| 成人av动漫在线观看| 在线观看AV不卡| 久久9999 | 欧美色图自拍| a片在线播放| 第一高清av中文字幕| 国产超碰国产97| AV男人天堂网| 美国一区二区三区视频| 超碰97起碰| 老鸭窝日丰县女人| 婷婷在线视频在线观看| 色五月首页| 午夜福利久久久噜久噜久久综合| yazhouzaixian| 国产亚洲精品久久久久小| 久久精彩免费视频| 日韩国产十八禁| 熟妇色99| 午夜免费福利视频一区| 丝袜熟女2P| 中日韩久久久免费看| 久久人人爽爽人人爽人人片αV| 婷婷激情五月| 精品丰满熟妇人妻一区| 国产亚洲女v在线观看| 91蜜臀在线久久久久| 国产十八禁视频| 呦呦影院| 啊啊啊啊啊操我视频| 亚洲国产成人精品女人久久久| 成人性爱电影一区二区| 亚洲男人的天堂网| 一区二区三区高清天码| 九九九网页| 日韩特一级久久| 18禁网站在线播放| 秋霞鲁丝午夜无码一区二区三| 国产三级片在线观看| 欧美黄色片AAAAA| 九九九九九九九| 人人考人人摸人人干| 果冻传媒一区二区三区| 多毛小伙内射老太婆| 亚洲中文字幕日产无码久久| 日本国产亚洲一区在线观看| www.色婷婷.com| 欧美碰碰综合色| 色啪网| 一本色道人妻久久| 97人人干| 亚洲色图图片| 97蜜桃综合| 日韩性爱小视频| 丁香五月影院| 日韩无限资源| 九九久久一区二区三区| 国产精品久久久久无码Av网曝门| 久久熟妇五十路一区| 91精品亚洲内射孕妇| 青青草色情网站视频| 99这里只有精品国产| 久久久性爱视频| 丁香六月激情| 91成人亚洲色图| 色噜噜狠狠色综无码久久合欧美| 综合色欧美| 偷拍欧美激情| 国产福利在线视频网站| 99热在线只有精品| 顶级少妇BT天堂| 中文字幕一区二区三区高清| 麻豆天美AV传媒第一页| 亚洲综合小说另类图欧美视频激情小说色五月天 | 97一区二压| 把腿张开老子CAO烂你| 极品少妇久久久久| 色香色香欲天天天影视综合网| 看全色黄大色大片免费视频| 中文字幕一区二区三四五区日日骚| 国产精品视频白浆免费| 久久东京热久久| 蜜臀AV成人精品蜜臀| 人人爱人人操人人性| 夜夜高潮夜夜爽夜夜爱爱一区| 97精品国产97久久久久久| 日韩免费簧片| 欧美精品庄| 目产99999久久999| 无码伊人久久大杳蕉中文无码| 天天做天天爱| 久久人人爽av亚洲精品天堂桃色 | 一二区在线观看视频| 伊人久久国产免费观看视频| 亚洲一卡2卡3卡4卡乱码网站 | 91成人社区| 激情综合五月丁香| 青草草免费网站av| 超碰色综合| 天天躁夜夜躁狠狠躁AV| 91在线美女| 日本精品第一视频在'| 乱性AV| 欧洲综合色| 国产精品久久久999| 婷婷四五区| 亚欧高清在线| 91精品久久久久五月天精品| 天天操妹子| 91少妇通奸网站| 天天干天天日天天射黄色片| 狠狠五月天| 午夜欧美女人操逼| 91美女在线观看| 蜜桃AV天堂| 97爱b| 女一区二区| 国产吞精a级片激情电影| 青娱乐老司机视频| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 美国人人操人人操| 素人一区二区三区日韩| 亚洲伊人成综合成人网| 亚洲欧美97√| ai欧美亚洲小说| 欧美天天综| 人妻夜夜爽天天爽麻豆三区网站| 91chinese在线| 日韩av性爱在线播放| 欧美色图亚洲色| 亚洲AV在线资源| 欧美日动态视频| 亚洲……91| 午夜天堂精品久久久久91| 日本精品不卡一二三区| 欧美精品99久久久**| jk白丝没脱就开始啪啪| 色欲三区| 精品日韩中文在线| 久久精品日韩| 亚洲四虎熟女精品| 牛黄色久午久| 婷婷丁香五月激情啪啪| 激情网五月天| 亚洲 日本 一 二 三| 亚洲av淫乱| 久久6热视频免费观看| 日韩乱伦影音先锋| 亚洲一区二区三区AV无码| 夜色AV无码手机在线影院| 亚洲欧美自拍偷拍| 亚洲 一区二区 自拍| 3d成人精品一区二区| 日本视频一区二区三区| 一级特黄aaa大片在线观看成人一级片在线观看 | 丁香九月 婷婷| 亚欧性爱无码| 国产亚洲欧美每日在线| 国产精品视频在线观看| 亚洲国产成人精品女人久久久| 国产诱惑| 超碰97人人乐| 欧洲视频在线| 婷婷伊人五月| 大香蕉专区| 999岛国大片| 蜜桃臀av在线观看| 国内黄色精品| 超碰久在线天天做| 欲色综合| 呦呦影院| 中日韩欧美精品无码AⅤ一区二区| 大香蕉免费乱伦视频| 免费黄色视频网址| 天天综合精品| 美女黑人91神马| 夫妻AV网站| 超碰2017| 人人操人人摸人人看人人干| 97干在线视频| 青青草在线视频人人想人人上| 色超碰综合| 四虎精品永久在线观看| 一级毛片电影免费看| 国产中文大片资源中文字幕| www.色操逼| 毛片17S| 白嫩白嫩的午夜九久久久久久久久久久久成人剧场 | 国产精品美女在线一区| 国产网站在线播放| 亚洲日本加勒比在线| 欧亚成人在线视频| 九九九九九精品| 亚洲av综合色区无码一| 色色五月婷婷| 狠狠亚洲| 9久久久久| a级成人毛片免费视频高清| 一区二区偷拍拍视频| 97视频900| 亚洲欧美日韩制服另类| www.99在线| 人妻酒店出差被中出免费在线播放| AV中文字幕三四五| 天天激情干| 九九九午夜| 中出后入| 国产婷婷综合在线观看| 看一级黄色视频| 1204金沙人妻懂旧版免费| 亚洲AV无码乱码| 午夜福利成人免费视频| 国产午夜视频| 99热欧美| 日本国产高清色www视频在线| 97av在线视频| 九九九九免费视频| 欧美日韩另类在线| 久妇网| 啊啊啊好大好深| 九九久久99| 肉丝中文无码高清| 黄色一区二区秘书性感| 久久人人妻| 大香蕉狠狠爱| 成人短视频在线观看| 人人摸人人舔一区二区| 国产亚洲精品玖玖玖在线观看| 日本精品国产视频| 人妻一区二区三区四区视频| 精品大久久| 97免费在线观看| 无码国产精品午夜不卡(| 天天操天天日天天干| 人人看人人爰人人操| 亚洲,欧美,春色,另类| 精久久久| 国产亚洲精品第一最新| 国产吹潮女在线观看| 乱论91| 日本精品久久久久久久| 中文字幕91页| 久久久久久久六六| 丰满人妻一区二区三区大胸懂色 | 成人线上超碰| 人妻天天夜夜爽一区二区| 欧美的精品的视频| 99这里有精品视频| 欧美性爱第1 页| 中文字幕加勒比海高清无码免费视频| 神马久久久久久久| 亚洲中文人妻色| 国产兽交视频在线播放| 另类 综合 日韩 欧美 亚洲| 91天天综合| 亚洲少妇诱惑| AV和黑人在线播放| 中文字幕人妻色偷偷久久皮 | 啪啪性爱免费视频| 超碰碰97| 一区二区三区精品久久| 99热这里都是精品| 亚洲免费精品一区| 台湾成人无码AV| 天天操天天7| 久久综合99| 秋霞一集毛片观看| 日韩精品人妻中文字有码在线| 午夜偷拍久久熟女| 0755午夜福利视频| 国产精品无码AV网站| 欧美一级二级三级| 亚洲系列第一页| 后入国产| 日本999精品视频| 一个人免费视频观看在线WWW| 国产乱弄免费在线视频。| 亚一综合久久久久久久久久| 婷婷探花久久精品一区| 亚州色交| 蜜桃视频成a人v在线| 清纯唯美亚洲综合| 久久久久久久六六| 久热免费视频| 亚洲精品尤物yw在线影院| 精品丰满熟妇人妻一区| 久久久久精| 国产尹人在线视频免费| 无码精品久久久久久亚洲| 色悠久久久av| 麻豆影音天美视频| 国产超碰人人操| 无码操逼视频一下| 日韩综合97p| 中文字幕精品乱码| 亚洲 日韩 欧美 国产综合体| 人妻精品免费一二三区| 福利大香蕉| 99999精品视频| 欧美日韩99| 国产AV色黄看到爽| 精品九九| 婷婷久久久精品| 日韩欧亚太美不卡| 国产精品熟女乱伦| 欧美日韩 强奸乱伦| 在线日韩精品一区二区三区| 亚洲、日韩、综合、另类| 粉嫩在线一区二区懂色| 亚洲图片第一页| 久久久久深夜无码| 午夜福利久久久噜久噜久久综合| 黄片www.| 911av网站免费观看| 免费看黄片现成| 丝袜美腿操av| 久久久久久久久久久久九| 日本韩国一本产品小视频日本韩国一本产品久久久产品小视频日本韩国一本产品久 | 色999偷自拍拍| 人妻啊啊人妻啊啊| 日本丝袜人妻内射| 豆花视频操逼网址| 9久久久久| aV中文麻| 91精品婷婷国产综合久久| 精品一区96| 久久女婷| 婷婷深爱五月| 无码精品蜜桃一区二区三区ww| 伊人网青青| 无码精品久久久久久亚洲| 精品日日人妻| 天美传媒av在线| 日韩78m视频| 成人熟女区| 另类图片五月| 人妻少妇视频在线播放| 91成人在线免费视频| 久久久久亚洲Av无码专区老牛影视| 丰满人妻一区| 国产高清不卡视频| 口爆欧美91| 熟女丰满人妻一区| 成人三级片无码| 亚洲欧美国产其他二区| 老外又粗又长一晚做五次| 欧洲精品一级二级精品综合视频综合| 欲色啪| 91久久堂| 内射中国少妇高清视频免费视频 | 国产精品网址| 丝袜美腿亚洲| yw尤物av无码点击进入麻豆| 最新国产精品| 绯色一区二区三区不卡少妇| 国产精品分类在线观看| 青草精品视频-日本久久久久网站| 另类欧美色| 亚洲国产综合图区中文字幕| 狠狠爱综合网| 97精品熟女少妇一区| 国产综合永久精品日韩鬼片| 婷婷伊人| 老女人爆菊| 狠狠热这里都是精品| 超碰中文字幕人妻草一区| 国产精品亚洲日韩骚欢乐谷最新地址发布页huanieguty性屋娱乐妖精视频 | 97精品97| 国产精品国产自产高清AV| 日韩一区二区三区四区五区| 青青操狠狠撩| 日韩A优精品在线观看| 人人操人人摸人| 九月色婷婷| 亚洲诱惑| 日日骚网站| 韩国三级一线观看久| 污污汅18禁网站在线永久免费观看 | 中文字幕一区二区三区视频播放| 丁香五月婷婷色| 日韩专区数据列表-第3230页-精品国产一区二区三区香蕉 久久99熟女人妻中文字 | 日韩免费在线观看不卡| 狠狠操官网| 乱色视频中文字幕| 欧美78p| 精品久久大胆人体| 日逼97| 亚洲国产精品无码AV久久| 亚洲第一精品在线视频 | 亚洲色欧| 囯戸精品高潮呻吟旡码| 日本日皮视频逼| 高清不卡一二三区视频......| 人妻内射一区二区在线视频| 综合亚洲欧美| 亚洲激情综合另类男同| 色官网色综合| 麻豆天美久久91| 国产熟女精品区| 九九操久久国产免费视频| 97超碰色情| 日韩不卡在线一区二区| 99热色这里只有精品| 色眯眯av| 富女玩鸭子一级毛片| 欧美视频边做饭边橾| 亚州精品丝袜-不卡成人免费| 丰满少妇精品一区二区| 国产老女人久久毛| 国产精品老师| 牛牛久久国产精品视频一二三| 狠久久| 日韩欧美aⅴ综合网站发布| 中文字暮97| 久久一区二区蜜桃| 每日更新AV| 欧美激情亚洲情色| 国产视频人人网| 欧美极度丰满熟妇hd| 色网综合网| 日小BB小视频| 久久天天躁日日躁狠狠躁| 一起草视频在线| 99精品在线观看| 一本色道久久综合亚洲二区三区| 久久五十路熟女人妻| 青青草精玖玖69精品| 久久精品人妻一区| 亚洲 日韩 欧美 国产综合体| 欧洲一区二区三区四区在线观看| 熟妇xxxxx性春色| 夜夜操夜夜爽夜夜高潮| 欧亚日韩一区在线| 另类综合另类| 99re6在线视频播放免费精品| 美國A片| 亚洲精品白丝| 一级人妻性爱视频| 密臀AV在线| 一起草在线视频| 久九干| av激情亚洲五月天| 午夜男人一级A片7777| 国产91专区| 亚洲黄色a级片| 男人把坤坤插入女人的下体| 精品国产91av一区二区三区| 97人人爱人人做人人乐| 久久社区一区二区三区| 蜜桃视频一区二区三区| 日韩精品碰碰| 99精品人人爽| 免费啪啪一级视频| 国产第11页| 91成人精品在线播放| 日本在线999| 美女黄色一级A视频| 性欧美999| 内射白嫩美女| 成人小说另类在线| 超碰夫妻97| 懂色AV蜜臀无码精品APP| 亚洲校园激情| 蜜桃视频精品一区二区| 大香蕉一级黄色片久久| 伊人国产视频| 亚洲中文字幕精品久久久久久直播| 久久国产精品视频| 久久久爆乳翘臀一线天伦理视频| 麻豆黄站| 国产毛片精品一区二区色欲黄A片| 明星性猛交ⅹxxx乱大交| 久操 高清| 欧美精品999| 91亚洲欧洲| 97久久精品亚洲| 久热精品在线国产| 午夜福利区| 久热9| 欧美中文字幕精品人妻| 亚洲精品1区| 色婷婷狠狠| 国产无码三级视频在线观看| 中文字幕欧美日本乱码一线二线| 亚洲高潮少妇| 日日日日做夜夜夜夜无码| 99re黄 | 亚洲第一页第二页激情| 免费超碰97久久| 欧美后进式| 亚欧性爱ab| AAAA级日本片免费视频| 中日992视频| 麻豆2区1区天美| 国产操偷| 亚洲毛片基地专区| 欧美大干日韩| 久久一二区四| 秋霞曰韩R级| 日欧操屄| 91中文字幕在线观看| 99热精品国产| 大香蕉在线视频15| 亚洲欧美国产其他二区| 激情五月综合开心五月| 亚洲综合在线91| 亚洲人妖网| 亚洲色图久久精品蜜| 亚洲1区2区三区高清中文字幕| 一区二区三区高清| 亚州大图综合色图| 天天爽夜夜欢视| 亚洲色五月| 涩综合导航| 日本女人久久久| 素颜老阿姨乱情色| 好淫网一二三视区| 亚洲欧美中文日韩视频中国语 | 操逼网免费无码视频| 国产精品分类在线观看| 日本黄色精品| 综合一区二区影视| 91成人在线| 欧美最婬乱婬爆婬性视频 | 久久综合18p| 天天做天天爱| 亚洲精品91| 中文字幕av片| 蜜臀亚洲中文| 久热婷婷| 久久鲁干| 不卡一区二区日本视频| 亚洲男人久久综合天堂| 99re9| 天天做天天爱| 国产91丝袜 在线播放| 91视频综合在线| 天天天堂影视日韩亚洲91| 人妻密肉在线观看| 红桃视频高潮| 天天摸天天碰天天添青青|