最近有一條消息在技術(shù)圈和財(cái)經(jīng)圈同時(shí)刷屏英偉達(dá)預(yù)計(jì) 2028 財(cái)年?duì)I收同比再增長(zhǎng) 70%黃仁勛在財(cái)報(bào)說(shuō)明會(huì)上還補(bǔ)了一句——實(shí)際需求遠(yuǎn)高于這個(gè)數(shù)字。很多人看到這條消息先看股價(jià)但我更建議開(kāi)發(fā)者換個(gè)角度理解這件事。英偉達(dá)的營(yíng)收預(yù)測(cè)本質(zhì)上是一份算力供需的“天氣預(yù)報(bào)”。它告訴你的是未來(lái)兩三年內(nèi)GPU 依然是稀缺資源AI 計(jì)算的成本曲線不會(huì)快速下滑而圍繞算力的工具鏈、云服務(wù)計(jì)價(jià)方式、模型部署策略都會(huì)因此發(fā)生變化。這篇文章不聊股票只從技術(shù)開(kāi)發(fā)者的視角做三件事第一拆解這個(gè) 70% 營(yíng)收預(yù)期背后到底發(fā)生了什么第二說(shuō)清楚算力供需變化對(duì)日常開(kāi)發(fā)工作的真實(shí)影響第三給出一套可以立刻落地的算力成本評(píng)估與推理優(yōu)化方法。1. 為什么一個(gè)營(yíng)收預(yù)測(cè)值得開(kāi)發(fā)者關(guān)注先放下“英偉達(dá)賺多少錢(qián)”這件事回到一個(gè)更具體的場(chǎng)景你所在的公司要上一個(gè) AI 功能技術(shù)選型會(huì)上老板問(wèn)“用 GPT-4 還是開(kāi)源模型”問(wèn)完之后還有一句更扎心的——“GPU 從哪里來(lái)預(yù)算多少”。過(guò)去兩年所有做過(guò) AI 落地的團(tuán)隊(duì)都會(huì)遇到同一個(gè)問(wèn)題不是模型能力不夠而是算力資源不可控。申請(qǐng)一張 GPU 要排期云上的 GPU 實(shí)例價(jià)格隨市場(chǎng)波動(dòng)模型的推理成本按 Token 計(jì)費(fèi)之后財(cái)務(wù)和技術(shù)的邊界第一次變得如此清晰。英偉達(dá)的營(yíng)收預(yù)測(cè)本質(zhì)上就是在告訴你這些問(wèn)題的答案走向如果 2028 財(cái)年?duì)I收真能同比增 70%說(shuō)明數(shù)據(jù)中心和 AI 算力需求依然處于高速增長(zhǎng)期如果黃仁勛說(shuō)“實(shí)際需求遠(yuǎn)高于此”說(shuō)明供給端的增長(zhǎng)大概率追不上需求端的增長(zhǎng)這意味著推理成本短期不會(huì)出現(xiàn)斷崖式下降GPU 配額和管理會(huì)成為常態(tài)。因此這篇文章適合三類(lèi)讀者正在做 AI 應(yīng)用開(kāi)發(fā)但被 GPU 成本或配額困擾的工程師負(fù)責(zé)技術(shù)選型和基礎(chǔ)設(shè)施規(guī)劃的技術(shù)負(fù)責(zé)人想理解 AI 算力市場(chǎng)變化但不想看券商報(bào)告、只想知道“和我有什么關(guān)系”的開(kāi)發(fā)者。2. 英偉達(dá) 2028 財(cái)年?duì)I收預(yù)期背后的業(yè)務(wù)結(jié)構(gòu)要理解“70% 同比增長(zhǎng)”意味著什么先得看清英偉達(dá)的收入來(lái)源結(jié)構(gòu)。英偉達(dá)的財(cái)年并非自然年。按照其慣例財(cái)年結(jié)束時(shí)間通常在 1 月底附近所謂 2028 財(cái)年大致對(duì)應(yīng) 2027 年 1 月到 2028 年 1 月之間的經(jīng)營(yíng)周期。這個(gè)時(shí)間差本身值得留意它意味著英偉達(dá)的業(yè)績(jī)預(yù)期是基于 Blackwell 系列產(chǎn)品在 2026 到 2027 年的交付節(jié)奏來(lái)制定的而不是某個(gè)短期訂單波動(dòng)。從業(yè)務(wù)板塊看英偉達(dá)的收入主要分為數(shù)據(jù)中心、游戲、專(zhuān)業(yè)可視化、汽車(chē)等方向。其中數(shù)據(jù)中心業(yè)務(wù)在過(guò)去幾個(gè)財(cái)季已經(jīng)成為絕對(duì)主力占比遠(yuǎn)超其他板塊。這個(gè)趨勢(shì)背后是 AI 訓(xùn)練和推理加速卡的需求爆發(fā)包括企業(yè)私有化部署、云廠商基礎(chǔ)設(shè)施建設(shè)以及各地正在推進(jìn)的智算中心項(xiàng)目。這里有一個(gè)關(guān)鍵判斷70% 的增長(zhǎng)預(yù)期不是英偉達(dá)在“畫(huà)餅”而是他們已經(jīng)拿到了足夠多的訂單后給出的保守估計(jì)。對(duì)于硬件廠商來(lái)說(shuō)營(yíng)收預(yù)測(cè)通?；谌齻€(gè)因素——在手訂單、產(chǎn)能規(guī)劃、交付周期。黃仁勛強(qiáng)調(diào)“實(shí)際需求遠(yuǎn)高于此”翻譯成技術(shù)語(yǔ)言就是訂單池遠(yuǎn)大于產(chǎn)能池。這意味著什么意味著供需缺口會(huì)通過(guò)價(jià)格、配額和交付周期傳導(dǎo)給所有下游使用者。云廠商購(gòu)買(mǎi) GPU 的成本上升最終會(huì)體現(xiàn)在 GPU 實(shí)例的租賃價(jià)格上中小企業(yè)想獲得算力需要接受更長(zhǎng)的排隊(duì)時(shí)間或更高的單位算力成本。3. 為什么黃仁勛說(shuō)“實(shí)際需求遠(yuǎn)高于此”黃仁勛這句話不是主觀判斷而是基于幾個(gè)可觀察的結(jié)構(gòu)性因素。理解這些因素有助于判斷未來(lái)兩年的算力環(huán)境。第一AI 資本開(kāi)支仍在加速而非減速。全球頭部云廠商的資本開(kāi)支計(jì)劃仍然在增長(zhǎng)資本開(kāi)支的去向非常集中GPU 服務(wù)器、數(shù)據(jù)中心基礎(chǔ)設(shè)施、網(wǎng)絡(luò)設(shè)備。這一輪投入的對(duì)象不是單一公司而是整個(gè) AI 基礎(chǔ)設(shè)施。當(dāng)多股資本開(kāi)支同時(shí)涌入同一個(gè)供應(yīng)鏈時(shí)需求自然會(huì)超過(guò)任何單一廠商的產(chǎn)能規(guī)劃。第二推理負(fù)載開(kāi)始超越訓(xùn)練負(fù)載。2024 年之前大規(guī)模 GPU 采購(gòu)主要服務(wù)于模型訓(xùn)練。但到了 2025 年之后隨著 AI 應(yīng)用進(jìn)入生產(chǎn)環(huán)境推理Inference逐漸成為算力消耗的主力。推理和訓(xùn)練不同訓(xùn)練是階段性的推理是持續(xù)性的。一個(gè)訓(xùn)練任務(wù)跑三個(gè)月就結(jié)束了但一個(gè)上線的大模型推理服務(wù)是 7×24 小時(shí)不間斷運(yùn)行的。這種負(fù)載模式變化導(dǎo)致“算力需求會(huì)飽和”的論調(diào)失效——推理需求是滾動(dòng)的而且隨著用戶量增長(zhǎng)而增長(zhǎng)。第三從單卡到集群的算力體系競(jìng)爭(zhēng)。模型參數(shù)量越大訓(xùn)練和推理就越依賴多卡互聯(lián)和大規(guī)模集群。英偉達(dá)的競(jìng)爭(zhēng)優(yōu)勢(shì)早已不是單張 GPU 的性能而是 NVLink、高速網(wǎng)絡(luò)、CUDA 軟件生態(tài)構(gòu)成的整體方案。這意味著即使競(jìng)爭(zhēng)對(duì)手在單卡性能上追趕生態(tài)切換成本依然極高。開(kāi)發(fā)者在現(xiàn)有框架上運(yùn)行的代碼遷移到其他硬件平臺(tái)的成本遠(yuǎn)比想象中高?；谝陨先c(diǎn)一個(gè)更穩(wěn)妥的判斷是需求大于供給的狀態(tài)在 2028 財(cái)年之前難以根本性逆轉(zhuǎn)。對(duì)開(kāi)發(fā)者而言與其等待算力降價(jià)不如主動(dòng)適應(yīng)“算力有限”的開(kāi)發(fā)環(huán)境。4. 算力供需變化對(duì)開(kāi)發(fā)者的三個(gè)直接影響如果把上面的宏觀分析落到日常開(kāi)發(fā)你會(huì)發(fā)現(xiàn)三個(gè)變化正在發(fā)生。4.1 GPU 從“資源”變成“預(yù)算”過(guò)去 GPU 在團(tuán)隊(duì)里是一種技術(shù)資源由工程師按需申請(qǐng)。現(xiàn)在 GPU 正在變成一種預(yù)算資源需要像錢(qián)一樣規(guī)劃、審批、監(jiān)控消耗。很多團(tuán)隊(duì)已經(jīng)開(kāi)始給內(nèi)部 AI 項(xiàng)目建立算力賬單每個(gè)業(yè)務(wù)線每月多少 GPU 小時(shí)每個(gè)模型服務(wù)的推理成本是多少。你會(huì)發(fā)現(xiàn)以前討論的是“這個(gè)模型效果好不好”現(xiàn)在加了一個(gè)問(wèn)題“這個(gè)模型跑起來(lái)貴不貴”。這要求開(kāi)發(fā)者具備新的能力能估算模型推理成本能判斷模型規(guī)模是否合理能通過(guò)工程手段降低單位請(qǐng)求的算力消耗。4.2 推理優(yōu)化從“加分項(xiàng)”變成“必選項(xiàng)”過(guò)去部署模型推理速度快一點(diǎn)慢一點(diǎn)不是核心矛盾因?yàn)橛脩袅坎淮?。但?dāng) AI 應(yīng)用真正面向生產(chǎn)流量時(shí)推理性能直接決定成本。同一個(gè) 7B 參數(shù)的模型用原生 PyTorch 部署和用 vLLM、TensorRT-LLM 部署吞吐量可以相差數(shù)倍。像量化、批處理、投機(jī)解碼這些技術(shù)從前是性能愛(ài)好者的玩具現(xiàn)在是控制成本的基礎(chǔ)技能。4.3 模型選擇從“追大”變成“求匹配”當(dāng) GPU 算力價(jià)格不再下降模型越大邊際收益越不劃算。實(shí)際項(xiàng)目中越來(lái)越多團(tuán)隊(duì)在做“模型降級(jí)”從 70B 降到 8B從 8B 降到量化后的 4-bit 模型只為在業(yè)務(wù)效果可接受的前提下控制成本。這不是開(kāi)倒車(chē)而是工程化的必然。算力越緊張模型效率和業(yè)務(wù)效果的平衡就越重要。5. 應(yīng)對(duì)方向一把 GPU 當(dāng)有限資源來(lái)規(guī)劃先說(shuō)一個(gè)很多團(tuán)隊(duì)忽略的問(wèn)題你根本不清楚自己的 GPU 到底被用成了什么樣。在沒(méi)有監(jiān)控的情況下GPU 利用率低、顯存浪費(fèi)、空閑實(shí)例掛著不釋放是普遍現(xiàn)象。算力緊張時(shí)期第一件事不是買(mǎi)更多卡而是先把現(xiàn)有資源的利用率提上來(lái)。5.1 用 nvidia-smi 建立基礎(chǔ)監(jiān)控習(xí)慣在 GPU 服務(wù)器上最基礎(chǔ)的命令是nvidia-smi。它能查看 GPU 型號(hào)、顯存使用、利用率、溫度、功耗。# 查看單次 GPU 狀態(tài) nvidia-smi # 每秒刷新一次持續(xù)觀察 watch -n 1 nvidia-smi # 查看某個(gè)進(jìn)程占用 GPU 的情況 nvidia-smi --query-compute-appspid,process_name,used_memory --formatcsv # 查看所有 GPU 的利用率與顯存便于腳本處理 nvidia-smi --query-gpuindex,name,utilization.gpu,memory.used,memory.total --formatcsv建議團(tuán)隊(duì)把 GPU 利用率納入日常巡檢而不是等到服務(wù)變慢才去看。如果長(zhǎng)時(shí)間觀察到利用率低于 50%說(shuō)明資源規(guī)劃或任務(wù)調(diào)度存在優(yōu)化空間。5.2 在代碼里檢測(cè) GPU 環(huán)境對(duì)于使用 PyTorch 的團(tuán)隊(duì)啟動(dòng)訓(xùn)練或推理服務(wù)前應(yīng)該把環(huán)境檢測(cè)邏輯寫(xiě)進(jìn)腳本避免在無(wú) GPU 或驅(qū)動(dòng)不匹配的環(huán)境下白跑任務(wù)。# 文件路徑check_gpu_env.py import torch def check_gpu_environment() - None: print(CUDA available:, torch.cuda.is_available()) if not torch.cuda.is_available(): print([錯(cuò)誤] 當(dāng)前環(huán)境不可用 CUDA請(qǐng)檢查驅(qū)動(dòng)與 PyTorch 版本。) return print(GPU count:, torch.cuda.device_count()) for i in range(torch.cuda.device_count()): props torch.cuda.get_device_properties(i) print(fGPU [{i}]: {props.name}, 顯存: {props.total_memory / 1024**3:.1f} GB) current_device torch.cuda.current_device() print(Current device:, torch.cuda.get_device_name(current_device)) if __name__ __main__: check_gpu_environment()運(yùn)行方式python check_gpu_env.py如果輸出顯示 CUDA available 為 False優(yōu)先排查三個(gè)環(huán)節(jié)驅(qū)動(dòng)是否安裝、PyTorch 是否為 CUDA 版本、環(huán)境變量是否指向正確的 GPU。大部分 GPU 環(huán)境問(wèn)題都能在這三步內(nèi)定位。5.3 建立算力配額意識(shí)在團(tuán)隊(duì)層面建議參考云廠商的做法建立配額機(jī)制每個(gè)項(xiàng)目明確 GPU 使用上限定期清理不再使用的實(shí)例和任務(wù)為訓(xùn)練任務(wù)設(shè)置超時(shí)自動(dòng)釋放推理服務(wù)根據(jù)流量做彈性伸縮而不是常駐固定數(shù)量的實(shí)例。算力越稀缺資源管理的收益越大。這一步并不需要引入復(fù)雜平臺(tái)從監(jiān)控和流程約束開(kāi)始就夠了。6. 應(yīng)對(duì)方向二用推理優(yōu)化降低單位 Token 成本當(dāng)算力資源有限最有效的降本手段是讓同一個(gè)模型服務(wù)更多請(qǐng)求。下面給出兩個(gè)最常用的優(yōu)化路徑。6.1 使用 vLLM 提升推理吞吐量vLLM 的核心思路是 PagedAttention 和連續(xù)批處理可以在不改變模型效果的前提下顯著提升吞吐量。對(duì)于 8B 左右的模型vLLM 的吞吐往往比原生部署提升數(shù)倍。# 安裝 vLLM請(qǐng)以官方文檔為準(zhǔn) pip install vllm # 啟動(dòng)一個(gè) OpenAI 兼容的推理服務(wù) vllm serve meta-llama/Llama-3.1-8B-Instruct \ --gpu-memory-utilization 0.9 \ --max-model-len 8192 \ --host 0.0.0.0 \ --port 8000啟動(dòng)后即可用標(biāo)準(zhǔn) OpenAI SDK 調(diào)用# 文件路徑test_vllm_client.py from openai import OpenAI client OpenAI(base_urlhttp://localhost:8000/v1, api_keyEMPTY) resp client.chat.completions.create( modelmeta-llama/Llama-3.1-8B-Instruct, messages[ {role: user, content: 用一句話解釋什么是推理優(yōu)化。} ], max_tokens256, temperature0.7, ) print(resp.choices[0].message.content)這里有一個(gè)容易踩坑的地方--gpu-memory-utilization不要拍腦袋設(shè)成 0.95。如果顯存中還運(yùn)行著其他進(jìn)程過(guò)高的顯存占用會(huì)導(dǎo)致 OOM。建議從 0.8 到 0.9 之間開(kāi)始觀察日志中的顯存使用情況再調(diào)整。6.2 用 4-bit 量化降低顯存需求如果你的場(chǎng)景不追求極限吞吐而是希望把小模型塞進(jìn)更少的卡里跑量化是最直接的手段。以 Hugging Face Transformers 為例可以用 BitsAndBytes 加載 4-bit 模型# 文件路徑load_4bit_model.py from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig import torch model_name meta-llama/Llama-3.1-8B-Instruct bnb_config BitsAndBytesConfig( load_in_4bitTrue, bnb_4bit_compute_dtypetorch.float16, bnb_4bit_use_double_quantTrue, bnb_4bit_quant_typenf4, ) tokenizer AutoTokenizer.from_pretrained(model_name) model AutoModelForCausalLM.from_pretrained( model_name, quantization_configbnb_config, device_mapauto, torch_dtypetorch.float16, ) inputs tokenizer(什么是模型量化, return_tensorspt).to(model.device) outputs model.generate(**inputs, max_new_tokens128) print(tokenizer.decode(outputs[0], skip_special_tokensTrue))運(yùn)行前需要安裝依賴pip install transformers bitsandbytes accelerate注意量化有一定精度損失。對(duì)于復(fù)雜的數(shù)學(xué)推理、代碼生成類(lèi)任務(wù)8-bit 或 4-bit 可能產(chǎn)生明顯差異。穩(wěn)妥的做法是在量化模型上跑一遍你的核心測(cè)試集對(duì)比效果之后再?zèng)Q定是否上線。6.3 優(yōu)化前后先量化收益不管是引入 vLLM 還是做量化都應(yīng)該先跑一組基準(zhǔn)數(shù)據(jù)量化優(yōu)化前后的吞吐和延遲差異。建議記錄三個(gè)指標(biāo)吞吐量每秒處理的請(qǐng)求數(shù)或 Token 數(shù)首 Token 延遲用戶感受到的響應(yīng)速度每百萬(wàn) Token 成本結(jié)合云實(shí)例單價(jià)計(jì)算。有了這三組數(shù)據(jù)才能判斷優(yōu)化是否值得投產(chǎn)也才能讓技術(shù)決策變成成本決策。7. 應(yīng)對(duì)方向三用成本模型做技術(shù)決策算力緊張帶來(lái)的另一個(gè)問(wèn)題是技術(shù)選型不再只看性能還要看綜合成本。這里給一個(gè)可以復(fù)制到團(tuán)隊(duì)里的成本估算腳本用于在選型階段快速比較不同方案的 GPU 成本。# 文件路徑gpu_cost_estimate.py def estimate_gpu_cost( gpu_count: int, hourly_price_usd: float, gpu_hours_per_day: float, days_per_month: int 30, ) - dict: 估算 GPU 實(shí)例的月度與年度成本。 hourly_price_usd 為單卡每小時(shí)價(jià)格請(qǐng)以實(shí)際云廠商報(bào)價(jià)為準(zhǔn)。 monthly_gpu_hours gpu_count * gpu_hours_per_day * days_per_month monthly_cost_usd monthly_gpu_hours * hourly_price_usd annual_cost_usd monthly_cost_usd * 12 return { monthly_gpu_hours: monthly_gpu_hours, monthly_cost_usd: round(monthly_cost_usd, 2), annual_cost_usd: round(annual_cost_usd, 2), } if __name__ __main__: # 示例2 卡實(shí)例每天運(yùn)行 16 小時(shí) result estimate_gpu_cost( gpu_count2, hourly_price_usd3.5, # 示例單價(jià)請(qǐng)?zhí)鎿Q為實(shí)際報(bào)價(jià) gpu_hours_per_day16, ) print(result)運(yùn)行python gpu_cost_estimate.py輸出示例{monthly_gpu_hours: 960, monthly_cost_usd: 3360.0, annual_cost_usd: 40320.0}這個(gè)模型可以繼續(xù)擴(kuò)展加入模型吞吐量、服務(wù)請(qǐng)求量就可以估算“每百萬(wàn)次請(qǐng)求的 GPU 成本”。當(dāng)一個(gè)技術(shù)方案的成本結(jié)構(gòu)變清晰許多爭(zhēng)論自然停止。8. 常見(jiàn)問(wèn)題與決策建議面對(duì)算力緊張的常態(tài)團(tuán)隊(duì)里會(huì)有不少反復(fù)出現(xiàn)的問(wèn)題。整理成表格方便對(duì)照使用。問(wèn)題現(xiàn)象可能原因排查方式解決方案模型推理吞吐低未使用批處理優(yōu)化框架對(duì)比原生部署與 vLLM 的吞吐切換到 vLLM 等推理框架多任務(wù)并發(fā)時(shí) OOM顯存分配未按進(jìn)程隔離查看 nvidia-smi 顯存占用每次任務(wù)限制 GPU 編號(hào)并調(diào)低顯存占用模型量化后效果變差量化精度損失超出業(yè)務(wù)容忍度跑核心測(cè)試集對(duì)比改用 8-bit或?qū)﹃P(guān)鍵任務(wù)保留高精度模型GPU 實(shí)例成本失控實(shí)例常駐未按需伸縮檢查實(shí)例在線時(shí)長(zhǎng)配置定時(shí)伸縮或按流量彈性伸縮訓(xùn)練任務(wù)卡死但原因不明未記錄訓(xùn)練日志與監(jiān)控指標(biāo)查看 CUDA 錯(cuò)誤與日志建立訓(xùn)練任務(wù)日志和自動(dòng)告警另外給出幾條選型原則可以直接納入團(tuán)隊(duì)規(guī)范能用小模型就不用大模型先評(píng)測(cè) 7B/8B 級(jí)別模型效果不達(dá)標(biāo)再升級(jí)而不是默認(rèn)上最大模型能用量化就不上大卡許多生產(chǎn)場(chǎng)景 4-bit 量化足以滿足要求能共享就不獨(dú)占多個(gè)輕量服務(wù)可以共享一張卡通過(guò)顯存限制和 CUDA 可見(jiàn)性隔離先算賬再選型每次技術(shù)選型附一份成本評(píng)估把 GPU 成本列為評(píng)審項(xiàng)。9. 總結(jié)與后續(xù)關(guān)注方向英偉達(dá) 2028 財(cái)年?duì)I收增長(zhǎng) 70% 的預(yù)期表面上是一份財(cái)報(bào)指引實(shí)際上是把未來(lái)兩年的算力供需格局?jǐn)[在了桌面上GPU 依然稀缺算力成本不會(huì)快速下降A(chǔ)I 工程化的核心正在從“能不能做出來(lái)”變成“能不能低成本跑起來(lái)”。對(duì)開(kāi)發(fā)者來(lái)說(shuō)與其焦慮算力價(jià)格不如做三件具體的事。第一把 GPU 資源納入監(jiān)控和預(yù)算管理先搞清楚自己的真實(shí)使用情況第二掌握 vLLM、量化、批處理等推理優(yōu)化手段把單位 Token 成本降下來(lái)第三在每次技術(shù)選型中加入成本估算讓算力決策從感覺(jué)驅(qū)動(dòng)變成數(shù)據(jù)驅(qū)動(dòng)。后續(xù)值得持續(xù)關(guān)注的方向包括英偉達(dá)數(shù)據(jù)中心業(yè)務(wù)的季度增速變化、Blackwell 系列的量產(chǎn)交付節(jié)奏、推理優(yōu)化工具鏈的更新以及云廠商 GPU 實(shí)例的計(jì)價(jià)調(diào)整。這些信號(hào)會(huì)比任何輿論都更早地告訴你算力市場(chǎng)的下一個(gè)拐點(diǎn)在哪里。本文提到的命令和代碼可以直接在測(cè)試環(huán)境跑通建議收藏備用。如果你的團(tuán)隊(duì)正在設(shè)計(jì) AI 基礎(chǔ)設(shè)施方案不妨從 GPU 監(jiān)控和成本估算這兩個(gè)小工具開(kāi)始。算力緊張不是一兩年的短期現(xiàn)象越早適應(yīng)這個(gè)現(xiàn)實(shí)團(tuán)隊(duì)在下一輪 AI 競(jìng)爭(zhēng)中的主動(dòng)權(quán)就越大。