本報記者 王鏡茹

    隨著生成式人工智能技術(shù)從“模型訓(xùn)練”逐步邁向大規(guī)模商業(yè)落地，以訓(xùn)練為核心的算力消耗，正逐漸轉(zhuǎn)向以推理為主導(dǎo)的持續(xù)性算力需求。3月17日，英偉達(dá)首席執(zhí)行官黃仁勛在GTC大會上表示，AI推理市場拐點已經(jīng)到來，AI從訓(xùn)練階段全面進(jìn)入推理與執(zhí)行階段，推理算力需求呈指數(shù)級爆發(fā)。

    “隨著生成式人工智能應(yīng)用規(guī)模擴大，推理算力需求增長速度可能遠(yuǎn)超訓(xùn)練算力。一方面，應(yīng)用需求爆發(fā)，生成式AI與智能體應(yīng)用加速落地，用戶高頻交互帶來指數(shù)級推理請求；另一方面，專用推理芯片、液冷散熱及光互連等技術(shù)持續(xù)突破，顯著提升算力效率與并發(fā)能力，為大規(guī)模部署奠定基礎(chǔ)。”深圳市前海排排網(wǎng)基金銷售有限責(zé)任公司研究員張鵬遠(yuǎn)對《證券日報》記者表示。

    從行業(yè)機構(gòu)的預(yù)測來看，推理算力的重要性正持續(xù)提升。國際數(shù)據(jù)公司（IDC）預(yù)測，到2027年，我國推理算力占整體算力的比例將突破70%。中國IDC圈創(chuàng)始人、CEO黃超表示，2026年產(chǎn)業(yè)智能體將進(jìn)入百花齊放的發(fā)展階段，算力應(yīng)用正從“訓(xùn)練主導(dǎo)”轉(zhuǎn)向“推理驅(qū)動”，推理算力需求的爆發(fā)周期即將全面到來。

    面對推理算力需求的快速增長，國內(nèi)產(chǎn)業(yè)鏈上下游企業(yè)正加快技術(shù)研發(fā)和產(chǎn)品布局。在芯片層面，多家廠商正推出面向推理場景優(yōu)化的芯片。相較于傳統(tǒng)訓(xùn)練芯片，推理芯片更強調(diào)功耗控制、成本效率以及部署靈活性，因此在云端和邊緣側(cè)均具有廣闊應(yīng)用空間。

    以深圳云天勵飛技術(shù)股份有限公司（以下簡稱“云天勵飛”）為例，該公司以NPU為核心，在云推理場景的大算力芯片上確定了GPNPU技術(shù)路線，并在矩陣、向量單元、存儲層級和有效帶寬利用上深度優(yōu)化，目標(biāo)是指數(shù)級降低token成本，加速大模型應(yīng)用的規(guī)?；?、普惠化落地。

    2025年，云天勵飛實現(xiàn)營業(yè)收入13.08億元，同比增長42.57%。云天勵飛相關(guān)負(fù)責(zé)人對《證券日報》記者表示：“對于企業(yè)而言，隨著行業(yè)競爭從比訓(xùn)練規(guī)模逐步轉(zhuǎn)向比推理效率、比交付成本、比系統(tǒng)賺錢能力，誰能更早把硬件、存儲和軟件協(xié)同做到位，誰就更有機會在推理時代占據(jù)主動。”

    在服務(wù)器和系統(tǒng)層面，頭部廠商也在持續(xù)推出針對推理場景優(yōu)化的算力平臺。例如，浪潮電子信息產(chǎn)業(yè)股份有限公司推出了元腦R1推理服務(wù)器，可實現(xiàn)單機支持16張標(biāo)準(zhǔn)PCIe雙寬卡，單機即可部署DeepSeek-671B模型；推出元腦CPU推理服務(wù)器，可快速部署并高效運行DeepSeek-R132B、QwQ-32B等新一代推理模型。

    與此同時，算力基礎(chǔ)設(shè)施建設(shè)也在同步提速。過去，國內(nèi)許多智算中心普遍采用訓(xùn)推一體的建設(shè)模式。3月12日，云天勵飛中標(biāo)廣東省湛江市AI滲透支撐新質(zhì)生產(chǎn)力基礎(chǔ)設(shè)施建設(shè)項目，該項目定位為專注推理任務(wù)的AI推理集群，主要面向各類行業(yè)應(yīng)用場景，為國內(nèi)傳統(tǒng)產(chǎn)業(yè)的AI化提供落地樣本。

    北京止于至善投資管理有限公司總經(jīng)理何理認(rèn)為，在這一變革中，高性能推理芯片、HBM及全棧軟件將率先受益算力紅利。推理場景對低延遲、高吞吐和能效要求極高，LPU、ASIC等專用架構(gòu)將加速替代通用計算單元，HBM4等存儲技術(shù)將成為突破帶寬瓶頸的關(guān)鍵。同時，算力由數(shù)據(jù)中心向邊緣側(cè)下沉，高密度推理機架與先進(jìn)散熱技術(shù)需求提升，疊加模型量化、參數(shù)壓縮等編譯優(yōu)化，將推動產(chǎn)業(yè)從硬件堆疊轉(zhuǎn)向軟硬協(xié)同。

（編輯 喬川川）