0
| 本文作者: 魏溶 | 2026-07-27 15:52 |
7月的上海,WAIC 2026的熱度,或許比蟬鳴來得更盛。
幾乎每個展臺都人頭攢動,人群的目光在展板的鉛字和展商的面龐間來回切換。無數人來到這里,心里總帶著同一個問題:中國的人工智能產業,到底走到哪一步了?
雷峰網(公眾號:雷峰網)特別策劃WAIC 2026觀察報道,我們與8位參展AI Infra公司的決策者聊了聊,試圖從展臺邊的對話里,捕捉今年大家真正在關心什么,以及這個行業正在形成哪些新方向和新共識。
今年產生了這樣一種有意思的趨勢,不管是來自CEO還是業務負責人,都不約而同地提到同一件事——WAIC 2026,行業關注的重心發生了改變。
過去大家更多在聊千卡集群、GPU性能等指標;而現在,話題更多轉向了如何穩定、低成本批量產出Token,以及在此基礎上,要怎么樣利用這些穩定的、低成本的token去支撐Agent和AI應用持續穩定運行。
市場數據能清晰地印證這輪轉變。2025年全市場Token調用量同比暴漲300倍,頭部大模型企業的增長已完全由API和Token調用拉動。以智譜為例,其年化收入已從預期的7億突破至10億美金,增長核心全部來自推理側規模化調用。據Gartner測算,推理目前已經占到企業AI計算支出的65%以上。
這不再是一場“誰有更多卡誰就是贏家”的規模競賽——用產出衡量能力,是推理時代的必然。
九章云極市場部負責人陳庶觀察到,去年大家還在討論如何把模型訓練出來,今年討論已經變成了“如何讓模型規模化地跑起來”。推理效率、調度能力、成本管控替代了算力規模,成為展臺和論壇上最高頻的詞。
這一看法成為了默契的共識,首都在線COO董直燁提到,行業的關注點已經從“算力資源的有無和規模大小”,轉向了“算力的落地效率與價值確定性”。
并行科技董事長,CCF中國計算機學會副理事長陳健指出,前兩年行業算力需求基本上訓練、推理五五分,但今年開始,隨著AI Coding、小龍蝦式自主智能應用批量落地,直接把算力推理需求推到了絕對主導地位。
陳健將其概括為行業的一個共識判斷——2026是AI大規模商業化元年,推理才是算力消耗的長期主體。
如果說Token是AI時代的石油,那Agentic AI就是那個轟鳴的內燃機。
Agent正在推動AI從“生成內容”走向“完成內容”,在執行任務的過程中不斷調動多個模型、多個工具,這會帶來比傳統單輪問答成百上千倍的Token消耗量。
當AI Coding、智能客服和企業Agent等場景成為業務板塊的一部分,單次請求將面臨著更復雜的任務,也會更頻繁的調用工具——毫無疑問,Agent的消耗速度絕對不是人可以比擬的。
PPIO的創始人兼CEO姚欣給出這樣的判斷,現在人類和Agent的Token消耗量能打個平手,但未來Agent才會是Token的第一用戶。“99%的Token都會由Agent消耗,而不是人。”
這意味著,Agentic AI會明顯提高對Infra的要求。趨境科技創始人兼CEO艾智遠有一個判斷,未來AI基礎設施的競爭不會只停留在單點性能,而是更看重復雜任務中的連續穩定服務能力。
博大數據董事長余武旺表示,未來競爭不會只是拼 GPU 數量,而是拼整個系統的協同能力,包括 AI 網絡、高速互聯、能源保障、資源調度,以及能否快速響應不同業務場景。
需求端的變化已經清晰,供給端要如何回應?(關于AI Infra的產業需求變革,歡迎添加作者微信 treelog10 交流)
Agent讓Token消耗呈現指數級增長,行業的回應是“AI工廠”和“Token工廠”。
從2022年,英偉達CEO黃仁勛提出AI工廠,到2025年AI工廠被明確為像互聯網和電力一樣的基礎設施。這場關于“造Token”的革命,在2026年已經進入了發展的關鍵階段。
8位站在行業最前沿的人均認同,AI工廠和Token工廠并非對立關系,二者更像一體兩面的共生關系:AI工廠將包含推理和訓練兩大板塊,是整個Token生產體系的完整載體;而Token工廠則更加注重規模化交付,把算力輸出為標準的Token產能。
董直燁認為,AI工廠的概念更寬泛,覆蓋從數據處理、模型訓練、微調、推理到應用分裝的全流程;Token工廠則是聚焦智能最小單位——Token的全生命周期,本質是把算力轉化為標準化的Token產能,更側重推理側的效率和確定性。
清程極智聯合創始人師天麾提出,AI工廠和Token工廠之間的概念異同,更多是一種觀察尺度和敘事重點的區別。“AI工廠”這一概念強調的是完整的生產體系;而Token工廠則是把視角聚焦到推理和服務交付環節。
“Token 工廠可以理解為 AI 工廠在推理時代、特別是在大規模 Agent 應用場景下的一種具體運營形態。”師天麾說。
陳健則對二者關系做出了分層。他認為完整AI工廠分為兩大模塊,訓練工廠和推理工廠,而推理工廠就是行業所說的Token工廠。他還指出二者之間存在的差異,是產業變革的核心。
第一是需求體量與長期占比的改變。陳健表示,長期來看,訓練算力整體占比會萎縮至10%左右,研發類算力占比5%,剩余85%以上的算力需求將全部歸屬Token推理工廠。行業算力資源投入重心不可逆的向推理傾斜。
第二是集群設計邏輯完全相反。大規模訓練任務是典型的超大規模單一計算任務,允許外部互聯網絡臨時波動,但無法接受集群內單點硬件故障;而Token推理是線上持續服務,可容忍單張GPU失效等集群內故障,但無法承受對外服務互聯網絡的不穩定。
“總而言之,AI工廠是完整產業載體,Token工廠是AI工廠當下和未來的價值核心——所有商業化收入、規模化應用增量,將由Token推理承載。”陳健說。(如果對AI工廠和Token工廠有獨到的見解和看法,歡迎添加作者微信 treelog10 交流)
“后Scaling時代”是今年WAIC大會的熱點詞之一,意思是單純堆算力、堆參數的方法,邊際效益在遞減。
這個解讀是否符合產業真實情況?目前從一些方面看來,答案是肯定的。
早期,行業靠放大模型參數、建立千卡、萬卡集群實現算力的躍升,但是來到2026年,已有廠商僅靠傳統方案10%的訓練算力,就做出了頂尖模型;企業也越來越“現實”,同樣的資源要能產出更多有效的Token。
但后Scaling并不意味著Scaling的終結。師天麾判斷,Scaling并沒有失效。只不過,靠擴大參數和堆疊算力,已經不能再自動換來等同比例的業務價值。訓練和推理規模仍會增長,只是行業必須同時回答成本、能耗、延遲、穩定性和商業回報的問題。
共績科技創始人兼CEO付智,也有類似的判斷:后Scaling并非“不再Scaling”,而是進入一種更加精細的系統Scaling、效率Scaling和調度Scaling。陳庶也提出,Scaling并沒有結束,但是它的優先級在下降;模型能力的上限仍然在向前推進,但競爭的焦點確實在轉移。
既然單純拼規模的時代已經過去,那現在行業要如何滿足Agent的需求?市場給出了一個更加現實的答案——“效率為王”。
“我們的判斷是,AI Infra正從資源競爭轉向系統效率競爭。”師天麾說。
付智把這種效率競爭劃分為三個層面。一是計算效率,通過芯片、網絡、推理框架、模型優化和系統架構,讓同樣的硬件產生更多有效計算。第二是資源效率。通過彈性調度、異構資源整合和跨區域協同,讓更多原本閑置或利用率不足的算力進入生產體系。第三是能源效率。算力任務如何與能源條件進行匹配,會越來越影響最終的Token成本。
艾智遠的觀察是,企業會非常現實地計算:同樣一批資源,能產出多少有效Token;服務能穩定運行多久;成本能不能支撐長期使用。未來競爭的關鍵,是提升單位資源產出、提高有效利用率、跨過成本線,并把這套能力復制到更多客戶和場景中。
姚欣則給出一個鋒利的判斷:隨著賽道進入白熱化競爭,絕大多數Token工廠目前都應處于虧損狀態。
比賽已經進入下半場,不同賽道的玩家在這場變革中各懷優勢,也各有短板。
陳健對雷峰網表示,他判斷當下Token工廠賽道的玩家正在加速分層。其中,具備萬卡GPU集群和全棧調度優化能力的算力服務商,優化后集群TPS和單位算力Token吞吐能拉開中小玩家10倍差距。但重資產模式注定了更長的擴張周期。
自研大模型廠商自建推理集群,可以深度貼合自有模型架構,但硬件出處不對外開放,無法承接第三方海量Token需求。硬件采購上也有對外服務性價比不足的弱勢。
至于中小型算力服務商和初創團隊,體量小、決策靈活,可承接定制化零散小單,卻缺少長期穩定大客戶訂單、大批量GPU鎖貨渠道和底層調度與性能的優化能力。
“穩定大客戶訂單、強GPU供給、頂尖性能算力優化能力三者缺一不可。同時,具備的頭部玩家會持續收割份額,中小玩家的生存空間正在持續收窄。”陳健說。
AI產業的發展進入深水區,百川歸海,構建起新的行業共識。故事更迭背后,是技術浪潮的自然延續,Token產出取代GPU卡數成為新的標尺,效率接替規模成為新的命題。
AI Infra企業紛紛在地圖上圈出了新的目的地——讓AI真正成為可度量、可交付、可依賴的生產力。
百舸揚帆,向深海駛去。
關于競爭和優勢,8位決策者還給出了不同的判斷和解讀。
算力基礎設施與規模化交付

站在2026 WAIC現場,我感受到最直觀的行業變化只有一句話概括:推理落地了。
整個會場廠商、客戶交流的核心不再是“能搭多大訓練集群”,而是“如何穩定、低成本批量產出Token”,Token工廠、推理服務、低時延調度成為全場高頻詞。
本次WAIC并行科技集中釋放全棧算力服務落地成果,核心想向行業傳遞一個信號:算力競爭早已告別“拼卡量、拼集群規模”的粗放階段,高效、穩定、低成本的Token化推理服務,才是產業長期生存的核心壁壘。
硬件儲備層面,我們和合作伙伴2025年已經落地國內首套2000卡B200集群、萬卡5090集群,今年落地兩個超大規模算力集群。業務新增兩大核心業務線:規模化推理算力服務及Token工廠標準化MaaS服務,覆蓋AI Coding、文生視頻和自主智能三大場景。
隨著Agent帶來底層的需求變革,Token消耗規模被拉高了一個量級。推理服務規模化之后,Token工廠應運而生,穩定大客戶訂單、強GPU供給、頂尖性能優化能力,這三個必要條件這抬高了賽道的準入門檻。當前Token工廠賽道的玩家主要分三類,各有優劣勢的體現。
第一類是具備大規模硬件儲備和全棧調度優化能力的算力服務商。優勢在于手握萬卡級多元GPU集群,深耕算力調度多年,優化后集群TPS和算力單位Token吞吐能拉開中小玩家10倍差距;長期服務頭部客戶,有穩定大訂單攤薄硬件折舊成本。劣勢是重資產模式,硬件采購和機房建設資金投入大,擴張周期更長。
第二類是自研大模型廠商自建推理集群。優勢是深度貼合自有模型架構,軟硬件適配度高。劣勢則是硬件儲備只為自有業務配套,不對外規模化開放,無法承接第三方海量Token需求,缺少業務靈活性和服務完備性。
第三類是中小型算力服務商和初創團隊。優勢是體量小、決策靈活,可承接定制化短期零散小單。但致命短板是三重壁壘無法突破:沒有長期穩定大客戶訂單、缺少大批量GPU鎖貨渠道、底層調度與性能優化能力薄弱。同樣硬件規格下,Token產出效率和頭部廠商存在10倍級差距,成本完全沒有競爭力。
整體回望2026整個算力產業,舊規則正在全面作廢:從拼卡量、拼訓練規模,轉向拼推理、拼Token效率、拼場景交付。推理落地帶來的Token浪潮只是起點,未來十年,誰能把算力穩定、低成本轉化為標準化Token供給,誰就能握住AI基礎設施賽道的長期話語權。

今年WAIC,我認為最大的變化在于算力供需關系的徹底逆轉。
一年前市場的核心困境是“賣不掉”,手里積壓著大量英偉達卡,客戶仍停留在驗證與試點階段,市場整體需求疲軟。而今天,形式完全倒轉,算力不僅短缺,價格更持續飆升。
這一反轉背后,驅動力來自兩大關鍵變化:其一,AI的智能生產力已切實落地,編程、辦公、AI短劇等場景進入了規模化應用階段;其二,智能體的崛起帶來了指數級的算力消耗,成為新的需求引擎。
PPIO今年帶來了兩款核心產品。一是智能Token工廠,在國內首發了智能模型網關產品。智能模型網關是AI Agent的智能調度中心,關鍵決策由混合模型把關提升質量,簡單任務自動分流到輕量模型,確保Agent用最低的Token成本、最高的智能性能完成任務。二是Agent Harness層,以Agent沙箱為核心,集成任務編排、Tool Use、記憶管理等功能,延長Agent可持續運行的Loop時長以解決復雜長程任務。
關于Token工廠之間的競爭,我認為關鍵區別在于能力覆蓋的層次。目前最典型的一類,是底層算力和云服務完全依賴第三方,僅聚焦于推理加速這一中間層。推理加速雖是Token生產鏈上的關鍵軟件環節,早期優化空間巨大。但隨著賽道進入白熱化競爭,絕大多數Token工廠目前都應處于虧損狀態。
根本原因在于,Token的性價比和毛利空間,必須通過每一層的端到端優化來兌現。
從底層往上拆解:第一層是能源成本,中國東西部電價相差近3倍,算力中心的選址直接決定成本基線;第二層是調度效率,將全球調用的白天黑夜利用率從40%~50%提升至70%~80%,又能釋放20%~30%的空間。
第三層是模型服務層的推理加速,優化潛力同樣高達百分之七八十;第四層是Token的實際用途——用于長上下文Agent應用還是簡單問答,兩者價值能差出10倍。
我認為現在行業不能只盯著Token生產數量,更要關注Token的智能含量和毛利率。而要實現可觀毛利率,必須完成從底層能源到上層應用的全棧式優化,覆蓋至少五個層級。

我認為,目前行業的關注點,已經轉向了算力的落地效率與價值確定性。
去年行業的討論更多圍繞算力供給擴張、大模型訓練基建搭建、GPU資源保供等“規模側”問題;而今年的討論已經深入到產業落地的具體環節,包括Token全鏈路的價值共識,Agent帶來的基建新需求,國產算力怎么從概念走向實操三大方向。
今年首都在線在WAIC展示的核心成果與能力,均圍繞“Token從生產到應用的確定性旅程”展開,包括有智算基建的規模化落地成果,自研CloudOS算力調度平臺和自研Maas智能調度與運營平臺的能力升級。
首都在線對自身的定位很清晰:堅守中立云定位,堅持不碰模型、不碰客戶數據、不碰芯片。我們希望行業看到,AI基礎設施的競爭已經進入下半場——不再是單純拼GPU數量或是算力規模,而是拼全鏈路的確定性、效費比與服務能力。
關于不同背景玩家在Agent基礎設施競爭中的優劣勢,我的判斷是這樣的:
頭部云大廠的優勢是生態體系完整、品牌影響力強、標準化產品成熟,C端與中小客戶覆蓋廣泛。但劣勢也很明顯——服務高度標準化,靈活度不足,難以滿足客戶深度定制化的部署與運維需求。同時,多數云廠商自身也布局大模型和應用業務,與客戶存在潛在的業務競爭關系,在數據安全與商業隱私上的中立性存在天然短板。
至于接下來的競爭核心,我認為有三個方面:一是算力轉化效率,通過集群調度與推理引擎優化釋放每張GPU的產出;二是網絡傳輸效率,Agent時代的低延遲與穩定性直接決定用戶體驗;三是運營調度效率,動態匹配算力與模型,實現Token消耗全鏈路可監測、可管控。
如果說,行業上半場拼的是“誰有更多算力”,下半場拼的是“誰能把算力的價值發揮到最大,給客戶更確定的結果”。規模是基礎,但最終的核心競爭力,是全鏈路的效率與確定性。
系統軟件與優化層

我今年最直觀的感受是,AI Infra 開始真正回答算力最終能穩定產出多少Token、成本是多少、能否真正被 Agent 和企業應用用起來。
現場有幾類產品讓我印象很深:一類是面向大規模集群的超節點、光互連和異構算力方案,繼續解決算力規模化和資源利用率問題;一類是圍繞推理引擎、Token 計量、持續評測和智能調度的產品,把算力產出轉化為可以衡量、比較和交付的服務;還有一類是面向 Agent 的本地網關、身份管理、調用追蹤和故障恢復工具,說明 AI Infra 正在進入應用的真實運行鏈路。
討論重點的遷移,反映出行業正在從基礎設施的建設期走向持續運營期。
今年WAIC清程極智最大的變化,是把一站式Token全鏈路服務做成了一個可以現場體驗的“前店后廠”。赤兔推理引擎負責“后廠”生產,AI Ping負責“前店”評測和路由,ATM負責Agent調用管理。我們最想傳遞的是,AI 基礎設施的價值,體現在能否持續生產并穩定交付高質量、低成本的 Token。只有生產、評測、路由、管理和應用形成閉環,國產算力才能真正進入規模化使用。
關于不同背景公司在Agent基礎設施競爭中的位置,我的判斷是:芯片和算力廠商的優勢在硬件資源和基礎設施投入,但硬件性能并不會自動轉化為推理效率,跨芯片、跨模型的適配與優化仍需要專業的系統軟件。
模型公司最了解自身模型能力,也能針對Agent場景做深度優化,但如果體系只圍繞單一模型展開,用戶的跨模型選擇空間會受到限制。云和MaaS平臺擁有豐富的資源與運維能力,但還需要解決跨服務質量透明度和中立調度問題。
我認為,這個市場最終不會由單一層級包辦。芯片、算力中心、推理引擎、模型服務商、評測調度平臺和 Agent 開發框架,需要開放協同。
放眼未來,競爭的關鍵不是誰擁有最多算力,而是誰能讓單位算力、單位能耗和單位成本產生更多真正有用的 Token,并把它們穩定交付給用戶。對于 Agent 場景,還要進一步看長期完整任務成功率、單位任務成本和服務穩定性。
我們的產品布局也圍繞這件事展開。算力資源仍然重要,但模型、推理引擎、評測、路由與應用負載之間能否協同優化,將決定一套基礎設施最終的真實產出。

今年我感受到,AI Infra 的討論重心正在發生變化:從“基礎資源是否充足”,轉向“這些資源能不能形成穩定、可持續的生產能力”。今年的焦點不只是建設基礎設施,而是如何運營好基礎設施。
趨境科技這次想傳遞的核心信息是,我們正在圍繞高品質AI Token工廠,推進從技術能力到生產能力的落地。過去一段時間,我們持續升級自研ATaaS平臺,并在關鍵模型、真實負載和企業場景中提升Token生產效率、穩定性和成本表現。
追求把模型列表做得更長并非趨境科技的目標,我們想要真正有生產需求的模型做深度優化。因為企業客戶最終關心的不是接入了多少模型,而是這些模型能否在實際業務中穩定、低成本、高效率地運行。
行業方面,在我看來“AI 工廠”和“Token 工廠”不是對立概念。AI 工廠更偏整體組織,強調模型、資源、數據、應用和工程系統如何協同;Token 工廠更偏結果導向,關注底層資源能否持續產出高品質 AI Token。
而具備企業級價值的高品質AI Token,需要同時滿足低首Token時延、高輸出速度、高并發等多個要求。難點不在單項指標,而在這些指標能否在真實生產負載下長期同時成立。
關于Agent的行業競爭,我認為未來會看重復雜任務中連續穩定的服務能力。這意味這模型公司更理解模型能力邊界,云和資源型公司有基礎資源優勢,系統工程型公司則更擅長把模型、資源和業務負載整合成穩定服務。
最終競爭會看誰能在 Agent 場景下穩定產出高品質 AI Token,并把成本控制在可持續區間。
算力鏈接與調度平臺

今年讓我印象最深刻的 ,并不是某一款產品 ,而是 AI 基礎設施正在進入“系統級競爭”的新階段 。
大家關注的不再只是單張芯片性能 ,而是如何通過高速互聯 、系統集成和軟硬協同 ,讓更多GPU 高效協同工作 。我認為,這反映出 AI 產業發展的一個重要趨勢:競爭正在從“單點性能”走向“系統能力” 。
這次 WAIC,博大數據重點展示的是博大數據面向 AI 時代的整體基礎設施能力,包括智算中心、AI 算力、AI 網絡,以及覆蓋全國和海外的資源布局。我們希望展示一套完整的 AI 基礎設施解決方案,從規劃設計、建設交付,到網絡互聯、運營維護。我們最想傳遞的信息是:AI 的發展,不只是模型的競爭,更是基礎設施能力的競爭 。
關于未來,我認為競爭不會只是拼 GPU 數量,而是拼整個系統的協同能力,包括 AI 網絡、高速互聯、能源保障、資源調度,以及能否快速響應不同業務場景。
不同類型企業也各有優勢 。芯片企業推動算力性能不斷提升;模型企業持續優化算法;應用企業探索商業場景;而像博大數據這樣的基礎設施企業,則更關注如何把這些能力連接起來,構建穩定、高效、可持續運行的底座。
未來 AI 產業一定不是單個企業完成的 ,而是生態協同 。
至于未來競爭的關鍵,我認為主要是系統效率、能源效率和運營效率三大方面。簡而言之,未來行業不會從“拼規模”走向“不拼規模” ,而是會進入一個規模和效率并重,但效率決定競爭力的新階段 。

今年一個很明顯的變化,是大家討論 AI Infra 的方式正在發生變化,AI Infra正在從“資源規模競爭”走向“系統效率競爭”。
這次WAIC共績科技帶來“上天入地,算力一體”的畫面展示:把IDC、企業園區閑置算力、網吧GPU、車載算力放在同一張圖景里。我們以電網式算力調度平臺為底座,一端連接不同算力供給,另一端連接模型訓練、推理、Agent等需求,進行跨區域、跨集群調度。
隨著Agent的爆發式增長,我認為這意味著未來AI負載會越來越呈現出幾個特征:調用頻率更高、鏈路更長、并發波動更大、模型更加多樣,而且越來越多任務會長期運行。
這就對AI Infra提出了一些新的要求:高峰流量來了能否快速擴容?不同任務能否調度到最合適的模型和算力?大規模并發下延遲和SLA能不能穩定?大量Token消耗之后,企業的綜合成本能不能控制?
因此,我認為Agent基礎設施的競爭最終會分成幾個不同的層次。芯片和服務器廠商的優勢在于底層硬件和系統協同能力,能夠不斷提升單機和集群性能;大型云廠商擁有規模化資源和成熟云生態,能夠提供完整的平臺能力;模型和推理服務企業更接近模型層,在推理優化、模型路由和Token服務上有優勢。
未來真正有競爭力的AI Infra,需要同時具備三個能力:資源異構化,不能只能依賴一種芯片或一個資源池;供給彈性化,業務需求增加時能夠快速補充,下降時能夠釋放資源;調度智能化,不同任務能夠根據時延、成本、模型、網絡和算力條件選擇更優的執行路徑。
當然,這里面仍然有很多需要解決的問題,包括異構資源標準化、跨區域網絡、數據安全、穩定性以及調度效率。這也是未來基礎設施公司真正需要長期投入的地方。

今年大會上,能明顯感受到一個轉向——不少頭部AI Infra廠商已經從“展示芯片和集群規模”轉向“展示Token生產效率和工程化能力”,這個變化本身就很說明問題。
讓我印象比較深的是,大家普遍在談如何讓算力真正產出價值——從“我有多少P的算力”轉向“我能以什么成本產出多少Token”。
這次WAIC九章云極在展位搭建了一座微型AI工廠的實景,完整覆蓋從算力調度到Token交付的全鏈路。Alaya NeW Cloud的三項核心能力:智能隊列調度、資源配額管理、開發工具套件,對應算力使用中最關鍵的三個問題:排得公平、分得清、用得順手。
Agentic AI確實是Token消耗的“放大器”,但反過來看,這也意味著企業對Token交付的穩定性、成本、合規和可審計性的要求,比傳統API調用高出一個數量級。
云廠商的優勢在于規模化供給和完整服務體系,短板是異構算力精細化調度與多模型路由優化——而這恰恰是Agent任務的核心需求。芯片廠商強在底層硬件掌控力,可通過軟硬協同優化提升單卡Token產出,但缺少從芯片到上層應用的工程化封裝能力。
算力運營商的優勢則在于對算力、模型、調度、計價的系統性整合,Agent需要的是“算力+模型+調度+計量+成本管控”的一體化能力。
未來行業競爭的關鍵,我們認為有三層。第一層是算力治理能力——能不能讓算力資源被充分調度、不被閑置。行業平均利用率不足30%,意味著大量算力投入未被有效轉化,誰先把這部分效率釋放出來,誰就有成本優勢。
第二層是Token生產效率:同樣一度電、同樣一張卡,能不能產出更多有效Token。第三層是規模化運營能力:能不能讓這套體系在不同的行業、不同的業務場景中被復用,而不是每個項目都從零開始搭一遍。
算力是投入,Token是產出。用投入衡量能力,是訓練時代的慣性;用產出衡量能力,是推理時代的必然。
歡迎添加作者微信 treelog10 交流,互通有無。
雷峰網原創文章,未經授權禁止轉載。詳情見轉載須知。