詞元是大模型的最小計量單位。我們向模型提問時,模型給出的每一段回答,都按詞元計數、計價,就像打電話按分鐘計費、用流量按兆結算一樣。
高質量的詞元服務,看的不只是價格便宜。就像評價自來水,不能只看每噸水價,還要看水壓穩不穩、擰開龍頭多久出水、會不會動不動停水。
衡量詞元服務質量,同樣至少有三把尺子:一看每秒輸出詞元數,決定模型回答快不快;二看首詞元時延,即提問之后多久蹦出第一個字;三看調用成功率,即服務穩不穩定。速度慢一倍、動輒超時報錯的低價詞元,和水壓不足、時斷時續的低價自來水一樣,便宜未必是真實惠。
更要看到,高質量詞元不是單靠一個好模型就能產出的,而是基礎設施與模型有機融合的系統工程。從用戶提問到回復蹦上屏幕,背后是算力芯片、推理框架、調度緩存、網絡傳輸與模型架構的層層接力,任何一環有短板,整體表現就會打折扣。這就像高鐵跑出350公里時速,靠的不只是一個好車頭,而是軌道、供電、信號調度與列車的整體匹配;把最好的車頭放到普通鐵軌上,照樣跑不了這么快。
同一個開源模型,交給不同平臺部署,速度、穩定性和成本甚至會“判若兩人”,差的正是這套系統集成的功力。
便宜不等于差:理性拆解詞元的成本賬
看懂詞元的價格,先要看懂詞元的成本。
詞元成本的大頭,是算力芯片的折舊和運行的電費,把成本攤薄主要靠三條路:一是模型架構創新,比如稀疏激活技術讓模型回答問題時只調用與問題相關的部分參數,好比在圖書館答題只翻相關的幾頁書,而不是把整套百科全書從頭讀一遍;二是推理工程優化,把算過的內容緩存復用、把不同用戶的請求拼車批量處理,一趟車拉的人越多,人均票價越低;三是規模效應,日均調用量千倍增長,機房、研發等固定投入被億萬次調用攤薄。
因此,便宜完全可以是真本事。國產模型DeepSeek-V3僅用約558萬美元的訓練成本,就達到了國際第一梯隊的性能水平,其低價恰恰源于架構與工程層面的創新,而非能力縮水。
反過來,貴也未必就是好:高價背后可能是先進的模型,也可能是低效的工程在讓用戶為浪費買單。
真正的問題不在價格高低,而在價格與質量的對應關系不透明,用戶無從判斷自己付的錢買到了什么。
賬單成黑盒:技術、定價、營銷三重迷霧
從技術上看,詞元計量天然缺少統一口徑,這是“賬單看不懂”的第一重原因。同樣一句話,不同模型的切分方式不同,切出來的詞元數量可以相差數倍;同樣一次對話,輸出詞元通常比輸入詞元貴好幾倍,而對這些成本結構,普通用戶通常一概不知。
更隱蔽的是多輪對話:模型每答一輪,都要把之前的對話從頭讀一遍,賬單像滾雪球一樣越滾越大;緩存復用本可省下這筆錢,但緩存到底命中了多少,只有服務商自己清楚。有的明明命中了90%,卻按照只命中10%收費,中間差價便成了灰色空間。
技術黑盒的直接后果,是同樣的任務在不同平臺花費迥異。有媒體調查發現,使用同一個模型解一道雞兔同籠題,不同平臺消耗的詞元數量最大相差10倍。這就像打車,起點終點相同,有的司機走直線,有的司機繞遠路,車費自然不同;更麻煩的是,眼下連計價器本身都沒有經過統一檢定,乘客既不知道實際“走了多遠”,也無從判斷計價準不準。分詞方式、系統提示、上下文管理等技術細節上的差距,直接決定用戶為同一個任務付出多少真金白銀。
從定價上看,市場報價與真實成本存在脫節,這是“賬單看不懂”的第二重原因。目前全市場有50多個主流大模型服務商,價格與能力參差不齊。買水果尚可先嘗后買,詞元的成色卻要在長期使用中才能顯形,用戶很難當場識別。
從營銷上看,套餐設計方面的復雜化,是“賬單看不懂”的第三重原因。按量計費、包月包年、會員訂閱互相嵌套,套餐越復雜,信息不對稱越大,制造價格差異的空間也越大。
把計價器立起來:讓詞元像水電一樣被標準計量
以史為鑒,每一種基礎資源的普及都以計量標準化為前提。電力走進千家萬戶,靠的是統一的電表和電價核定;移動互聯網的繁榮,起點是提速降費和資費透明,讓用戶敢放開用流量。20世紀90年代末互聯網流量興起,當年人們為幾兆流量斤斤計較,而今流量套餐動輒幾十上百個G,“便宜還用不完”。
詞元也終將走過同樣的路:技術迭代把價格打下來,標準規范把賬單曬出來,兩者缺一不可。個別消費者可以靠鉆研選出實惠套餐,但健康的市場不能要求人人都成為專家,就像我們不會要求每位乘客自帶里程表打車。
值得關注的是,行業的計量檢定工作已經先行一步。中國信息通信研究院聯合10余家領軍企業啟動詞元服務能力攀登計劃,發布首批企業級詞元服務性能攀登基線,將高質量服務量化為每秒輸出詞元數不少于55個、首詞元時延不超過0.9秒、調用成功率不低于99.9%,并提供按季度動態更新的基準,定期發布達標企業,推動詞元服務從可用走向好用、普惠。
這相當于給詞元市場裝上了經過檢定的計價器,用戶對照基線,就能識別誰是“憑真本事的便宜”、誰在“虛報里程”。
更進一步看,詞元調用量有望成為衡量智能化水平的新指標。我們用發電量觀察工業景氣,用貨運量感知經濟冷暖,未來一個地區、一個行業的詞元調用量,或許就是其智能化程度最直觀的晴雨表。
當詞元像水電一樣被標準計量、越來越物美價廉,當類似“手搓小程序”的草根創新變成日常,人工智能普惠大眾的圖景也就真正落地。
(王蘊韜 作者系中國信息通信研究院人工智能研究所副總工程師)