同一份工作,成本差 8 倍:AI 模型選型不是挑最強,是放對位子
「用最強的模型就對了」是最貴的誤會——同一份工作交給旗艦或輕量模型,輸出成本可以差 8 倍。這篇用企業選才的邏輯拆解 AI 模型選型:公司裡有哪三個位子、各該派哪一級模型,以及預算要靠快取跟路由怎麼守住。
Kai Wu
• 凱吳科技 負責人
先給數字:同一份文字工作,交給旗艦級模型跟交給輕量級模型,輸出成本差 8 倍——每百萬 token 一邊約 50 美元、一邊約 6 美元。而其中很大一部分的工作,兩邊的成品你看不出差別。
這就是多數公司在 AI 上真正的浪費。不是用得太少,是把最貴的人放去做最便宜的事。
我們自己每天在跑 AI 生產線,所以 AI 模型選型這件事,我們是按帳單學會的。
貴的不是模型,是你派它做的事
把客服 FAQ 分類、把 PDF 抽成欄位、把 log 過濾成報表——這些工作交給旗艦級模型,帳單是十倍,正確率不會是十倍。差距可能只在小數點後面,但你每個月照十倍付。
反過來也一樣糟。把跨檔案的系統重構丟給便宜模型,省下來的 API 費用,會用工程師收爛攤的時間十倍奉還。單價便宜、但要人重做三次的工作,是全公司最貴的工作。
所以問題從來不是「這個模型貴不貴」,是**「這件事值不值得這個價」**。
錯的問題是「現在最強的是哪一個」
這是我們最常被問到的一句。但這個問題,等於問「市場上薪水最高的人是誰,請進來就對了」——沒有一間公司是這樣配置人力的。你會先問:這個位子每天要做什麼、需要多少能力、公司給得起多少預算。
更何況「最強」這份名單每幾個月就換一次。光是今年上半年,旗艦級換過一輪、開放權重的模型一路跑到兆級參數、主力級的 API 成本比前一代直接砍掉一半。把公司流程綁死在單一模型上,等於把人事策略押在一份永遠在變的排行榜上。
真正該建立的原則是反直覺的:不是挑最強的模型,是替每一段工作排班。
三個位子:旗艦、主力、輕量
我們自己是這樣分的:
- 旗艦級:跨天的自主任務、大型程式碼庫重構、錯一次代價很高的工作。判準是「錯誤會不會累積」——會累積的,第一次就做對比便宜重要得多。
- 主力級:日常專業工作。跨系統的文件整理、報表產出、內部流程自動化。這格通常吃掉公司八成的用量,也因此最該逐項精算單價。
- 輕量級:高吞吐、低延遲。資料前處理、大量分類、即時監控過濾。這裡買的是速度跟單價,不是推理深度。
還有第四個位子,很多老闆沒想到:不上雲的那些。病歷、財務、合約——受規範的資料,重點不是哪個模型比較聰明,是資料能不能離開自己的機房。前沿級的開放權重模型出現之後,這個位子第一次有了堪用的人選。合規是架構決策,不是事後補救,模型選型也算在架構裡。
把名字填進去會更好懂。以 2026 年 7 月這個時間點來說:旗艦級坐著 Claude Fable 5 與 GPT-5.6 Sol,主力級是 GPT-5.6 Terra,輕量級是 GPT-5.6 Luna,而不上雲那一格,開放權重的 Kimi K3 是目前少數堪用的人選。
但這份名單請當快照看——下一季一定不一樣。會換的是名字,不會換的是這四個位子、以及你派工的邏輯。這也正是我們主張留一層路由的原因:位子的定義比模型的名字活得久。
守住預算的兩件事
第一是快取。把固定不變的系統指令、專案背景、歷史紀錄寫進快取,命中的部分可以省到 九成。長時間運作的 agent 流程,這一項往往直接決定專案是賺是賠——設計得好,營運成本能壓掉 六成到八成。
第二是換人成本。不要把提示詞、工具介面、整條流程綁死在某個模型的脾氣上。中間留一層路由,換模型時只改一處設定。因為它一定會換——差別只在是你主動換,還是被漲價通知逼著換。
選型跟用人一樣:重點從來不是找到最強的那一個,是讓每個位子都站著剛剛好的那一個。
這跟我們在用 AI 取代員工之前談過的是同一件事——AI 不是拿來「換掉誰」的,是拿來把人力與預算重新配置到對的地方。實際怎麼配,可以看我們的案例研究。
給老闆的三個自我檢查
- 你公司最大的一筆 AI 帳單,花在哪一類工作上?——答不出來的話,經驗上通常是花在最便宜的那類事情上。
- 這件工作錯一次,是重跑一次就好,還是要人去收拾?——重跑就好的,交給便宜的;要人收拾的,才值得請旗艦。
- 如果今天要換掉現在用的模型,你要改幾個地方?——超過三個,代表你綁太死了,下一次換代你會很痛。
如果你正在評估要導入哪一套 AI,或是帳單已經開始不合理——你描述現在的用法,我們告訴你哪一段該降級、哪一段值得升級、中間那層路由怎麼留。
文章標籤
相關文章
探索更多 AI 自動化與流程改造的實戰內容