AI Token 完全解析:計算邏輯、收費與省錢技巧
AI Token 是模型將文字切分後用於處理與計量的單位。內容說明 tokenizer 如何切分文字、繁體中文的 token 數如何依目標模型實測、輸入輸出與快取怎麼計價,並提供工作量成本試算與節省用量的方法。
作者:褚崇名(Sliven)
本頁目錄
- Token 到底是什麼?用「樂高積木」拆解模型的最小計價單位
- 同一句話,不同模型切出來的積木數不一樣
- 繁體中文一定比較耗 Token 嗎?答案取決於模型
- 自己算 token 才有底氣:三個免費測量工具
- 一張帳單怎麼算:三類計費加上上下文限制
- 第一條流:輸入 token(input)
- 第二條流:輸出 token(output)
- 第三條流:快取 token(cache)
- 容量限制:上下文視窗(context window)
- 長上下文不是免費的:塞爆它之前先想清楚
- 一個真實的 token 成本試算:把四條流套進你的工作量
- 你以為只算到這裡:藏在帳單裡的隱形 token
- 地雷一:系統提示每一輪都在重複計費
- 地雷二:MCP 與工具定義默默吃 token
- 地雷三:Agent 每走一步,上下文就胖一圈
- 地雷四:圖片與多模態是 token 大戶
- 五個能降低 Token 帳單的實作技巧
- 技巧一:符合條件時使用 prompt caching
- 技巧二:做模型路由,把簡單事交給便宜模型
- 技巧三:用結構化指令壓制輸出長度
- 技巧四:批次處理取代逐筆呼叫
- 技巧五:主動管理上下文,該砍就砍
- 不同任務的 token 成本結構:寫文案、寫程式、跑 Agent 差在哪
- 訂閱制 vs API 計量:你到底該用哪一種付費方式
- 四個最常見的 token 迷思,一次拆穿
- Token 效率與 SEO、GEO 的關係
- 為什麼是子詞,不是字元或整詞
- 混中英文與符號時,token 會怎麼算
- 用顏色視覺化找出浪費 token 的地方
- Token 效率不是 Google 排名因素
- 把「對模型友善」翻譯成具體的寫作動作
- 不要用聊天介面的字數去推 API 成本
- 從看不懂帳單到預算可控:我的 token 成本管理四步流程
不少人都曾對著月底寄來的 API 帳單發愣,心裡想:「我只不過是讓 AI 幫我寫了幾篇文章、改了幾段程式,怎麼費用會暴成這樣?」帳單每個欄位都寫著 token,卻沒有用白話告訴你這個數字到底怎麼算。
Token 不是神秘的黑盒子,它是模型處理文字與 API 計量時常用的單位。Token 數會影響請求成本與可放進上下文的資料量,速度則還受模型、輸出長度與服務負載影響。接下來會把 token 的計算邏輯、收費機制,以及可驗證的省錢方法講清楚,讓你知道怎麼預估成本、挑模型與設計流程。
核心重點
- Token 是模型把內容編碼後處理的單位,可能是一個字、字的一部分、標點或位元組片段,切法依模型而異。
- 英文常用粗估是 1 顆 token 約 4 個字元;繁體中文沒有跨模型通用的換算率,應使用目標模型的計數工具實測。
- 常見帳單項目包括輸入、輸出與快取;上下文視窗是容量限制,不是第四種獨立費用。輸出與快取價差都要查該模型當下定價。
- 系統提示、RAG 檢索片段、MCP 工具定義、Agent 每一輪推理,都是藏在帳單裡的隱形 token。
- 常見節流手段包括:符合條件時使用 prompt caching、做模型路由(簡單任務用小模型)、約束不必要的輸出長度。
Token 到底是什麼?用「樂高積木」拆解模型的最小計價單位
很多人以為 token 就是「一個字」或「一個詞」,這並不準確。換個比喻:你可以把一段文字想像成一台用樂高積木拼出的車,token 就是編碼後的積木顆粒。一個英文字可能是一顆,也可能被拆成好幾顆;中文字、標點與 emoji 的切法同樣取決於模型使用的 tokenizer。
模型在讀你的文字之前,會先用一個叫 tokenizer(分詞器) 的工具,把整段話切成一串數字編號。這個切法的依據,是訓練時統計出來的「常用字元組合表」。常出現的組合,就當成一顆 token;罕見的組合,就拆得更碎。OpenAI 在 tokenizer 官方說明裡給了一個很好記的粗估規則:對英文來說,1 顆 token 大約等於 4 個字元,也就是四分之三個單字。
這個「切法」會影響帳單,因為許多生成式 AI API依輸入與輸出 token 計費,跟眼前看到幾個字不是一對一關係。兩段看起來一樣長的文字,token 數仍可能不同;估價應以目標模型實際計數與官方費率為準。
如果目標只是先搞懂 token 與 LLM 的關係,可以從基本概念、計算邏輯、收費結構與成本控制依序理解。想先補齊模型的整體能力與限制,可閱讀LLM 的原理與能力邊界,再回到帳單面的細節。
同一句話,不同模型切出來的積木數不一樣
每一家模型使用的 tokenizer 與計數方式不完全相同。OpenAI 提供 tiktoken 與官方 tokenizer 工具,Anthropic 提供 token counting API,Google Gemini則提供 countTokens 方法。同一段中文輸入不同模型時,不能假設 token 數相同(見 Google 的 Gemini API 文件〈Learn about tokens〉)。
實務上的意思是:用同一份 prompt 在 GPT、Claude、Gemini 之間比較成本時,不能只看「每百萬 token 多少錢」,還要分別計算相同內容在各模型下的輸入量,再加上預期輸出與快取費率。模型單價較低,不代表同一工作量的總成本一定較低。
繁體中文一定比較耗 Token 嗎?答案取決於模型
用中文做內容時,不要直接套用英文的字數換算率。不同世代的 tokenizer 對多語內容效率差異很大,繁體中文在某些模型確實可能比等義英文使用更多 token,但不是所有模型都固定如此。
Tokenizer 會依詞表、訓練設計與編碼方式,把常見片段合併成 token。英文常見組合可能被合併,中文也可能以單字、多字片段或位元組方式表示。不能只用「語料以英文為主」推導每個模型的繁中成本,最可靠的方法仍是拿實際資料測量。
英文的常用粗估是 1 顆 token 約 4 個字元;這個比率不能直接套到繁體中文,也不能用任意開源 tokenizer 代表所有商用模型。同樣表達一個意思,中英文版本的長度、措辭與 token 數都會改變。比較時應固定內容意圖,使用各供應商的計數工具量測,再乘上該模型的輸入與輸出單價。
這個「語言稅」會在你的帳單上以三種方式放大:
| 場景 | 英文表現 | 繁中表現 | 對成本的影響 |
|---|---|---|---|
| 系統提示(system prompt) | 依提示內容與模型實測 | 若每輪重送,固定前綴會累積成本 | |
| 長篇文章生成 | 字數與 token 數不是固定比例 | 輸入與輸出都應分別估算 | |
| RAG 檢索內容注入 | 片段長度取決於語料、切分與模型 | token 增加時,可用上下文容量會減少 | |
不要為了省 token 就把提示詞硬翻成英文。若任務要求繁體中文語境,翻譯可能改變細節與輸出品質。先用目標模型量測,再比較「全中文提示」與「固定英文框架加中文資料」是否真的省錢且品質相當。
自己算 token 才有底氣:三個免費測量工具
你沒辦法管理一個你看不見的東西。要懂成本,第一件事就是學會「在花錢之前先算 token」。好工具很多,而且大部分免費,以下三個是我日常在用的。
第一個是 OpenAI 開源的 tiktoken Python 套件,可依支援的編碼估算文字 token;聊天訊息包裝、工具定義與特定模型行為仍要依 API usage 核對。第二個是 Anthropic 提供的 count_tokens API 端點,可在送出請求前計算 Claude 訊息的輸入 token,詳細用法見 Anthropic 官方 API 文件。第三個是 Google AI Studio 的 token 顯示,可用來觀察目前提示與對話內容的用量。模型、工具與介面更新後,仍以實際 API 回應和帳單為準。
我強烈建議你做一件具體的事:把你最常用的系統提示、最常送的背景資料,分別丟進上面任一個工具,記下它們各自的 token 數。這個數字會讓你對「每一輪對話的固定底薪」有清楚的概念。很多人開了快取才發現,自己那串「看起來沒幾句」的系統提示,居然有兩三千顆 token,每講一句話都在重複付這個底薪。先量出來,你才知道值不值得為它開快取。
量測這件事,最好養成兩個習慣。第一個習慣是在新功能上線前先估價:每次要寫一個會呼叫 API 的流程,先用 tokenizer 把典型輸入算一遍,乘上預估的輸出長度與呼叫次數,得到一個月度成本的概估。這個數字哪怕不準,也能讓你在寫程式的當下就意識到「這個設計會不會太燒」。第二個習慣是把 usage 欄位存下來:每一次 API 回應都會附帶這次用了多少 input、多少 output token,把這些數字寫進你的資料庫或 log,久了你就有一份自己的成本分布圖,知道錢到底花在哪些任務上。這兩個習慣不花什麼力氣,卻是把成本從「憑感覺」變成「有數字」的關鍵起步。
一張帳單怎麼算:三類計費加上上下文限制
多數人看不懂帳單,是因為把它當成「一個數字」。常見生成式 AI API 會分開列出輸入、輸出與快取相關用量;上下文視窗則限制單次請求能容納多少內容,本身不一定是獨立計費項目。實際欄位仍以供應商的 usage 回應與定價頁為準。
第一條流:輸入 token(input)
這是你送進模型的內容,包括系統提示、使用者訊息、應用程式保留的歷史對話、檢索資料與工具回傳結果。許多模型的輸入單價低於輸出,但並非通則。若應用程式每輪都重送完整歷史,輸入量便會逐步增加;若採摘要、截斷或供應商的狀態管理,情況會不同。
第二條流:輸出 token(output)
這是模型回給你的內容。許多模型的輸出 token 單價高於輸入,但倍數依模型與服務方案而變,不能固定寫成 3 到 5 倍,實際倍數以 OpenAI 與 Anthropic 官方定價頁為準。部分推理模型還會分開回報或計入 reasoning tokens,估價時要依官方欄位處理。
如果所用模型的輸出單價較高,刪掉不需要的客套話與重複說明,通常是有效槓桿;但長系統提示或大量檢索資料也可能讓輸入成為主要成本。先看 usage 分布,再決定要縮輸入還是輸出。關於如何讓模型言簡意賅,可以搭配 Prompt 提示詞入門 的整理一起看。
第三條流:快取 token(cache)
OpenAI 與 Anthropic 都提供 prompt caching(提示詞快取)。當請求有足夠長、完全相同的固定前綴,例如系統提示、背景資料或 few-shot 範例,命中快取的部分可按較低費率計算。折扣、最低長度、有效期限與是否自動啟用都依模型而異,不能一律當成一折,細節見 Anthropic 官方文件的 Prompt Caching 說明。
快取有兩個狀態要分清楚:
- 快取寫入(cache write):部分供應商或模型會收取高於一般輸入的寫入費,另一些模型沒有額外寫入費。
- 快取讀取(cache read):命中部分通常採折扣價,實際比例請查對應模型定價;命中次數越多,越有機會攤平寫入成本。
如果應用會高頻重複送相同長前綴,例如客服機器人固定帶公司政策、程式助理重複帶專案規範,快取值得測試。若前綴常變、請求間隔超過有效期限,或長度未達門檻,命中率可能很低,甚至無法抵銷寫入成本。
容量限制:上下文視窗(context window)
上下文不是一條獨立計費流,而是容納輸入與輸出的「容器」。每個模型都有上下文上限,規格差異很大。塞得越滿,輸入量通常越大;部分模型在超過特定長度後採不同費率,但不是所有模型都如此。
下次看帳單時,可以問四個問題:輸入是否重複膨脹?輸出是否超過需求?固定前綴能否命中快取?請求是否逼近上下文上限?答案會指出下一步該優化哪裡。
長上下文不是免費的:塞爆它之前先想清楚
模型的上下文上限持續增加,卻不代表塞滿是免費的。應用程式每輪送出的內容通常都會計入輸入用量;有些模型還會對超過特定長度的請求採不同費率。上下文越長,至少會讓總 token 增加,是否連單價一起改變則要查該模型規則。
這就帶出一個架構取捨:參考大量資料時,要一次塞進上下文,還是用 RAG 只取相關片段?如果同一批資料會反覆查詢,而且每次只用其中一小部分,RAG 通常有機會減少輸入;但還要計入檢索、向量資料庫、排序與錯誤召回的成本。若資料量小且每次都要整份閱讀,直接放入上下文可能更簡單。上下文視窗是容量,不是免費倉庫。
一個真實的 token 成本試算:把四條流套進你的工作量
觀念講完了,我們來做一段示意性的試算,讓你親眼看到四條流怎麼變成錢。先聲明:下面的數字是示意用的概估值,目的是示範估算方法,實際單價與 token 數請以官方定價頁與你自己的實測為準。
假設有一個內容團隊,每個月要用 AI 產出 50 篇繁中長文。每一篇的流程是:帶一段 1500 顆 token 的系統提示(寫作風格、品牌規範)、帶 1000 顆 token 的背景大綱、要模型輸出約 2000 顆 token 的草稿。沒有開快取、每次都從零送的話,每篇文章要付 2500 顆輸入加上 2000 顆輸出,50 篇就是 12.5 萬顆輸入、10 萬顆輸出。
| 項目 | 未優化(每月) | 開快取+壓輸出後 | 省下幅度 |
|---|---|---|---|
| 系統提示(重複送) | 7.5 萬顆輸入 | 約 0.75 萬顆快取讀取 | 降約九成 |
| 背景大綱(每篇不同) | 5 萬顆輸入 | 5 萬顆輸入(無法快取) | 不變 |
| 草稿輸出 | 10 萬顆輸出 | 約 6 萬顆輸出(要求精簡) | 降約四成 |
| 模型選擇 | 全程用最貴模型 | 七成交給小模型 | 單價再砍一半 |
把這幾個動作疊起來,同一個工作量在優化前後的帳單可以差到一半以上。而你要付出的,只是改幾行程式碼、調幾句 prompt、把固定前綴排到前面開快取。這就是我說「token 成本是工程問題,不是玄學」的由來:只要你看得到四條流,每一條都有對應的扳手可以轉。
你以為只算到這裡:藏在帳單裡的隱形 token
讓帳單失控的,常是介面沒有完整呈現、但應用程式實際送進模型的內容。肉眼看見的使用者訊息不一定是全部輸入,以下四項最值得檢查。
地雷一:系統提示每一輪都在重複計費
在每輪自行重送完整訊息的 API 實作中,系統提示與保留的歷史會反覆計入輸入;若使用供應商提供的狀態管理,計費與上下文處理則要依該 API 規則確認。系統提示很長、對話輪數又多時,可先刪除重複指令、縮短保留歷史,並把符合條件的固定前綴交給提示詞快取。想做按需知識注入,可以參考 RAG 檢索增強生成,但是否更省仍要實測。
地雷二:MCP 與工具定義默默吃 token
如果你用 MCP(Model Context Protocol)或 function calling 接了許多工具,可用工具的名稱、說明與參數 schema 通常會成為模型輸入的一部分。工具越多、定義越長,固定開銷越大。想理解這層機制,可以先看 MCP 入門指南。可依任務提供必要工具,並從 API usage 驗證實際差異。
地雷三:Agent 每走一步,上下文就胖一圈
AI Agent 會自動跑多步驟任務。若每一步都保留並重送先前訊息與工具結果,輸入量會隨步數累積;但系統不一定會傳送模型的隱藏推理,也不能把成本一概說成指數增長。AI Agent 的運作原理決定了多步流程通常比單次問答多出呼叫與上下文成本,因此需要步數、上下文與預算限制。
我自己在設計 Agent 流程時,一定會先設三道煞車。第一道是步數上限:不管任務有沒有完成,跑滿固定步數就強制停下來回報,避免它在死胡同裡無限繞圈。第二道是中途摘要:每跑幾步,就把前面的過程壓成一段精華,用摘要取代逐字歷史,把上下文重新壓回合理大小。第三道是預算上限:給整個任務一個 token 預算或金額上限,超過就斷路。這三道煞車裡,步數上限最簡單、也最該第一個上線,因為它只需要一個計數器,卻能擋住絕大多數的失控場景。
地雷四:圖片與多模態是 token 大戶
把圖片丟給模型,並非「一張圖算一顆 token」。不同模型會依解析度、細節設定、影像尺寸或其他規則計算用量,不能用固定的幾百或幾千顆概括。若流程會反覆傳同一張圖,可依官方計費說明測試降解析度、裁切重點區域,並確認該模型是否支援影像快取。
五個能降低 Token 帳單的實作技巧
以下做法都能用 API usage 與實際帳單驗證。節省幅度取決於模型、提示結構、命中率與任務品質要求,不應先承諾固定比例。
技巧一:符合條件時使用 prompt caching
如果呼叫含有足夠長且完全相同的固定前綴,例如系統提示、輸出格式說明或 few-shot 範例,可以把靜態內容排在前面、動態內容放後面,再觀察快取命中率。OpenAI 對符合條件的近期模型可自動套用提示詞快取;最低前綴長度、保留時間與折扣依模型而異。Anthropic 也在 官方的 Prompt Caching 文件列出自己的寫入與讀取費率。低頻或前綴常變的應用未必划算。
技巧二:做模型路由,把簡單事交給便宜模型
不是每件事都需要最貴的模型。可以用模型路由(model routing)依任務難度、品質門檻與延遲需求分流,讓格式轉換、分類、欄位抽取等任務先由較小模型處理,複雜推理與困難除錯再升級。路由前要用自己的測試集檢查正確率,不能只看單價。想了解各家模型定位,可以從 Claude 介紹 與 Claude Cowork 的使用情境 入手。OpenAI 陣營也值得用同樣方式檢視,例如先看 OpenAI 的 GPT-5.6 的定位與計費方式,再決定哪些任務適合交給它。
技巧三:用結構化指令壓制輸出長度
若所用模型的輸出單價較高,管好模型回什麼會特別有效。可在指令裡明確要求「只回 JSON、不要解釋」、「最多三點,每點一句話」或「不要重述問題」。搭配結構化輸出(JSON schema、固定欄位),不只減少無用 token,後續程式也更好解析。可以搭配 文案寫作技巧 的思路一起練。
給你一個很常見的對比。假設你要模型幫一段產品介紹抓出三個賣點,沒有約束的版本常常會這樣回:「好的,我很樂意幫你整理。這段產品介紹其實寫得相當不錯,以下是我歸納的三個重點:第一……(後面還有一大段前言和結語)。」光這些客套話就燒掉幾十顆輸出 token,而輸出是最貴的那條流。有約束的版本只要在指令裡加一句「直接回三點,每點不超過二十字,不要任何開場白與解釋」,同樣的任務可能省下三分之二的輸出量。這個差距乘上每個月幾千次呼叫,就是一筆可觀的錢。把模型當成一個話很多、需要你明確設界線的助手,你的帳單會立刻安靜下來。
技巧四:批次處理取代逐筆呼叫
若每筆請求都重送固定內容,逐筆呼叫會累積相同的輸入成本。可評估合併請求,或使用供應商的非同步批次服務。依 OpenAI Batch API 官方文件,價格比同步 API 低 50%,並以 24 小時內完成為服務窗口,通常會更快。適合不要求即時回應、可接受批次失敗重試與結果對應處理的工作。
技巧五:主動管理上下文,該砍就砍
對話越長,上下文越肥,每一輪成本越高。有效的做法是:定期把前面的對話摘要壓縮成一段精華,取代逐字保留;或者把「已經用完的中間過程」直接從上下文移除。工具呼叫的歷史結果尤其肥,能用結論替代就別留全文。這個原則跟網站效能優化有異曲同工之妙:都是把不必要的負重砍掉,只留有用的東西在管線裡。
不同任務的 token 成本結構:寫文案、寫程式、跑 Agent 差在哪
同樣是「用 AI」,不同任務的成本結構天差地遠。看懂這張表,你才知道該把省錢力氣花在哪。
| 任務類型 | 輸入特徵 | 輸出特徵 | 成本破口 | 主要對策 |
|---|---|---|---|---|
| 內容撰寫 / 文案 | 中等(指令+背景資料) | 長(動輒上千字) | 輸出過長 | 先列大綱再分段、限字數 |
| 程式撰寫 / 修改 | 很大(整個專案脈絡) | 中長(程式碼加說明) | 上下文爆炸、重複送專案 | 用快取固定專案脈絡、精準注入相關檔 |
| Agent 多步任務 | 階梯式暴增(每步累積) | 中(思考加工具呼叫) | 步驟累積增加呼叫與上下文 | 限步數、中途摘要、動態換模型 |
| 分類 / 抽取 / 格式轉換 | 小到中 | 極短 | 用錯了貴模型 | 以測試集選擇足以達標的小模型 |
幾個重點觀察。內容產製若輸出占比高,可要求明確篇幅與格式,並在分段擴寫時移除無關上下文。程式任務通常需要較多檔案與規範,但不必把整個專案每次都送入;可選取相關檔案,並在固定前綴符合條件時觀察快取命中率,想深入可以看 Claude Code 的用法。Agent 任務有多次呼叫與工具結果,應設定步數上限、預算警告與停止條件。
若大量用 AI 處理繁中內容,應用實際語料建立 token 與品質基線,不能假設繁中一定是英文兩倍。把 AI 用在內容行銷上時,批次、快取與輸出約束的節省幅度,都應納入 內容行銷策略 的投資報酬評估。
訂閱制 vs API 計量:你到底該用哪一種付費方式
講到省錢,還要分清楚每月固定費用的聊天產品訂閱,和按用量計費的 API。兩者通常是不同產品與額度,訂閱費不會自動折抵 API 帳單,應依是否需要程式化、自動化與團隊治理來選。
聊天產品訂閱是固定月費搭配產品規定的使用上限,不等於無限制吃到飽。它的好處是支出相對可預測,適合個人做探索性、互動性任務,例如構思企劃、改寫文案與研究資料。使用上限、可用模型、尖峰限制與商業功能都依方案而異,也不能拿一般聊天訂閱直接當成產品後端 API。
API 計量通常是用多少算多少,可以接進產品、跑批次、用快取、做模型路由並設定用量警報。多數平台也提供 rate limit、專案預算或用量上限等治理工具,只是設定方式不同。它的代價是工程與監控成本,這張表可幫你快速判斷。
| 你的情境 | 建議的付費方式 | 理由 |
|---|---|---|
| 個人探索、寫作、研究,用量不固定 | 訂閱制 | 月費較可預測,但仍受產品使用上限約束 |
| 要把 AI 接進產品或網站 | API 計量 | 訂閱制無法程式化呼叫,正式產品只能走 API |
| 每月要批量處理幾百、幾千份資料 | API 計量+批次價 | 訂閱額度很快就會撞頂,批次 API 還有額外折扣 |
| 團隊多人共用,但需求差異大 | 混合:個人訂閱+共用 API | 讓重度客製化需求走 API,日常探索各自訂閱 |
常見做法是混合使用:日常構思、改稿與資料整理走聊天產品,正式產線與結構化處理走 API。前者提供互動介面與較可預測的月費,後者提供可程式化、可監控的控制能力。兩者可以互補,但資料政策、團隊權限與總成本仍要分開評估。
四個最常見的 token 迷思,一次拆穿
以下整理四個常見誤解,用對照表一次說清楚。
| 常見迷思 | 實際情況 |
|---|---|
| 「Token 就等於字數,數字會說話。」 | Token 可能是字、次詞、標點或位元組片段;不同模型切法不同。要比成本,得用各自模型的計數方式與費率估算。 |
| 「選最便宜的模型一定最省錢。」 | 便宜模型常需要更多輪、更長的 prompt 才能壓出可用結果,疊起來可能更貴。省錢的關鍵是「對的任務用對的模型」,不是一味壓低單價。 |
| 「快取是給大公司、大流量的,我用不到。」 | 還要看固定前綴是否達最低長度、能否精確命中、請求間隔與寫入費。低頻或前綴常變時未必省錢。 |
| 「Agent 跑越多步,代表它越聰明、越完整。」 | 每多一步,上下文就胖一圈,成本是階梯上升的。沒有上限的 Agent,往往是在燒錢跑圈圈,而不是真的在解決問題。 |
這幾個迷思的共同點,都是把 token 想得太簡單、或把模型想得太萬能。實務上,最會省錢的人往往不是最懂技術的人,而是最願意動手量、動手算的人。你不需要記住每一家模型的定價,你需要的是一套「量了再砍、砍了再量」的紀律。還有一個更深的誤解值得點破:很多人把省 token 當成摳門、當成犧牲品質來換成本。這個想法剛好相反。把系統提示精簡、把輸出結構化、把上下文管理好,這些動作往往同時提升了回應的品質,因為你給模型的指令更明確、雜訊更少。省錢與品質,在 token 這件事上幾乎是同一個方向,而不是蹺蹺板的兩端。
Token 效率與 SEO、GEO 的關係
Tokenization 是語言模型處理文字的一環,但網站內容用了多少 token,不是 Google 公布的排名因素,也沒有證據顯示較短的 token 序列會直接提高 AI 引用率。這一節只談寫作效率:清楚、精準的內容方便讀者理解,也較容易在有限上下文中被完整處理,不能把它包裝成新的搜尋規則。
為什麼是子詞,不是字元或整詞
要懂 token 的效率差異,得先回頭看當年為什麼選「子詞」當單位。兩個極端都不好用:用字元切太碎,失去語意;用整詞又收不全,遇到新詞、錯字、罕用字就直接掛掉。子詞是這兩端的折衷,也是一切 token 行為的源頭。
| 單位選擇 | 優點 | 致命缺點 |
|---|---|---|
| 字元(character) | 詞表極小、不會有未知字 | 序列太長、語意破碎、訓練成本高 |
| 整詞(word) | 語意完整、序列短 | 詞表無上限、無法處理新詞與錯字 |
| 子詞 / token | 詞表可控、能處理新詞、保留局部語意 | 切法不直覺、不同模型切法不同 |
這個折衷帶來一個你在實務上一定會踩到的特性:token 的邊界,跟你心裡的「字」「詞」邊界經常對不齊。你認為是完整意義的詞,可能被切成兩三顆 token;幾個你覺得該分開的字,卻可能黏成一顆 token。這個落差就是所有估算誤差的根源,也是為什麼光看字數抓成本永遠抓不準。
混中英文與符號時,token 會怎麼算
真實的中文內容很少是純中文,一段行銷文案常夾著英文品牌名、阿拉伯數字、百分比、emoji 與網址。這些內容如何切分完全依 tokenizer 而定,不能假設「2026」或「ROI」固定只算一顆 token。網址中的長查詢參數、程式碼與 emoji 也可能被切成多個片段,應直接用目標模型工具計數。
該用數字或原文專有名詞時就準確使用,不必為了全中文化而硬翻;理由是避免歧義,不是保證比較省 token。若某段提示成本偏高,可先刪除重複背景與不必要的長參數,再用計數工具驗證。想掌握精準表達,可以搭配 Prompt 提示詞入門 一起練。
用顏色視覺化找出浪費 token 的地方
部分 tokenizer 工具會用不同顏色標出 token 邊界,方便觀察英文、中文、網址、程式碼與 emoji 在指定模型下如何切分。顏色只代表該 tokenizer 的結果,不能拿一個工具的畫面推論其他模型。
在送 prompt 前,可以用視覺化工具找出異常長的片段,再測試刪除重複敘述、縮短長參數或對重複專有名詞使用定義清楚的簡稱。不要只為了讓顏色看起來整齊而換詞,語意與輸出品質仍優先於少量 token 差異。
Token 效率不是 Google 排名因素
沒有公開證據顯示「內容的 token 效率」是 Google 排名或 AI Overviews 引用因素。Google 對 AI 搜尋功能也沒有額外的特殊 Schema、文字檔或機器標記要求,仍以既有搜尋技術條件與對讀者有用的內容為基礎。精簡文字的價值在於減少讀者負擔,不是取得隱形分數。
資訊增量(Information Gain)可以提醒作者補上真正有用的新資料;結構化資料則用標準欄位描述頁面實體,前提是標記與可見內容一致。結構化資料的用途不是讓 token 切分更可預測,也不保證 AI 引用。若要研究 LLMO(大型語言模型優化),仍應把可索引、可靠來源、清楚結構與讀者價值放在前面。
把「對模型友善」翻譯成具體的寫作動作
觀念落到寫作,就是幾個簡單原則。「對人好讀」與「結構清楚」通常同方向,但不需要拿 token 當成搜尋排名理由。
- 一句話講一件事。長句塞太多子句,人讀得累,模型切 token 也容易把語意打散。把長句拆短,語意邊界變清楚,模型抓重點更準。
- 用清楚的標題與清單切段落。這等於在內容裡放地標,幫助模型在有限的視窗裡快速跳到關鍵段落,而不是把整頁從頭吞下去。
- 把關鍵資訊放在顯眼處。讀者通常會掃讀標題與段首,最重要的結論不要埋在冗長鋪陳中。不同模型如何利用長上下文不宜概括成固定的首尾優勢。
- 善用表格呈現對照資訊。表格讓「條件與結果」的對應關係一目了然,對人和模型都是高密度的資訊封裝。
想更全面理解 AI 搜尋,可以延伸讀 AI Overviews;想把被引用當成觀測目標,可從 讓品牌被 AI 點名的方法 入手。Token 主要仍是模型處理與 API 帳單上的計量概念,不要把它誤當成 SEO 分數。
不要用聊天介面的字數去推 API 成本
不要用聊天介面顯示的字數直接推算 API 成本。聊天產品與 API 是不同服務,介面的上下文管理、系統指令與用量上限通常不會完整公開,也不會直接出現在你的 API 發票。API 估價只應計入應用程式實際送出的輸入、工具資料,以及官方定義的輸出與推理用量。
估算 API 時,把應用程式會傳送的系統提示、保留的對話歷史、新輸入、工具定義與預估輸出放進對應模型的計數工具。若產品每輪重送舊訊息,對話越長,輸入通常越多,因此可設計摘要、截斷或按需取用;但要保留任務必要資訊,並測試摘要造成的資訊損失。這可搭配 RAG 檢索增強生成 的做法一起規劃。
從看不懂帳單到預算可控:我的 token 成本管理四步流程
觀念都講完了,這一節給你一套可以直接照著做的流程。這是我自己在用的、把 token 成本從「聽天由命」變成「可控預算」的四個步驟。
- 先量,再砍。別憑感覺優化。先把 API 的 usage 紀錄接出來,搞清楚你的錢到底花在輸入、輸出、還是快取。連問題在哪都不知道,就沒有資格談省錢。
- 標出固定前綴,評估是否適用快取。把每次呼叫都會重複送的系統提示、背景知識或範例排在前綴位置,再依模型門檻、重複率與快取費率測量實際效益。
- 建立模型路由規則。寫一份簡單的分流邏輯:哪些任務走最便宜的模型、哪些才升級。把貴模型的使用比例壓到三成以下,你的帳單會立刻有感。
- 設預算閘與警報。給每個專案設月度預算上限與超量通知,尤其是 Agent 類應用,務必限步數。事前斷路,永遠勝過事後補救。
這四步走完,你會發現「token 成本」從一個不可控的黑箱,變成一個可以調、可以預估、可以優化的工程問題。本質上來說省 token 跟做 SEO 是同一種心智:靠的都是把基本面(量測、結構、紀律)一件一件做好,長期累積下來的差距才會拉開;一兩個華麗的奇招,幫不了你太久。把這套流程跑順之後,你會得到一個比省錢更寶貴的東西,那就是對成本的「直覺」。下次看到任何一個新的 AI 應用構想,你腦中會自動浮現「這大概會怎麼計費、瓶頸在哪、值不值得做」的判斷。這種直覺,是用錢換不出來的,只能靠反覆量測與動手優化慢慢養成。
如果你正在把 AI 整進自己的工作流,這條路其實才剛開始。token 只是成本面,真正決定你能不能用 AI 做出有競爭力的產出的,是你怎麼把模型能力、自己的領域經驗、以及像 vibe coding 這種新工作模式串起來。成本可控之後,你才有餘裕把心力放回這些長期累積的東西上。
回到最一開始那張讓你發愣的帳單。希望現在你再看它,看到的已經是一張清楚標示了哪裡可以著力的地圖,那一團看不懂的數字早就退到背景裡去了。每一次你打開快取、每一次你把簡單任務交給小模型、每一次你要求模型少廢話兩句、每一次你給 Agent 加上一道步數上限,都是在把這張地圖上的紅點一個一個滅掉。token 不會消失,計費也不會消失,但失控的帳單可以。剩下來的,就是你把省下來的資源,投回真正能拉開差距的地方:你的判斷力、你的領域知識、你對使用者的理解。這些東西,才是任何模型都算不出來、也收不走的核心資產。
常見問題
為什麼同一個對話一直追問,帳單會越疊越高?
系統指令 System Prompt 到底該寫多少才不會浪費?
AI Agent 全天跑著,為什麼帳單會無感爆衝?
訂閱制與 API 制的選擇,有沒有明確的分界?
要怎麼在花錢之前,先算出一段中文文字的 token 數?
操作步驟
- 先量再砍:把 API 的 usage 紀錄接出來,搞清楚錢到底花在輸入、輸出、還是快取,連問題在哪都不知道就沒有資格談省錢。
- 標出固定前綴,評估快取效益:把每次呼叫都會重複送的那段(系統提示、背景知識、範例)排在前綴位置,再依模型門檻、重複率與快取費率測量實際效益。
- 建立模型路由規則:寫一份分流邏輯,哪些任務走最便宜的模型、哪些才升級,把貴模型使用比例壓到三成以下。
- 設預算閘與警報:給每個專案設月度預算上限與超量通知,Agent 類應用務必限步數,事前斷路勝過事後補救。