AI Token 計算工具:估算文字用量
貼上任意文字,檢視它可能會變成多少個令牌、它是否適合給定的上下文視窗,以及按照您自己的 API 費率計算的成本。一切都在您的瀏覽器中執行 - 文字永遠不會上傳。
它適合上下文視窗嗎?
| 上下文視窗 | 您的文字 | 適合嗎? |
|---|
上下文視窗在您的輸入、模型的回復以及應用程式在幕後新增的任何內容(系統提示詞、檢索的檔案、聊天歷史記錄)之間共用。留出空間-將視窗填滿,這樣你就能得到被截斷的答案。
費用是多少?
輸入成本需要您在上面貼上的文字 - 貼上一些內容來定價。
這個估計是如何運作的(以及為什麼它不準確)
真正的標記化在您的文字上執行特定於模型的 BPE 詞彙表 - 每個模型系列都使用不同的詞彙表,因此每個模型的「真實」計數有所不同。在瀏覽器中正確執行此操作意味著為每個系列傳送數兆位元組的詞彙表,這將使該頁面對於您只需要大約的數字而言變慢。
相反,它使用基於字元和單字的估計器,對空格、標點符號和數字進行加權,對於普通英語散文來說大約在 10-15% 範圍內。兩個已知的偏差:程式碼和大量標點符號的文字標記化比估計的更密集,以及非拉丁指令碼(中文、日語、阿拉伯語、印地語)每個字元使用的標記比英語每個字元的 2-3 倍。
如果您需要計費的準確性,請使用提供者自己的標記產生器端點。對於“這是否合適”和“大約需要花費多少”,估算是正確的工具。
Token到底是什麼
模型不讀取字元或單字-它們讀取令牌,它們是介於兩者之間的區塊。常用詞通常是一個token;較長或不尋常的單字分成幾個。 「難以置信」可能是三個標記,「該」是一個。在英語散文中,一個標記平均約四個字元,或大約 3/4 個單字。
一切都以Token定價並受到限制:您傳送的內容、返回的內容以及模型一次可以容納的數量。
為什麼你的文字比你想像的更密集
- Code 標記化很糟糕-縮排、括號和駝峰命名法都是成本標記。 500 行的檔案可能遠遠超出其字元數所建議的範圍。
- 非英文文字 價格昂貴。不使用拉丁字母的語言通常每個字元花費 2-3 倍的標記,這就是為什麼相同的提示詞在日語中的花費比英語高幾倍。
- 重複很便宜,結構則不然。 JSON 和 Markdown 腳手架在許多呼叫中快速增加。
上下文視窗 ≠ 您的預算
百萬Token視窗並不意味著您應該傳送一百萬Token。在很長的輸入中間,注意力品質會下降,延遲會增加,並且成本會線性增加。檢索——只提取相關的段落——通常比塞滿視窗好,而且更便宜。
常見問題解答
此計數器的準確度如何?
對於普通英語散文來說大約在 10-15% 之內。程式碼和非拉丁文字的偏差高於估計值。要獲得準確的帳單數字,請使用提供者的標記器。
我的文字上傳到任何地方了嗎?
否。計算在您的瀏覽器中執行。沒有請求,沒有日誌記錄,沒有儲存。
為什麼不顯示型號價格?
因為它們會改變,並且自信地顯示陳舊的價格比沒有價格更糟。輸入您的提供者的當前費率,該工具就會進行算術運算。
影像和音訊是否使用令牌?
是的 - 多模式輸入也會轉換為令牌,轉換率因提供者和解析度而異。該工具僅涵蓋文字。