Token工廠

sec2100

「Token工廠」（詞元工廠／AI工廠）是由輝達（NVIDIA）執行長黃仁勳提出的概念。它將傳統儲存與計算為主的「資料中心」重新定義為生產AI最小語義單位（Token / 符元）的「生產流水線」。此概念象徵AI產業正式進入「推論經濟」與量產時代。核心概念：資料中心轉型產品的轉變：過去資料中心產出的是數位儲存空間或傳統運算結果；現在的AI工廠則是將海量資料轉化為具有商業價值的 Token。計量單位：AI理解和生成資訊的基本單位稱為 Token（例如一段文字、程式碼片段或像素區塊）。AI的回覆就是一個一個吐出Token的過程。商業與技術指標能效比（每瓦Token產出）：衡量AI工廠價值的核心標準不再只是硬體規模，而是每消耗一度電能生產多少高品質的Token。單位成本：AI的底層是能源與算力，誰的Token生產成本越低，誰就能在AI時代掌握定價話語權。

sec2100

Token 有多種含義，取決於討論的是人工智慧 (AI)、區塊鏈 (加密貨幣) 還是資訊安全。1. 人工智慧 (AI) 與自然語言處理 (NLP)在 ChatGPT、Gemini 等生成式 AI 中，Token（常譯為「詞元」或「符元」）是 AI 處理文字時的基本單位。它是什麼： AI 無法直接理解完整的句子，必須先透過「分詞器 (Tokenizer)」將文字切碎成字根、單字、中文字或標點符號，這些碎片就是 Token。長度換算： 1 個 Token 約等於 0.75 個英文單字（或 4 個英文字元）；在中文裡，1 個 Token 通常只能對應 0.5 到 1 個中文字。為什麼重要：記憶限制： AI 模型的「記憶容量」不是用字數計算，而是用 Token 上限（例如支援 128k Token）。計算費用： 輸入的字（Input Token）和 AI 回覆的字（Output Token）都會消耗 Token，而 API 服務通常就是依此計費。