台灣大語言芻議：智慧原子彈 — DeepSeek R1 與開放權重 (Open-weights) AI 模型

最近的熱門話題是 DeepSeek。可以先參考 Ben Thompson 的 DeepSeek FAQ。感謝 Jimmy Su 弄了一個繁體中文好讀版。

先講事實：

DeepSeek R1 是 MIT License，你自己下載跑起來，自己改，要怎麼用都可以
世界級的公司都對 DeepSeek R1 狂熱
Perplexity 已經自己整合。提供給用戶
Hugging Face 要弄 Open R1
Microsoft: DeepSeek R1 is now available on Azure AI Foundry and GitHub
AWS: DeepSeek-R1 models now available on AWS
（族繁不及列舉）

次要問題，很重要，但是不要拿來模糊焦點：

刻印在 DeepSeek R1 腦袋裡的中國意識
訓練資料集的合法性

完全不重要：

單次/總訓練成本多少（你有 USD$5M 可以拿來訓練模型嗎？請投資我。）
用什麼顯卡訓練，有沒有誇大（同上。）
訓練技術的領先程度，可不可靠（懂的人都覺得可靠。你從零開始訓練過幾個超過 32B 的大模型嗎？我一個都沒有。）
Benchmark 分數有沒有誇大（體感上它就接近 o1。你跟人講話時，會先問對方智力測驗幾分嗎？）

對我來說，什麼才重要？

簡單來說，DeepSeek R1 是第一個以 MIT 授權開放權重(open-weights)1，且推理能力可與 OpenAI o1 相媲美的模型。更棒的是，他們在論文中詳細記錄了訓練過程，讓任何人都能了解其運作方式。

如果你平時關注 AI 模型，應該聽過這些採用 MIT 授權的模型：

Databricks 的 Dolly (12B)
Nous Research 的 OpenHermes (13B)
Microsoft 的 Phi (14B)

DeepSeek R1 則提供了完整的模型組合，包括 1.5B、7B、8B、14B、32B、70B 和 671B。想了解更多細節，可以直接閱讀他們的論文。

什麼是 OpenAI o1 模型？

OpenAI o1 是一款強化推理能力的 AI 模型，具備「思維鏈」（Chain of Thought）推理能力，能在回答前進行多步內部推理，以提升準確性。在數學、科學和程式設計領域表現卓越，例如在數學奧林匹亞模擬測試中，正確率達 83%（遠超 GPT-4o 的 13%），並在 Codeforces 競賽中名列全球前 5,000 名，超越 16 萬名真人開發者。

雖然 OpenAI o1 在特定領域的智力已超越人類，但仍缺乏意識、情感和主觀經驗，無法與人類智慧全面相比。

（由 ChatGPT-4o + Search 整理）

DeepSeek R1 的表現：

DeepSeek R1 的目標之一是達到或超越 OpenAI o1-1217 的性能，從結果來看，在某些任務上確實做到了。

DeepSeek R1 在數理能力（AIME 2024、MATH-500）略勝，程式撰寫能力（Codeforces、SWE-bench Verified）持平，知識（MMLU、GPQA Diamond、SimpleQA）則是 OpenAI o1 明顯較強。
DeepSeek-R1-Distill-Qwen-32B 在多項測試中表現接近 OpenAI o1-mini 的水準。
DeepSeek-R1-Zero 則首次公開證明，可以純粹透過強化學習（RL）而不依賴監督式微調（SFT），來提升語言模型的推理能力。該模型自然形成了多種強大的推理行為。

我實際測試了 OpenAI o1 和 DeepSeek R1 這兩個 AI 模型。根據研究報告，這些工具在解決數學問題和寫程式時，表現得跟博士生差不多厲害。講白點，它們比你現在能找到的初級工程師還要強。

重點是，現在只要一台 Mac Studio 或 MacBook Pro 就能跑 DeepSeek R1。它不用休息，不會喊累，只要電腦夠力就能一直工作。換句話說，你現在就可以在自己電腦上執行一個「智慧體」，讓它幫你工作。

提示詞（prompt）寫得好，AI 就會給你好結果。關鍵在於發揮創意，想出各種可能的應用場景。

什麼是智慧？

我的看法很簡單：智慧就是把理性判斷、感受、道德和經驗整合起來做決定的能力。

最近測試 OpenAI o1、Claude Sonnet 3.5、Gemini 2.0 和 DeepSeek R1 時，發現這些 AI 真的展現出了類似的特質。它們不只會處理數據，還能在複雜情況下做出合理判斷。有時候產出的結果，連我都想不到。

這對台灣來說，代表什麼？

簡單講，這就是一顆原子彈，是台灣幾十年難得一見的戰略機會。

為什麼這麼說？

如上所述，這是第一個完全開放權重、效能達到 OpenAI o1 水準的模型。在 AI 領域，就像是有人把原子彈的完整設計圖和製造方法公開了。而且還用 MIT License，你想怎麼用就怎麼用。
台灣過去訓練了一些大模型（Taiwan LLM、TAIDE、Breeze），讓一些團隊有了訓練經驗。但這些模型只解決了台灣繁體中文和文化的問題，結果反而把模型變笨了。根據我最近的觀察，模型的智慧要從 70B 才開始展現。
現在正是各大企業還沒完全布局的空窗期。如果你的公司能在這個月拿出一筆錢來做 fine-tuning，就有機會搶先一步。這種機會以後可能不會再有了。

很多人在擔心「中國意識」的問題，但這其實最好解決。我們完全可以重塑模型的價值觀。

有興趣的話，歡迎聯繫我談合作。這個黃金期過了，機會就不再了。

（2025/2/5 更新）

將「開源」改成「開放權重」，避免歧義。

開放權重（open weights）：通常指的是機器學習或深度學習模型中的參數（即權重）被公開、免費地提供給社群使用和研究。具體來說，這意味著模型的權重數據（也就是經過訓練後的參數設定）沒有被保密，允許其他研究者、開發者或企業進行檢查、改進、再訓練或部署，從而促進技術的透明度和創新。

（2025/2/5 更新）

接著閱讀