localaiforum
登入
指南 › 基礎概念

開放權重 vs 封閉 API

「開放」是一條光譜，不是開關。讓本機 AI 生態成為可能的不是哲學——而是存在著寬鬆授權的權重，引擎、量化器與 UI 才有目標可以支援。在你把任何東西蓋在模型上之前，先搞懂這些層級。

授權光譜

層級 授權 權重 可本機執行 商用 例子
寬鬆 Apache-2.0、MIT 可下載 可以 可以，幾乎無條件 大多數 Qwen、OLMo、Mistral 7B、Mixtral、Phi
社群、有上限 Llama Community License、Gemma 條款 可下載 可以 可以，直到上限（Llama：7 億 MAU） Llama 3/4、Gemma 2/3
有限制的開放權重 專屬協議 可下載 可以 逐案認定 某些實驗室的「研究」發布
封閉 專有 無 否——僅 API 依合約 OpenAI、Anthropic、Google 前緣模型

家族會隨時間跨層漂移——這一版寬鬆、下一版有上限——所以要逐模型確認，而不是看品牌。這裡的層級名稱描述的是授權，不是品質：有上限的 Llama 與 Gemma 在基準測試上經常勝過寬鬆授權的模型。

權重不是資料，也不是程式碼

  • 開放權重：你拿到參數與分詞器。你可以執行、量化、微調、重新散布（在授權範圍內）。
  • 嚴格定義的開源：權重＋訓練資料＋訓練程式碼。很罕見——OLMo 是旗艦級的努力；其他幾乎都只是開放權重。
  • 實際差異：開放權重模型無法被重現或完整稽核；你只能信任發布者的描述。要在本機跑模型，有權重就夠了。
  • 訓練資料與程式碼若發布，會放在另外的存放庫（資料集、GitHub）。只有權重永遠無法告訴你模型是怎麼做出來的。
  • 講到信任，寬鬆≠已稽核：Apache 授權對資料來源也隻字未提。它說的是你可以做什麼，不是做過什麼。

為什麼本機生態跑在寬鬆層級上

本指南裡的每個工具——llama.cpp 與其 GGUF 量化版、桌面 UI、OpenAI 相容的本機伺服器——都是圍繞可下載權重長出來的，並隨 2023 年第一代真正可用的開源 7B 騰飛起來。有上限的授權仍允許本機使用，這就是 Llama 家族明明不是嚴格意義的開源、卻塞滿整個生態的原因。寬鬆家族獲得最深的工具支援，只因為沒有人得先讀條款。

商用前要檢查的陷阱

  • 使用者上限：Llama 社群授權在每月活躍使用者超過 7 億時改採另外的商業協議。低於此無關緊要，但要知道它存在。
  • 可接受使用政策：Llama 與 Gemma 附有約束被授權人的使用政策——即使低於上限，受限使用類別仍然適用。
  • 命名與品牌標示：「Built with Llama」標語與 Gemma 的出處標示要求是授權義務，不是建議。
  • 地區與主體條款：某些授權排除特定司法管轄區或受制裁主體；一般出口管制再疊在上面。
  • 量化鏡像會繼承基底授權：Gemma 模型的社群 GGUF 帶著 Gemma 條款。要讀基底模型的授權，而不只是你下載的那個存放庫。

三十秒查完一個授權

  1. 打開模型存放庫的 LICENSE 檔——不是 README 摘要，是授權本文。
  2. 如果存放庫是量化版／變體，點回它量化的來源基底模型，改讀那份授權。
  3. 在文中搜尋：「monthly active users」、「revenue」、「acceptable use」、「attribution」、「jurisdiction」。
  4. 做完第 3 步再決定——多數上限對小型產品永遠不會生效，但你應該知道它們存在。

Hugging Face 存放庫名稱解剖

Qwen/Qwen2.5-14B-Instruct
 │      │         │   └─ 階段／變體：instruct、chat、base、coder、vl……
 │      │         └─ 規模：參數量
 │      └─ 家族＋版本
 └─ 組織

community/Qwen2.5-14B-Instruct-GGUF
 └─ 量化者的存放庫：同樣的權重，重新包裝的格式

filename: qwen2.5-14b-instruct-q4_k_m.gguf
           家族        規模  階段  量化標籤

閱讀順序：組織／家族-版本-規模-階段。原始存放庫放 safetensors；社群量化者發布 GGUF 與其他變體——權重屬於原發布者，授權也跟著走（模型格式）。

如何判斷野外存放庫的好壞：

  • 第一方組織發布原版；少數知名社群量化者會把所有東西重發 GGUF／AWQ 變體；不明鏡像不加分、偶爾還帶驚嚇。
  • 下載次數與最後更新日期是不錯的健康指標——兩代前模型的陳年量化版通常是死路。
  • 當兩個存放庫宣稱是同一個模型時，選基底模型頁面連結的那個。

實務立場

  • 嗜好與本機使用：幾乎任何開放權重授權都行——你是在跑模型，不是在散布它。
  • 出貨產品：Apache／MIT 家族省律師費；有上限的授權在低於上限時通常沒事，但使用政策至少讀一次。
  • 封閉 API：最好的原始前緣品質、零本機控制、按 token 計價。常見混合策略：本機模型處理量大、隱私與延遲需求；API 處理最難的 5%。
  • 散布權重與執行權重是兩回事：把 GGUF 包進你的產品出貨就是散布——先查條款。
  • 有些授權對模型輸出或微調衍生品附加條件；（就目前所知）沒有授權主張你的提示詞，但大規模販售生成內容前先讀過。

本機權重 vs API 併排比較

面向 本機開放權重 封閉 API
隱私 一切留在你的機器上 提示詞會送出去，依供應商政策
大量使用的成本 硬體一次買斷，之後免費 隨 token 線性增加，永遠
小量使用的成本 前期投入高 幾毛錢
延遲 不經網路；TTFT 可低於一秒 每個請求都有網路＋佇列
前緣品質 差一步，正在追上 基準點
控制權 量化、微調、合併、釘住版本 無——模型會在你腳下抽換
可靠性 你的 GPU 就是上限 供應商正常運轉時間與速率限制
知識截止日 明載於發布卡 供應商默默更新模型
模型壽命 永遠是你的——檔案無法被回收 先宣布汰除，再強制失效

本機勝出的場合：隱私要求、離線使用、極大 token 量、延遲敏感的 UX、可重現性（釘住確切權重）。API 勝出的場合：最難的 5% 任務、零設定、彈性規模。多數認真的環境最後都是混合。

具體怎麼選：如何選模型。各家族的強項：模型家族。

相關章節： 模型家族 · 如何選模型 · 模型格式 · 推論引擎