localaiforum
登录
指南 › 基础知识

开放权重与闭源 API

“开放”是一个光谱，不是开关。让本地 AI 生态成为可能的不是哲学——是宽松许可的权重确实存在，于是引擎、量化器和 UI 有了可以瞄准的对象。在基于任何模型构建之前，先弄清各层级。

光谱

层级 许可证 权重 本地运行 商用 例子
宽松 Apache-2.0、MIT 可下载 是 是，基本无条件 多数 Qwen、OLMo、Mistral 7B、Mixtral、Phi
社区限封顶 Llama Community License、Gemma Terms 可下载 是 是，直到上限（Llama：7 亿月活） Llama 3/4、Gemma 2/3
受限开放权重 定制协议 可下载 是 逐案评估 某些实验室的“研究”发布
闭源 专有 否 否——仅 API 按合同 OpenAI、Anthropic、Google 前沿模型

家族会随时间在各层级间漂移——这一版宽松、下一版封顶——所以按模型检查，而不是按品牌。这里的层级名称描述许可证，不描述质量：封顶的 Llama 和 Gemma 发布在基准上经常排名高于宽松的。

权重不是数据也不是代码

  • 开放权重：你拿到参数和分词器。你可以（在许可范围内）运行、量化、微调、再分发。
  • 严格意义的开源：权重 + 训练数据 + 训练代码。罕见——OLMo 是旗舰尝试；其余几乎全部只是开放权重。
  • 实际差别：开放权重模型无法被复现或完全审计；你信任发布者的描述。对于本地运行模型，权重就是你所需要的一切。
  • 训练数据和代码在发布时住在单独的仓库（数据集、GitHub）。光有权重永远不会告诉你模型是怎么造出来的。
  • 关于信任：宽松 ≠ 经过审计。Apache 许可证同样不说明数据来源。它说明你可以做什么，不说明做了什么。

为什么本地生态跑在宽松层级上

本指南中的每个工具——llama.cpp 及其 GGUF 量化、桌面 UI、OpenAI 兼容的本地服务器——都围着可下载的权重生长，并在 2023 年第一批真正可用的开源 7B 世代出现后起飞。封顶许可证仍然允许本地使用，这就是 Llama 家族饱和生态的原因，尽管严格说它不是开源的。宽松家族得到最深的工具支持，仅仅因为没人需要先读条款。

商用前要检查的坑

  • 用户上限：Llama 社区许可证在 7 亿月活以上翻转为单独的商业协议。低于此线无关紧要，但要知道它存在。
  • 可接受使用政策：Llama 和 Gemma 附带约束被许可方的使用政策——受限使用类别在封顶之下也适用。
  • 命名与品牌：诸如 "Built with Llama" 的声明和 Gemma 署名要求是许可证义务，不是建议。
  • 地区与实体条款：某些许可证排除特定司法辖区或受制裁实体；常规出口管制叠加其上。
  • 量化镜像继承基座许可证：社区 GGUF 版 Gemma 模型带着 Gemma 条款。读基座模型的许可证，而不只是你下载的那个仓库。

30 秒检查一个许可证

  1. 打开模型仓库的 LICENSE 文件——不是 README 摘要，是许可证原文。
  2. 如果仓库是量化/变体，点进它量化的基座模型，改读那份许可证。
  3. 在文本里搜索："monthly active users"、"revenue"、"acceptable use"、"attribution"、"jurisdiction"。
  4. 第 3 步之后再做决定——多数上限对小型产品永远无关紧要，但你应该知道它们在那里。

Hugging Face 仓库名解剖

Qwen/Qwen2.5-14B-Instruct
 │      │         │   └─ 阶段/变体：instruct、chat、base、coder、vl、……
 │      │         └─ 尺寸：参数量
 │      └─ 家族 + 版本
 └─ 组织

community/Qwen2.5-14B-Instruct-GGUF
 └─ 量化者的仓库：同样权重、重新打包的格式

filename: qwen2.5-14b-instruct-q4_k_m.gguf
           family      size  stage  quant tag

阅读顺序：组织 / 家族-版本-尺寸-阶段。原始仓库放 safetensors；社区量化者发布 GGUF 和其他变体——权重属于发布者，许可证随之旅行（模型格式）。

野外判断仓库：

  • 一方组织发布原版；少数知名社区量化者把所有东西重新发布为 GGUF/AWQ 变体；无名镜像不加分、偶尔有惊吓。
  • 下载量和最后更新日期是不错的健康代理——两代之前的模型的陈旧量化通常是死胡同。
  • 当两个仓库声称是同一模型时，选基座模型页面链接的那个。

实用立场

  • 爱好和本地使用：几乎任何开放权重许可证都行——你是在运行模型，不是再分发。
  • 发布产品：Apache/MIT 家族省律师时间；封顶许可证在低于上限时通常没问题，但把使用政策读一遍。
  • 闭源 API：最好的原始前沿质量、零本地控制、按词元定价。常见混合：本地模型承担量、隐私和延迟；API 处理最难的 5%。
  • 再分发权重与运行不同：在你的产品里内置 GGUF 就是分发——先查条款。
  • 有些许可证对模型输出或微调衍生品附加条件；截至本文写作没有哪家宣称拥有你的提示词，但大规模出售生成内容前先读。

本地权重 vs API，并排看

维度 本地开放权重 闭源 API
隐私 一切留在你的机器上 提示词离开机器，按提供商政策
规模化成本 硬件一次，之后免费 随词元线性，永远
小规模成本 前期高 几分钱
延迟 无网络；TTFT 可低于一秒 每请求网络 + 排队
前沿质量 落后一步，正在追赶 参考基准点
控制权 量化、微调、合并、锁定版本 无——模型在你脚下被替换
可靠性 你的 GPU 就是你的上限 提供商在线率和速率限制
知识截止 印在发布卡上 提供商悄悄更新模型
模型寿命 永远是你的——文件无法被吊销 先宣布弃用，然后强制执行

本地胜出的场景：隐私要求、离线使用、海量词元、延迟敏感的 UX、可复现性（锁定确切权重）。API 胜出的场景：最难的 5% 任务、零设置、弹性伸缩。多数严肃的部署最终是混合。

具体怎么选：选择模型。每个家族带来什么：模型家族。

相关： 模型家族 · 选择模型 · 模型格式 · 推理引擎