Trọng số mở vs API đóng

"Mở" là một dải phổ, không phải công tắc. Thứ làm nên cảnh AI cục bản không phải triết lý — mà là việc tồn tại những trọng số được cấp phép tự do, nhờ đó engine, công cụ lượng hóa và UI có thứ để hướng tới. Nắm các bậc trước khi xây bất cứ gì trên nền một mô hình.

Dải phổ

Các họ trôi qua các bậc theo thời gian — một phiên bản phát hành tự do, phiên bản kế lại có trần — nên kiểm tra theo từng mô hình, không theo thương hiệu. Tên bậc ở đây mô tả giấy phép, không phải chất lượng: các bản Llama và Gemma có trần thường xuyên xếp trên các bản tự do trên benchmark.

Trọng số không phải dữ liệu, cũng không phải mã

• Trọng số mở: bạn nhận các tham số và tokenizer. Bạn có thể chạy, lượng hóa, tinh chỉnh và phân phối lại chúng (trong khuôn khổ giấy phép).
• Mã nguồn mở, hiểu nghiêm ngặt: trọng số + dữ liệu huấn luyện + mã huấn luyện. Hiếm — OLMo là nỗ lực kỳ hạm; gần như mọi thứ khác chỉ là trọng số mở.
• Khác biệt thực tế: mô hình trọng số mở không thể tái tạo hay kiểm toán trọn vẹn; bạn tin lời mô tả của bên phát hành. Để chạy mô hình cục bộ, trọng số là tất cả những gì bạn cần.
• Dữ liệu và mã huấn luyện, khi được công bố, nằm trong repo riêng (datasets, GitHub). Riêng trọng số không bao giờ nói cho bạn mô hình được tạo ra thế nào.
• Về lòng tin, tự do ≠ đã kiểm toán: giấy phép Apache chẳng nói gì về nguồn gốc dữ liệu cả. Nó nói điều bạn được làm, không phải điều đã được làm.

Vì sao cảnh cục bản chạy trên các bậc tự do

Mọi công cụ trong cẩm nang này — llama.cpp với các bản lượng hóa GGUF, UI desktop, các server cục bản tương thích OpenAI — lớn lên quanh trọng số tải-về-được, cất cánh cùng thế hệ 7B mở thực sự dùng được đầu tiên năm 2023. Giấy phép có trần vẫn cho phép dùng cục bộ, đó là lý do các mô hình họ Llama bão hòa hệ sinh thái dù không phải mã nguồn mở theo nghĩa hẹp. Các họ tự do nhận được công cụ sâu nhất đơn giản vì không ai phải đọc điều khoản trước.

Những điểm phải soi trước khi dùng thương mại

• Trần người dùng: giấy phép cộng đồng Llama chuyển sang một thỏa thuận thương mại riêng trên 700 triệu người dùng hoạt động hằng tháng. Không liên quan dưới mức đó, nhưng hãy biết nó tồn tại.
• Chính sách sử dụng chấp nhận được: Llama và Gemma kèm chính sách sử dụng ràng buộc người được cấp phép — các nhóm sử dụng bị hạn chế áp dụng ngay cả dưới các trần.
• Đặt tên và thương hiệu: các ghi chú như "Built with Llama" và yêu cầu ghi công Gemma là nghĩa vụ giấy phép, không phải lời gợi ý.
• Điều khoản khu vực và tổ chức: một số giấy phép loại trừ vùng tài phán cụ thể hoặc các tổ chức bị trừng phạt; kiểm soát xuất khẩu thông thường chồng lên trên.
• Bản lượng hóa mirror thừa hưởng giấy phép gốc: một GGUF cộng đồng của mô hình Gemma mang điều khoản Gemma. Hãy đọc giấy phép của mô hình gốc, không chỉ repo bạn tải về.

Kiểm tra giấy phép trong 30 giây

1. Mở tệp LICENSE của repo mô hình — không phải phần tóm tắt trong README, mà toàn văn giấy phép.
2. Nếu repo là bản lượng hóa/biến thể, bấm xuyên qua tới mô hình gốc mà nó lượng hóa từ đó và đọc giấy phép kia thay thế.
3. Tìm trong văn bản: "monthly active users", "revenue", "acceptable use", "attribution", "jurisdiction".
4. Chỉ quyết định sau bước 3 — đa số các trần chẳng bao giờ ảnh hưởng sản phẩm nhỏ, nhưng bạn nên biết chúng ở đó.

Giải phẫu tên repo Hugging Face

Qwen/Qwen2.5-14B-Instruct
 │      │         │   └─ giai đoạn/biến thể: instruct, chat, base, coder, vl, ...
 │      │         └─ cỡ: số tham số
 │      └─ họ + phiên bản
 └─ tổ chức

community/Qwen2.5-14B-Instruct-GGUF
 └─ repo của bên lượng hóa: cùng trọng số, định dạng đóng gói lại

filename: qwen2.5-14b-instruct-q4_k_m.gguf
           họ        cỡ    giai đoạn  nhãn lượng hóa

Thứ tự đọc: tổ-chức / họ-phiên-bản-cỡ-giai-đoạn. Repo gốc giữ safetensors; các bên lượng hóa cộng đồng công bố GGUF và các biến thể khác — trọng số thuộc về bên phát hành, và giấy phép đi theo chúng (định dạng mô hình).

Đánh giá repo ngoài thực tế:

• Tổ chức chính chủ công bố bản gốc; một nhóm nhỏ bên lượng hóa cộng đồng nổi tiếng tái xuất biến thể GGUF/AWQ của mọi thứ; các mirror lạ không thêm giá trị và thi thoảng gây bất ngờ.
• Số lượt tải và ngày cập nhật cuối là chỉ số sức khỏe khá — một bản lượng hóa bỏ mặc của mô hình cũ hai thế hệ thường là ngõ cụt.
• Khi hai repo cùng nhận là một mô hình, chọn cái được liên kết từ trang mô hình gốc.

Thái độ thực dụng

• Sở thích và dùng cục bộ: gần như giấy phép trọng số mở nào cũng ổn — bạn đang chạy mô hình, không phân phối lại nó.
• Phát hành sản phẩm: các họ Apache/MIT tiết kiệm thời gian luật sư; giấy phép có trần thường ổn dưới trần, nhưng hãy đọc chính sách sử dụng một lần.
• API đóng: chất lượng hạng đỉnh thô tốt nhất, không kiểm soát cục bộ, tính giá theo token. Mô hình lai phổ biến: mô hình cục bộ cho sản lượng, riêng tư và độ trễ; API cho 5% khó.
• Phân phối lại trọng số khác với chạy chúng: đóng gói một GGUF vào sản phẩm của bạn là phân phối — kiểm tra điều khoản trước.
• Một số giấy phép gắn điều kiện với đầu ra mô hình hoặc sản phẩm phái sinh tinh chỉnh; không giấy phép nào (tính đến nay) đòi prompt của bạn, nhưng hãy đọc trước khi bán nội dung tạo ra ở quy mô lớn.

Trọng số cục bộ vs API, đặt cạnh nhau

Khi cục bộ thắng: yêu cầu riêng tư, dùng ngoại tuyến, khối lượng token khổng lồ, UX nhạy cảm độ trễ, khả năng tái lập (ghim đúng trọng số). Khi API thắng: 5% tác vụ khó nhất, không cần cài đặt, quy mô co giãn. Đa số thiết lập nghiêm túc kết thúc ở mô hình lai.

Cách chọn cụ thể: chọn mô hình. Mỗi họ mang lại gì: các họ mô hình.

Liên quan: các họ mô hình · chọn mô hình · định dạng mô hình · engine