Открытые веса против закрытых API

«Открытость» — это спектр, а не переключатель. Локальная AI-сцена возможна не благодаря философии — а благодаря тому, что существуют веса с пермиссивными лицензиями, так что движкам, квантизаторам и UI есть во что целиться. Изучите уровни, прежде чем строить что-либо поверх модели.

Спектр

Семейства дрейфуют по уровням со временем — один релиз пермиссивный, следующий с потолком, — поэтому проверяйте по модели, а не по бренду. Названия уровней здесь описывают лицензию, а не качество: релизы Llama и Gemma с потолками регулярно обгоняют пермиссивные в бенчмарках.

Веса — не данные — не код

• Открытые веса: вы получаете параметры и токенизатор. Вы можете их запускать, квантовать, дообучать и распространять (в рамках лицензии).
• Открытый исходный код, строго говоря: веса + обучающие данные + код обучения. Редко — OLMo флагманский проект; почти всё остальное — только открытые веса.
• Практическая разница: модели с открытыми весами нельзя воспроизвести или полностью аудитировать; вы доверяете описанию издателя. Для локального запуска нужны только веса.
• Обучающие данные и код, когда публикуются, живут в отдельных репозиториях (датасеты, GitHub). Одни веса никогда не скажут, как модель была сделана.
• Для доверия: пермиссивная ≠ аудитированная. Лицензия Apache ничего не говорит и о происхождении данных. Она говорит, что вы можете делать, а не что было сделано.

Почему локальная сцена живёт на пермиссивных уровнях

Каждый инструмент в этом руководстве — llama.cpp и его GGUF-кванты, десктопные UI, локальные серверы, совместимые с OpenAI, — вырос вокруг скачиваемых весов, взлетев с первым действительно пригодным поколением открытых 7B в 2023-м. Лицензии с потолками всё равно разрешают локальное использование — вот почему модели семейства Llama насыщают экосистему, не будучи открытым исходным кодом в строгом смысле. Пермиссивные семейства получили глубочайшую обвязку просто потому, что никому не нужно сначала читать условия.

Подводные камни перед коммерческим использованием

• Лимиты пользователей: комьюнити-лицензия Llama переключается на отдельное коммерческое соглашение выше 700M месячных активных пользователей. Ниже — неактуально, но знайте, что он существует.
• Политики допустимого использования: Llama и Gemma поставляют политики использования, обязательные для лицензиатов — категории ограниченного применения действуют даже ниже потолков.
• Именование и брендинг: уведомления вроде «Built with Llama» и требования атрибуции Gemma — лицензионные обязанности, не пожелания.
• Региональные и санкционные условия: некоторые лицензии исключают отдельные юрисдикции или подсанкционные организации; обычные экспортные ограничения накладываются сверху.
• Квантованные зеркала наследуют базовую лицензию: комьюнити-GGUF модели Gemma несёт условия Gemma. Читайте лицензию базовой модели, а не только репозиторий, из которого скачали.

Проверка лицензии за 30 секунд

1. Откройте файл LICENSE в репозитории модели — не пересказ в README, а сам текст лицензии.
2. Если репозиторий — квант/вариант, пройдите по ссылке к базовой модели, из которой квантовали, и читайте её лицензию.
3. Поищите в тексте: «monthly active users», «revenue», «acceptable use», «attribution», «jurisdiction».
4. Решайте только после шага 3 — большинство потолков никогда не коснётся небольших продуктов, но вы должны знать, что они есть.

Анатомия имени репозитория на Hugging Face

Qwen/Qwen2.5-14B-Instruct
 │      │         │   └─ стадия/вариант: instruct, chat, base, coder, vl, ...
 │      │         └─ размер: количество параметров
 │      └─ семейство + версия
 └─ организация

community/Qwen2.5-14B-Instruct-GGUF
 └─ репозиторий квантизатора: те же веса, переупакованный формат

filename: qwen2.5-14b-instruct-q4_k_m.gguf
           семейство  размер стадия тег кванта

Порядок чтения: организация / семейство-версия-размер-стадия. Оригинальные репозитории хранят safetensors; комьюнити-квантизаторы публикуют GGUF и другие варианты — веса принадлежат издателю, и лицензия путешествует с ними (форматы моделей).

Как судить о репозиториях в дикой природе:

• Первичные организации публикуют оригиналы; горстка известных комьюнити-квантизаторов переиздаёт GGUF/AWQ-варианты всего; безызвестные зеркала не добавляют ценности и изредка преподносят сюрпризы.
• Счётчики скачиваний и даты обновления — приличные прокси здоровья: устаревший квант модели двух поколений назад — обычно тупик.
• Когда два репозитория заявляют одну модель, берите тот, что связан со страницы базовой модели.

Практическая позиция

• Хобби и локальное использование: подойдёт почти любая лицензия открытых весов — вы запускаете модель, а не распространяете её.
• Выпуск продукта: семейства Apache/MIT экономят время юристов; лицензии с потолками обычно нормальны ниже потолков, но прочитайте политику использования один раз.
• Закрытые API: лучшее сырое фронтирное качество, нулевой локальный контроль, оплата за токены. Распространённый гибрид: локальные модели для объёма, приватности и задержек; API для трудных 5%.
• Распространение весов отличается от их запуска: поставка GGUF внутри вашего продукта — это дистрибуция, проверьте условия заранее.
• Некоторые лицензии вешают условия на выходы моделей или производные дообучения; ни одна (на момент написания) не претендует на ваши промпты, но прочитайте, прежде чем продавать сгенерированный контент в масштабе.

Локальные веса против API, бок о бок

Когда побеждает локальное: требования приватности, офлайн, огромные объёмы токенов, чувствительный к задержкам UX, воспроизводимость (зафиксировать точные веса). Когда побеждает API: труднейшие 5% задач, нулевая настройка, эластичный масштаб. Большинство серьёзных сетапов приходят к гибриду.

Как выбирать конкретно: выбор модели. Что приносит каждое семейство: семейства моделей.

Связанные разделы: семейства моделей · выбор модели · форматы моделей · движки