El árbol genealógico de los pesos abiertos
Un puñado de familias cubre casi todo el uso local, y cada una llega
como una escalera de tamaños y sabores de post-entrenamiento. Conocer el
árbol te dice sobre qué está construido realmente cualquier ajuste fino
al azar de Hugging Face — y qué base alcanzar primero. Todas estas son de
pesos abiertos; qué te da y qué no te da eso está cubierto en
abierto vs cerrado.
Las familias principales
| Familia | Tamaños | Licencia | Conocida por |
|---|---|---|---|
| Qwen | 0.6B → 235B-A22B MoE | Apache-2.0 (la mayoría de tamaños) | la mayor cobertura multilingüe, coreano incluido; variantes «thinking» de Qwen3; escalera densa más el MoE 30B-A3B |
| Llama | 1 → 2 → 3.x → 4 | licencia comunitaria | el mayor ecosistema de ajustes finos y herramientas; la licencia tiene un tope de 700M MAU más restricciones de uso |
| Gemma | 1B – 27B | términos de Gemma | la mejor calidad por GB; Gemma 3 añade entrada de visión y contexto 128k; multilingüe sólido |
| Mistral / Mixtral | 7B v0.x; 8x7B, 8x22B MoE | Apache-2.0 (la mayoría) | el linaje clásico del 7B utilizable; Mixtral demostró que el MoE abierto funciona |
| Phi | 3.8B mini, 14B | MIT | modelos pequeños contundentes; matemáticas y razonamiento fuertes para el tamaño |
| DeepSeek | V3/R1 671B-A37B MoE; destilados 1.5B–70B | MIT (R1) | líderes abiertos en razonamiento; los destilados de R1 llevaron la cadena de pensamiento a tamaños de consumo |
Menciones honoríficas: GLM (Zhipu) y Yi (01.AI) — bases fuertes
con variantes de contexto largo; OLMo (AllenAI) — completamente
abierto: datos de entrenamiento, código y checkpoints publicados, el
punto de referencia cuando «abierto» debe significar más que pesos.
Los tamaños y términos de licencia derivan por lanzamiento — lee la
tarjeta del modelo antes de enviar nada comercial.
Notas por familia
- Qwen — la respuesta por omisión para el uso multilingüe local. La
escalera de tamaños es inusualmente fina (0.6/1.7/4/8/14/32B densos,
más los MoE 30B-A3B y 235B-A22B), así que cada nivel de VRAM tiene un
Qwen. La generación Qwen3 añadió conmutadores de «pensamiento» por
prompt en la mayoría de los tamaños. - Llama — menos la frontera de calidad que la frontera de
compatibilidad: toda herramienta, tutorial y ajuste fino lo soporta
primero. Llama 4 pasó a MoE, así que la línea densa 3.x sigue siendo el
caballo de batalla en muchas configuraciones locales. - Gemma — consistentemente fuerte para su tamaño de archivo, lo que
importa cuando estás atado a Q4 en un portátil. La entrada de visión de
Gemma 3 lo convierte en el multimodal fácil por omisión en local. - Mistral — pionero del 7B abierto utilizable y del MoE abierto
(Mixtral 8x7B). Las insignias recientes se inclinan al cierre; los 7B
abiertos y las variantes Small (22–24B) siguen siendo caballos de
batalla. - Phi — entrenado intensivamente con datos sintéticos curados de
«calidad de libro de texto»; pega por encima de su peso en matemáticas
y lógica, más flaco en conocimiento del mundo. Un buen cerebro de
agente pequeño. - DeepSeek — V3 y R1 empujaron hacia adelante la capacidad abierta de
razonamiento; los modelos completos exigen hardware serio, pero la
familia de destilados R1 (bases Qwen/Llama entrenadas con trazas de
razonamiento de R1) corre cadena de pensamiento en local desde 1.5B.
Generaciones de un vistazo
Los árboles familiares se mueven rápido; las generaciones envejecen como
la leche. Linaje aproximado, de lo más antiguo a lo más nuevo cubierto
aquí:
| Familia | Linaje |
|---|---|
| Qwen | 1 → 1.5 → 2 → 2.5 → 3 (2023–2025) |
| Llama | 1 → 2 → 3 → 3.1/3.2/3.3 → 4 (2023–2025) |
| Gemma | 1 → 2 → 3 (2024–2025) |
| Phi | 2 → 3 (mini/medium/small) → 4 (2023–2024) |
| DeepSeek | Coder → V2 → V3 → R1 + destilados (2023–2025) |
La regla útil: dentro de una familia, una generación más nueva a menor
tamaño suele igualar a una generación más antigua a mayor tamaño. Un 8B
actual vence rutinariamente a un 30B de dos generaciones atrás en la
mayoría de las tareas — por eso el instinto correcto es «el modelo más
nuevo que quepa», no «el modelo más grande que quepa».
Leer nombres de modelos: base vs instruct vs razonamiento
Toda familia distribuye varios sabores de post-entrenamiento; el nombre
es el anillo decodificador:
| Marcador | Significado | Úsalo para |
|---|---|---|
ninguno, o -base |
solo pesos preentrenados | tareas de completación, base para tu propio ajuste fino — no chat |
-instruct, -it, -chat |
afinado como asistente | la opción por omisión para chat, extracción, herramientas |
thinking (Qwen3) |
modo de razonamiento conmutable por prompt | matemáticas, planificación; quema tokens — gestiónalo en muestreo |
R1-Distill-* |
trazas de razonamiento R1 destiladas en bases Qwen/Llama | cadena de pensamiento en tamaños de consumo |
-Coder, -Vision, -VL |
especialización por tarea o modalidad | código, entrada de imagen |
etiqueta de cuantización en el nombre (Q4_K_M) |
cuantización del sabor que lleve dentro | véase cuantización |
Un modelo base responde continuando tu texto: saluda y puedes recibir
un hilo de foro, un FAQ o un párrafo estilo Wikipedia sobre los saludos.
Los modelos instruct se comportan como asistentes. Todo lo demás en esta
guía asume checkpoints instruct o de razonamiento — correr un modelo
base y concluir «los modelos locales son tontos» es el error clásico de
la primera semana.
MoE: parámetros totales vs activos
Los modelos de mezcla de expertos almacenan muchos más pesos de los que
usa cualquier token. El bloque feed-forward de cada capa se divide en
subredes expertas; un enrutador pequeño elige los pocos expertos
principales por token, por capa. «235B-A22B» significa 235B de parámetros
almacenados, ~22B activos por token. Dos costes se separan:
memoria para pesos ∝ parámetros totales (todos los expertos deben caber en RAM/VRAM)
cómputo por token ∝ parámetros activos (solo corren los expertos enrutados)
Así que un MoE compra calidad de modelo grande a la velocidad de uno
pequeño — si puedes sostener los pesos. Esa es toda la historia local del
Qwen3-30B-A3B: ~30B de capacidad almacenada para máquinas con 24–32 GB,
a coste de decodificación de ~3B, superando a los densos del mismo tamaño
mientras genera más rápido. La mecánica está en velocidad.
Mismo presupuesto de memoria, forma distinta:
| Forma | Tamaño Q4_K_M | Cómputo de decodificación | Intercambio |
|---|---|---|---|
| denso 14B | ~8.5 GB | 14B/token | el equilibrio por omisión |
| MoE 30B-A3B | ~18 GB | ~3B/token | necesita la RAM, y luego gana en ambos ejes |
Advertencias del MoE: la calidad por parámetro activo es menor que la
de un denso, el enrutado añade sobrecarga con lote 1, y los enrutadores
son sensibles a la cuantización descuidada — prefiere recetas de
cuantización validadas por la comunidad para checkpoints MoE antes que
las caseras.
Coreano y multilingüe
Consenso comunitario aproximado para el coreano, a fecha de redacción:
Qwen primero (coreano fuerte en toda la escalera de tamaños), Gemma
segundo (prosa coreana limpia, honoríficos ocasionalmente rígidos), las
familias anglófilas un visible tercero (errores de partículas, calcos del
inglés). Prueba directamente — honoríficos (존댓말/반말), elección de
partículas, consistencia de registro — con el protocolo de
elección.
La selva de los ajustes finos
La mayoría de los repos de Hugging Face no son del laboratorio original.
Capas de cultura se acumulan encima:
- Fusiones — promediado de pesos (TIES, DARE, SLERP) de varios
ajustes finos. A veces genuinamente mejores que cualquier padre; a
menudo una moneda al aire que evalúa peor. - Abliterated — direcciones de rechazo extirpadas quirúrgicamente.
Útil para ficción e investigación; suele costar algo de capacidad
general. Atento a la licencia y a tu jurisdicción. - Ajustes finos de «slop» — un LoRA rápido sobre datos sintéticos
persiguiendo las vibraciones del arena, publicado bajo un nombre
escalado. Calidad variopinta, en ambas direcciones. - Cuantizaciones comunitarias — bartowski, mradermacher y colegas
re-cuantizan lo publicado sin tocar los pesos. Estas son seguras;
son los ajustes finos que modifican comportamiento los que exigen
revisión.
Al abrir la tarjeta de un ajuste fino, busca el modelo base nombrado,
evaluaciones de un banco que reconozcas (no capturas de pantalla) y un
conjunto de datos descrito — «conjunto de datos privado» es una bandera
amarilla.
Política por omisión: prefiere el lanzamiento del laboratorio original
salvo que un ajuste fino tenga evidencia independiente y reproducida de
ser mejor. Cómo ponderar eso frente a benchmarks y señal comunitaria:
elección.
Relacionados: Elegir un modelo · Abierto vs cerrado · Cuantización · Formatos de modelo