localaiforum
Iniciar sesión
Guía › Modelos y formatos

El árbol genealógico de los pesos abiertos

Un puñado de familias cubre casi todo el uso local, y cada una llega
como una escalera de tamaños y sabores de post-entrenamiento. Conocer el
árbol te dice sobre qué está construido realmente cualquier ajuste fino
al azar de Hugging Face — y qué base alcanzar primero. Todas estas son de
pesos abiertos; qué te da y qué no te da eso está cubierto en
abierto vs cerrado.

Las familias principales

Familia Tamaños Licencia Conocida por
Qwen 0.6B → 235B-A22B MoE Apache-2.0 (la mayoría de tamaños) la mayor cobertura multilingüe, coreano incluido; variantes «thinking» de Qwen3; escalera densa más el MoE 30B-A3B
Llama 1 → 2 → 3.x → 4 licencia comunitaria el mayor ecosistema de ajustes finos y herramientas; la licencia tiene un tope de 700M MAU más restricciones de uso
Gemma 1B – 27B términos de Gemma la mejor calidad por GB; Gemma 3 añade entrada de visión y contexto 128k; multilingüe sólido
Mistral / Mixtral 7B v0.x; 8x7B, 8x22B MoE Apache-2.0 (la mayoría) el linaje clásico del 7B utilizable; Mixtral demostró que el MoE abierto funciona
Phi 3.8B mini, 14B MIT modelos pequeños contundentes; matemáticas y razonamiento fuertes para el tamaño
DeepSeek V3/R1 671B-A37B MoE; destilados 1.5B–70B MIT (R1) líderes abiertos en razonamiento; los destilados de R1 llevaron la cadena de pensamiento a tamaños de consumo

Menciones honoríficas: GLM (Zhipu) y Yi (01.AI) — bases fuertes
con variantes de contexto largo; OLMo (AllenAI) — completamente
abierto: datos de entrenamiento, código y checkpoints publicados, el
punto de referencia cuando «abierto» debe significar más que pesos.

Los tamaños y términos de licencia derivan por lanzamiento — lee la
tarjeta del modelo antes de enviar nada comercial.

Notas por familia

  • Qwen — la respuesta por omisión para el uso multilingüe local. La
    escalera de tamaños es inusualmente fina (0.6/1.7/4/8/14/32B densos,
    más los MoE 30B-A3B y 235B-A22B), así que cada nivel de VRAM tiene un
    Qwen. La generación Qwen3 añadió conmutadores de «pensamiento» por
    prompt en la mayoría de los tamaños.
  • Llama — menos la frontera de calidad que la frontera de
    compatibilidad: toda herramienta, tutorial y ajuste fino lo soporta
    primero. Llama 4 pasó a MoE, así que la línea densa 3.x sigue siendo el
    caballo de batalla en muchas configuraciones locales.
  • Gemma — consistentemente fuerte para su tamaño de archivo, lo que
    importa cuando estás atado a Q4 en un portátil. La entrada de visión de
    Gemma 3 lo convierte en el multimodal fácil por omisión en local.
  • Mistral — pionero del 7B abierto utilizable y del MoE abierto
    (Mixtral 8x7B). Las insignias recientes se inclinan al cierre; los 7B
    abiertos y las variantes Small (22–24B) siguen siendo caballos de
    batalla.
  • Phi — entrenado intensivamente con datos sintéticos curados de
    «calidad de libro de texto»; pega por encima de su peso en matemáticas
    y lógica, más flaco en conocimiento del mundo. Un buen cerebro de
    agente pequeño.
  • DeepSeek — V3 y R1 empujaron hacia adelante la capacidad abierta de
    razonamiento; los modelos completos exigen hardware serio, pero la
    familia de destilados R1 (bases Qwen/Llama entrenadas con trazas de
    razonamiento de R1) corre cadena de pensamiento en local desde 1.5B.

Generaciones de un vistazo

Los árboles familiares se mueven rápido; las generaciones envejecen como
la leche. Linaje aproximado, de lo más antiguo a lo más nuevo cubierto
aquí:

Familia Linaje
Qwen 1 → 1.5 → 2 → 2.5 → 3 (2023–2025)
Llama 1 → 2 → 3 → 3.1/3.2/3.3 → 4 (2023–2025)
Gemma 1 → 2 → 3 (2024–2025)
Phi 2 → 3 (mini/medium/small) → 4 (2023–2024)
DeepSeek Coder → V2 → V3 → R1 + destilados (2023–2025)

La regla útil: dentro de una familia, una generación más nueva a menor
tamaño suele igualar a una generación más antigua a mayor tamaño. Un 8B
actual vence rutinariamente a un 30B de dos generaciones atrás en la
mayoría de las tareas — por eso el instinto correcto es «el modelo más
nuevo que quepa», no «el modelo más grande que quepa».

Leer nombres de modelos: base vs instruct vs razonamiento

Toda familia distribuye varios sabores de post-entrenamiento; el nombre
es el anillo decodificador:

Marcador Significado Úsalo para
ninguno, o -base solo pesos preentrenados tareas de completación, base para tu propio ajuste fino — no chat
-instruct, -it, -chat afinado como asistente la opción por omisión para chat, extracción, herramientas
thinking (Qwen3) modo de razonamiento conmutable por prompt matemáticas, planificación; quema tokens — gestiónalo en muestreo
R1-Distill-* trazas de razonamiento R1 destiladas en bases Qwen/Llama cadena de pensamiento en tamaños de consumo
-Coder, -Vision, -VL especialización por tarea o modalidad código, entrada de imagen
etiqueta de cuantización en el nombre (Q4_K_M) cuantización del sabor que lleve dentro véase cuantización

Un modelo base responde continuando tu texto: saluda y puedes recibir
un hilo de foro, un FAQ o un párrafo estilo Wikipedia sobre los saludos.
Los modelos instruct se comportan como asistentes. Todo lo demás en esta
guía asume checkpoints instruct o de razonamiento — correr un modelo
base y concluir «los modelos locales son tontos» es el error clásico de
la primera semana.

MoE: parámetros totales vs activos

Los modelos de mezcla de expertos almacenan muchos más pesos de los que
usa cualquier token. El bloque feed-forward de cada capa se divide en
subredes expertas; un enrutador pequeño elige los pocos expertos
principales por token, por capa. «235B-A22B» significa 235B de parámetros
almacenados, ~22B activos por token. Dos costes se separan:

memoria para pesos  ∝ parámetros totales   (todos los expertos deben caber en RAM/VRAM)
cómputo por token   ∝ parámetros activos   (solo corren los expertos enrutados)

Así que un MoE compra calidad de modelo grande a la velocidad de uno
pequeño — si puedes sostener los pesos. Esa es toda la historia local del
Qwen3-30B-A3B: ~30B de capacidad almacenada para máquinas con 24–32 GB,
a coste de decodificación de ~3B, superando a los densos del mismo tamaño
mientras genera más rápido. La mecánica está en velocidad.

Mismo presupuesto de memoria, forma distinta:

Forma Tamaño Q4_K_M Cómputo de decodificación Intercambio
denso 14B ~8.5 GB 14B/token el equilibrio por omisión
MoE 30B-A3B ~18 GB ~3B/token necesita la RAM, y luego gana en ambos ejes

Advertencias del MoE: la calidad por parámetro activo es menor que la
de un denso, el enrutado añade sobrecarga con lote 1, y los enrutadores
son sensibles a la cuantización descuidada — prefiere recetas de
cuantización validadas por la comunidad para checkpoints MoE antes que
las caseras.

Coreano y multilingüe

Consenso comunitario aproximado para el coreano, a fecha de redacción:
Qwen primero (coreano fuerte en toda la escalera de tamaños), Gemma
segundo (prosa coreana limpia, honoríficos ocasionalmente rígidos), las
familias anglófilas un visible tercero (errores de partículas, calcos del
inglés). Prueba directamente — honoríficos (존댓말/반말), elección de
partículas, consistencia de registro — con el protocolo de
elección.

La selva de los ajustes finos

La mayoría de los repos de Hugging Face no son del laboratorio original.
Capas de cultura se acumulan encima:

  • Fusiones — promediado de pesos (TIES, DARE, SLERP) de varios
    ajustes finos. A veces genuinamente mejores que cualquier padre; a
    menudo una moneda al aire que evalúa peor.
  • Abliterated — direcciones de rechazo extirpadas quirúrgicamente.
    Útil para ficción e investigación; suele costar algo de capacidad
    general. Atento a la licencia y a tu jurisdicción.
  • Ajustes finos de «slop» — un LoRA rápido sobre datos sintéticos
    persiguiendo las vibraciones del arena, publicado bajo un nombre
    escalado. Calidad variopinta, en ambas direcciones.
  • Cuantizaciones comunitarias — bartowski, mradermacher y colegas
    re-cuantizan lo publicado sin tocar los pesos. Estas son seguras;
    son los ajustes finos que modifican comportamiento los que exigen
    revisión.

Al abrir la tarjeta de un ajuste fino, busca el modelo base nombrado,
evaluaciones de un banco que reconozcas (no capturas de pantalla) y un
conjunto de datos descrito — «conjunto de datos privado» es una bandera
amarilla.

Política por omisión: prefiere el lanzamiento del laboratorio original
salvo que un ajuste fino tenga evidencia independiente y reproducida de
ser mejor. Cómo ponderar eso frente a benchmarks y señal comunitaria:
elección.

Relacionados: Elegir un modelo · Abierto vs cerrado · Cuantización · Formatos de modelo