Tu primer modelo en 10 minutos

Tener un modelo capaz corriendo en local es hoy un trabajo de diez
minutos, no un proyecto de fin de semana. Dos rutas cubren a casi todo el
mundo: la terminal (Ollama) para quien prefiere comandos, y una GUI (LM
Studio) para quien prefiere barras de progreso. Ambas terminan en el
mismo sitio — un GGUF cuantizado en tu propio disco, respondiendo a
velocidad interactiva, sin nada llamando a casa. Elige un camino, hazlo,
y luego corre las comprobaciones de salud del final.

Antes de empezar

Conoce tres números de tu máquina:

• VRAM (o memoria unificada): 8 GB corre modelos 7–9B en Q4; 16 GB
  maneja 13–14B; 24 GB alcanza la clase 30B. La matemática completa de
  dimensionamiento en cálculo de VRAM.
• Ancho de banda de memoria: esto, y no el cómputo, decide tus tok/s —
  véase velocidad.
• Disco libre: presupuesta 50–100 GB si planeas probar más de un modelo.

Ruta A: la vía de la terminal (Ollama)

Instala Ollama — un script de instalación de una
línea en Linux/macOS, un instalador en Windows. Arranca un servicio local
y te da un comando ollama. Sin cuenta, sin clave.

Elige un modelo abierto de tamaño medio. A fecha de redacción la clase
7–9B — qwen3:8b o un modelo clase Llama 3.1 8B — es el primer modelo
correcto: genuinamente útil, y cabe en una GPU de 8 GB o tolera una CPU.
Si escribes en coreano, las familias Qwen y Gemma han manejado
históricamente bien el texto coreano — pero prueba con un párrafo real
tuyo, porque los tokenizadores difieren (véase tokens).

# descarga (~5 GB) y empieza a chatear en un solo paso
ollama run qwen3:8b

Ya estás en un bucle de chat. Escribe un mensaje, pulsa Enter, observa
los tokens fluir. Los comandos de barra del primer día:

/bye          # salir del chat
/show info    # cuantización, longitud de contexto, plantilla en uso

De vuelta en tu shell, dos más:

ollama list   # qué hay en disco y cuánto ocupa cada uno
ollama ps     # qué está cargado en memoria ahora mismo y dónde

ollama ps es tu primer instrumento real. Reporta el tamaño residente y
un reparto CPU/GPU como 100% GPU o 48%/52% CPU/GPU. Cualquier CPU en
el reparto significa que el modelo no está del todo en la GPU — un
problema de configuración arreglable, no un límite de hardware. Véase
controles del motor.

Ejemplo de una lectura sana:

NAME         ID           SIZE     PROCESSOR    UNTIL
qwen3:8b     a1b2c3d4...  5.7 GB   100% GPU     4 minutes from now

Un SIZE mayor que el archivo en disco es normal: el tamaño residente son
los pesos más los búferes de cómputo, no una segunda copia.

Ruta B: la vía de la GUI (LM Studio)

Instala LM Studio. Abre la pestaña de búsqueda,
escribe un nombre de familia — Qwen3, Llama 3, Gemma 3 — y recibes una
avalancha de tamaños y cuantizaciones. Dos reglas lo mantienen simple:

1. Empareja primero el número de parámetros con la memoria: un 8B en Q4
   son unos 4–5 GB antes de la caché KV.
2. Confía en la pista de tamaño por descarga — incluye margen, así que
   «cabe» de verdad cabe. Prefiere cuantizaciones clase Q4_K_M; los
   detalles están en cuantización.

La descarga es una barra de progreso. Carga el modelo en la pestaña de
chat y háblale; la lectura de abajo muestra tokens/seg mientras genera —
recuerda ese número para la comprobación de salud. LM Studio también
puede exponer un servidor local compatible con OpenAI, que se vuelve útil
luego en servicio.

Si la lectura de tok/s parece baja, no desinstales nada todavía —
termina las comprobaciones de salud de abajo antes de concluir que algo
está roto.

Qué hace realmente un «pull»

Nada mágico. Un modelo en este ecosistema es un archivo GGUF (véase
formatos de modelo): un único blob que contiene
todas las capas, el tokenizador y metadatos. ollama pull y el
descargador de LM Studio traen ese blob en trozos — ese es el progreso
por capas que ves — verifican un digest y registran el archivo en un
índice local. Las descargas interrumpidas se reanudan donde pararon.
«Instalar un modelo» es literalmente descargar un archivo grande y
recordar dónde vive. Sin cuenta, sin servidor de licencias, sin llamadas
a casa.

Comprobaciones de salud de la primera ejecución

Tres números te dicen si tu instalación está sana:

Si las tres pasan, deja de afinar y ve a usar el modelo. La calidad del
prompt domina todo lo demás en esta etapa — véase
prompting.

Los tres fallos clásicos de principiante

Los tres son configuración, no hardware. Ninguno significa «esta máquina
no puede».

Dónde viven los archivos, e higiene de disco

Ollama guarda todo bajo ~/.ollama — los modelos se almacenan como blobs
direccionados por contenido bajo ~/.ollama/models. LM Studio usa
~/.lmstudio (versiones antiguas: ~/.cache/lm-studio). Ambos crecen
alarmantemente rápido: cada pull son 2–20 GB, y borrar desde una UI a
veces deja el blob en el disco.

Hábitos que pagan:

• Corre ollama list cada mes y ollama rm lo que no hayas tocado.
• Conoce tu directorio de modelos antes de que se llene el disco.
  Moverlo luego es una variable de entorno (OLLAMA_MODELS) más una
  copia de archivos, no una descarga nueva.
• Un modelo por tarea real vence a cinco descargas «por si acaso» — el
  almacenamiento en frío te costó el ancho de banda igual.
• LM Studio también borra de su índice, pero verifica que la carpeta de
  modelos encogió de verdad — confía, y luego comprueba.

Relacionados: Motores de inferencia · Controles del motor · Velocidad · Elegir un modelo