localaiforum
Iniciar sesión
Guía › Ejecución y servicio

UIs e integraciones

Un modelo detrás de un endpoint HTTP es infraestructura; la UI es el
producto que tu hogar o equipo toca de verdad. Como casi toda UI habla la
forma OpenAI-completions, son intercambiables sobre cualquier motor de
servicio — elige por rol, no por guerras de
contadores de funciones, y sabe que la elección es reversible.

Conviene decirlo de entrada: la UI rara vez limita al modelo — una caja
de chat sencilla con un buen modelo vence a un palacio de funciones con
uno débil.

Open WebUI

El clon autoalojado del aspecto ChatGPT y la respuesta «servidor del
hogar» por omisión
(github.com/open-webui/open-webui).
Cuentas multiusuario con autenticación, cambio de modelo por conversación
a través de Ollama y cualquier backend compatible con OpenAI, subida de
documentos con RAG integrado, búsqueda web, librería de prompts,
permisos de modelos. Corre con un comando de Docker. Si tu objetivo es
«mi familia usa mi GPU en vez de una suscripción», empieza aquí.

Las funciones que importan a diario:

  • Cuentas multiusuario y controles de administración — permisos de modelo
    por usuario o grupo.
  • Cambio de modelo en mitad de la conversación, a través de todos los
    backends conectados a la vez.
  • Subida de documentos con RAG integrado y conmutadores de búsqueda web.
  • Librería de prompts y preajustes guardados que todo tu hogar puede
    compartir.
  • Una página de claves de API, para que los scripts golpeen el mismo
    servidor donde chatea tu familia (véase servicio).

LibreChat

Multiproveedor por diseño: OpenAI, Anthropic, Google y tu endpoint local
lado a lado en una UI con conversaciones compartidas. La elección correcta
cuando el hogar es híbrido — nube para algunas tareas, local para las
privadas — o cuando un equipo ya tiene cuentas y quiere añadir lo local,
no sustituirlo
(github.com/danny-avila/LibreChat).

También la elección pragmática cuando algunos usuarios deben conservar
modelos de nube por trabajo: una UI, proveedores claramente etiquetados.

text-generation-webui

La navaja suiza del usuario avanzado
(github.com/oobabooga/text-generation-webui):
todo cargador (llama.cpp, exllamav2, transformers), todo control de
sampler expuesto, tarjetas de personaje, cuadernos, pestañas de
entrenamiento. El techo más alto, el desorden más alto. La gente
normalmente se gradúa desde él hacia motor-más-API-más-una-UI-limpia,
pero mientras experimentas con cuantizaciones y samplers, nada más tiene
tantos interruptores.

También puede exponer una API compatible con OpenAI, así que duplica como
backend — aunque en ese punto llama-server es la herramienta más simple.

En tu editor

  • Continue.dev — código abierto, VS Code y JetBrains; autocompletado,
    chat y ediciones en línea contra un endpoint local. Apúntalo a Ollama o
    cualquier URL base compatible con OpenAI y tu asistente de código deja
    de ser una suscripción.
  • Cursor — acepta una URL base compatible con OpenAI para
    chat/modelos. Lee su documentación actual sobre qué sigue saliendo de
    la máquina; a fecha de redacción partes de su indexación pueden estar
    en la nube.
  • Zed — proveedor OpenAI personalizado en la configuración;
    trivialmente local.
  • Cualquier cosa con un campo «OpenAI base URL» — el patrón es
    universal; si una herramienta tiene ese ajuste, funciona en local.

El mismo patrón cada vez: URL base a localhost, clave de API decorativa
(véase servicio).

El autocompletado quiere un modelo pequeño y rápido (1–3B) incluso en
hardware grande — el presupuesto de latencia son unos pocos cientos de ms
(véase velocidad).

En tu terminal

  • ollama run — chat sin configuración más allá de la instalación
    (primera ejecución).
  • aichat — REPL multibackend con sesiones, roles y RAG ligero; se
    engancha limpio en scripts y está en casa en trabajos de cron.
  • gptme — agéntico: corre comandos de shell y edita archivos,
    conducido por tu endpoint local.
# disparo único desde un script — sin bucle de chat
ollama run qwen3:8b "one-sentence summary: quarterly churn rose 2%"

La terminal importa más de lo que parece: agentes, trabajos programados
y los agentes de juego de este foro viven aquí (véase
agentes).

Voz y móvil

Open WebUI es web responsiva, así que los teléfonos funcionan a través
del navegador contra tu servidor doméstico — sin app, sin sincronización.
También integra voz local: modelos clase Whisper para la entrada, TTS
estilo Piper para la salida. La calidad de voz queda por debajo de los
asistentes de nube, pero la latencia de un 8B local puede genuinamente
vencer a un viaje de ida y vuelta al centro de datos.

Las tuberías de voz son totalmente independientes del modelo de chat —
un modelo pequeño y rápido para voz y uno grande para texto es el reparto
sensato.

Notas y bases de conocimiento

Bóvedas de Obsidian más endpoints locales vía plugins — resume, reescribe,
enlaza notas sin que nada salga de la máquina. Para «hablar con mis
documentos», el RAG integrado de Open WebUI es el arranque más rápido,
pero los integrados fragmentan de forma tosca y eligen los embeddings por
ti; para calidad de recuperación seria, una tubería pequeña a medida gana
(los intercambios están en RAG).

Las reseñas de audio estilo NotebookLM siguen siendo una función de
nube; los equivalentes locales más cercanos son tuberías caseras, no un
conmutador.

Higiene multiusuario

En el momento en que más de una persona usa tu UI, eres el
administrador:

  • Activa las cuentas antes de invitar a nadie; retrofitar autenticación
    sobre una instancia compartida «sin login» es miserable.
  • Decide la visibilidad de modelos por usuario — no todo el mundo
    necesita el 32B comiéndose la GPU.
  • El historial de conversaciones se almacena del lado servidor en lo que
    desplegaras; respáldalo como cualquier base de datos.
  • No hay moderación de contenido integrada; la política del hogar la
    haces cumplir tú, en persona.
  • La entrada en coreano funciona en todo lo de arriba; el tokenizador
    del modelo importa más que la UI (véase tokens).

Elige por rol

Quieres Empieza con
ChatGPT del hogar, cuentas compartidas Open WebUI
Espacio de trabajo de desarrollo, código primero Continue.dev + Ollama o llama-server
Trabajo nativo de terminal aichat, o ollama run pelado
Servidor de equipo/oficina, proveedores mixtos LibreChat u Open WebUI
Mesa de laboratorio de usuario avanzado para experimentar con cuants/samplers text-generation-webui

Las filas son puntos de partida. La mayoría de los hogares se asienta en
una UI de chat más Continue.dev, y ese es un endpoint perfectamente
válido.

La fontanería es la clave

Toda herramienta de arriba habla OpenAI-compat, así que cualquier motor de
servicio se enchufa a cualquiera de ellas — cambia
el backend sin tocar la UI que tu gente aprendió. Dos advertencias. La
profundidad de funciones varía (calidad de RAG, autenticación, controles
de administración), así que comprueba la que te importe. Y
«compatible con OpenAI» es una especificación difusa: de vez en cuando
una UI envía un parámetro que tu motor ignora en silencio — prueba la
pareja concreta que despliegues, con una conversación real, antes de
anunciarla al hogar.

Antes de comprometer una UI con tu hogar, gasta diez minutos: crea una
segunda cuenta y entra como ella, comprueba qué puede ver, rompe una
conversación, restáurala desde la copia de seguridad.

Toda UI de arriba es buen software; nada de ello es software gestionado.
Tú eres el canal de actualizaciones, el trabajo de copia de seguridad y
la respuesta a incidentes.

Relacionados: Servir un endpoint · RAG · Prompting · Primera ejecución