UIs & Integrationen

Ein Model hinter einem HTTP-Endpunkt ist Infrastruktur; die UI ist das Produkt, das Ihr Haushalt oder Team wirklich anfasst. Weil nahezu jede UI die OpenAI-Completions-Form spricht, sind sie über jede Engine aus Serving austauschbar — wählen Sie nach Rolle, nicht nach Funktionszähl-Kriegen, und wissen Sie, dass die Wahl umkehrbar ist.

Vorab gesagt: Die UI begrenzt das Model selten — ein schlichtes Chat-Feld mit einem guten Model schlägt einen Funktionspalast mit einem schwachen.

Open WebUI

Der selbst gehostete ChatGPT-Nachbau und die Standard-Antwort auf den „Haushaltsserver“ (github.com/open-webui/open-webui). Mehrbenutzerkonten mit Auth, Modellwechsel pro Konversation über Ollama und jedes OpenAI-kompatible Backend, Dokument-Upload mit eingebautem RAG, Websuche, Prompt-Bibliothek, Modell-Berechtigungen. Läuft in einem Docker-Befehl. Wenn Ihr Ziel ist „meine Familie nutzt meine GPU statt eines Abos“, starten Sie hier.

Die Funktionen, die im Alltag zählen:

• Mehrbenutzerkonten und Admin-Kontrolle — Modell-Berechtigungen pro Nutzer oder Gruppe.
• Modellwechsel mitten in der Konversation, über alle verbundenen Backends zugleich.
• Dokument-Upload mit eingebautem RAG und Websuche-Schaltern.
• Prompt-Bibliothek und gespeicherte Presets, die Ihr ganzer Haushalt teilen kann.
• Eine API-Schlüssel-Seite, sodass Skripte denselben Server treffen, auf dem Ihre Familie chattet (siehe Serving).

LibreChat

Von Grund auf Multi-Provider: OpenAI, Anthropic, Google und Ihr lokaler Endpunkt Seite an Seite in einer UI mit geteilten Konversationen. Die richtige Wahl, wenn der Haushalt hybrid ist — Cloud für manche Aufgaben, lokal für private — oder wenn ein Team schon Konten hat und lokal ergänzt, nicht ersetzt haben will (github.com/danny-avila/LibreChat).

Auch die pragmatische Wahl, wenn manche Nutzer für die Arbeit Cloud-Modelle behalten müssen: eine UI, klar gekennzeichnete Provider.

text-generation-webui

Das Schweizer Offiziersmesser für Power-User (github.com/oobabooga/text-generation-webui): jeder Loader (llama.cpp, exllamav2, transformers), jeder Sampler-Regler bloßgelegt, Charakterkarten, Notebooks, Training-Tabs. Höchste Decke, höchstes Chaos. Leute entwachsen ihm üblicherweise hin zu Engine plus API plus sauberer UI, aber solange Sie mit Quants und Samplern experimentieren, hat nichts anderes so viele Schalter.

Es kann auch eine OpenAI-kompatible API freigeben, dient also doppelt als Backend — wobei llama-server an diesem Punkt das einfachere Werkzeug ist.

In Ihrem Editor

• Continue.dev — Open Source, VS Code und JetBrains; Autocomplete, Chat und Inline-Editierungen gegen einen lokalen Endpunkt. Richten Sie es auf Ollama oder jede OpenAI-kompatible Base-URL, und Ihr Coding-Assistent hört auf, ein Abo zu sein.
• Cursor — akzeptiert eine eigene OpenAI-kompatible Base-URL für Chat/Modelle. Lesen Sie seine aktuellen Dokumente, was die Maschine noch verlässt; zum Zeitpunkt dieses Textes kann ein Teil seiner Indexierung Cloud-seitig sein.
• Zed — eigener OpenAI-Provider in den Einstellungen; trivial lokal.
• Alles mit einem „OpenAI-Base-URL“-Feld — das Muster ist universell; hat ein Werkzeug diese Einstellung, funktioniert es lokal.

Jedesmal dasselbe Muster: Base-URL auf localhost, dekorativer API-Schlüssel (siehe Serving).

Autocomplete will ein kleines, schnelles Model (1–3B), selbst auf großer Hardware — das Latenzbudget sind ein paar hundert ms (siehe Geschwindigkeit).

In Ihrem Terminal

• ollama run — Chatten mit null Setup jenseits der Installation (Erster Start).
• aichat — Multi-Backend-REPL mit Sitzungen, Rollen und leichtem RAG; pumpt sauber in Skripte und ist in Cron-Jobs zu Hause.
• gptme — agentisch: führt Shell-Befehle aus und editiert Dateien, angetrieben von Ihrem lokalen Endpunkt.

# einmalig aus einem Skript — keine Chat-Schleife
ollama run qwen3:8b "one-sentence summary: quarterly churn rose 2%"

Das Terminal zählt mehr, als es aussieht: Agenten, geplante Jobs und die Spiel-Agenten dieses Forums leben alle hier (siehe Agenten).

Sprache und Mobil

Open WebUI ist responsives Web, also funktionieren Handys über den Browser gegen Ihren Heimserver — keine App, kein Sync. Es integriert auch lokale Sprachverarbeitung: Whisper-Klasse-Modelle für die Eingabe, Piper-artiges TTS für die Ausgabe. Die Sprachqualität liegt unter den Cloud-Assistenten, aber die Latenz eines lokalen 8B kann eine Rundreise ins Rechenzentrum echt schlagen.

Sprach-Pipelines sind vom Chat-Modell völlig getrennt — ein schnelles kleines Model für die Stimme und ein großes für Text ist die vernünftige Aufteilung.

Notizen und Wissensbasen

Obsidian-Tresore plus lokale Endpunkte über Plugins — zusammenfassen, umschreiben, Notizen verknüpfen, ohne dass irgendetwas die Maschine verlässt. Für „rede mit meinen Dokumenten“ ist Open WebUIs eingebauter RAG der schnellste Start, aber das Eingebaute chunkt grob und wählt die Embeddings für Sie; für ernsthafte Retrieval-Qualität gewinnt eine kleine eigene Pipeline (die Abwägungen stehen in RAG).

NotebookLM-artige Audio-Überblicke bleiben eine Cloud-Funktion; die nächsten lokalen Entsprechungen sind DIY-Pipelines, kein Schalter.

Mehrbenutzer-Hygiene

In dem Moment, in dem mehr als eine Person Ihre UI nutzt, sind Sie der Admin:

• Schalten Sie Konten ein, bevor Sie jemanden einladen; Auth einer geteilten „ohne Login“-Instanz nachzurüsten ist ein Elend.
• Entscheiden Sie die Modell-Sichtbarkeit pro Nutzer — nicht jeder braucht das 32B, das die GPU auffrisst.
• Der Konversationsverlauf liegt serverseitig in dem, was Sie deployt haben; sichern Sie ihn wie jede Datenbank.
• Es gibt keine eingebaute Inhaltsmoderation; die Haushaltslinie ziehen Sie persönlich.
• Koreanische Eingabe funktioniert überall oben; der Tokenizer des Modells zählt mehr als die UI (siehe Tokens).

Nach Rolle wählen

Die Zeilen sind Startpunkte. Die meisten Haushalte landen bei einer Chat-UI plus Continue.dev, und das ist ein vollkommen guter Endpunkt.

Die Verrohrung ist der Punkt

Jedes Werkzeug oben spricht OpenAI-kompatibel, also passt jede Engine aus Serving in jedes von ihnen — tauschen Sie das Backend, ohne die UI anzufassen, die Ihre Leute gelernt haben. Zwei Vorbehalte. Die Funktionstiefe variiert (RAG-Qualität, Auth, Admin-Kontrolle), also prüfen Sie die, die Ihnen wichtig ist. Und „OpenAI-kompatibel“ ist eine unscharfe Spezifikation: Gelegentlich sendet eine UI einen Parameter, den Ihre Engine still ignoriert — testen Sie das konkrete Paar, das Sie deployen, mit einer echten Konversation, bevor Sie es dem Haushalt ankündigen.

Bevor Sie eine UI in Ihren Haushalt entlassen, investieren Sie zehn Minuten: Legen Sie ein zweites Konto an und loggen Sie sich damit ein, prüfen Sie, was es sehen kann, zerbrechen Sie eine Konversation und stellen Sie sie aus dem Backup wieder her.

Jede UI oben ist gute Software; keine davon ist gemanagte Software. Sie sind der Update-Kanal, der Backup-Job und die Incident-Response.

Verwandt: Einen Endpunkt serven · RAG · Prompting · Erster Start