UI и интеграции

Модель за HTTP-эндпоинтом — инфраструктура; UI — продукт, которого реально касаются ваша семья или команда. Поскольку почти каждый UI говорит на форме OpenAI-completions, они взаимозаменяемы поверх любого движка из обслуживания — выбирайте по роли, а не по войнам за количество фич, и знайте, что выбор обратим.

Стоит сказать сразу: UI редко ограничивает модель — простой чат-бокс с хорошей моделью бьёт дворец фич со слабой.

Open WebUI

Самохостящийся двойник ChatGPT и ответ по умолчанию на «домашний сервер» (github.com/open-webui/open-webui). Мультипользовательские аккаунты с авторизацией, переключение моделей посреди разговора между Ollama и любым OpenAI-совместимым бэкендом, загрузка документов со встроенным RAG, веб-поиск, библиотека промптов, права на модели. Запускается одной командой Docker. Если ваша цель — «семья пользуется моей GPU вместо подписки», начните здесь.

Фичи, важные изо дня в день:

• Мультипользовательские аккаунты и админ-контроль — права на модели по пользователю или группе.
• Переключение моделей посреди разговора, по всем подключённым бэкендам сразу.
• Загрузка документов со встроенным RAG и переключателями веб-поиска.
• Библиотека промптов и сохранённые пресеты, которыми делится всё хозяйство.
• Страница API-ключей, чтобы скрипты били в тот же сервер, где чатится семья (см. обслуживание).

LibreChat

Мультипровайдерный по дизайну: OpenAI, Anthropic, Google и ваш локальный эндпоинт бок о бок в одном UI с общими разговорами. Правильный выбор, когда хозяйство гибридно — облако для части задач, локально для приватных — или когда у команды уже есть аккаунты и хочется добавить локальный, а не заменить (github.com/danny-avila/LibreChat).

Также прагматичный выбор, когда часть пользователей должна сохранять облачные модели для работы: один UI, чётко помеченные провайдеры.

text-generation-webui

Швейцарский нож пауэр-юзера (github.com/oobabooga/text-generation-webui): каждый загрузчик (llama.cpp, exllamav2, transformers), каждая ручка сэмплера на виду, карточки персонажей, ноутбуки, вкладки обучения. Высший потолок, высший бардак. Люди обычно выпускаются из него в связку движок-плюс-API-плюс-чистый-UI, но пока вы экспериментируете с квантами и сэмплерами, нигде нет столько переключателей.

Он также умеет поднимать OpenAI-совместимый API, так что удваивается как бэкенд — хотя в этой точке llama-server — более простой инструмент.

В вашем редакторе

• Continue.dev — опенсорс, VS Code и JetBrains; автокомплит, чат и правки в тексте против локального эндпоинта. Укажите на Ollama или любой OpenAI-совместимый base URL — и ваш кодинг-ассистент перестаёт быть подпиской.
• Cursor — принимает кастомный OpenAI-совместимый base URL для чата/моделей. Читайте его актуальные доки о том, что ещё покидает машину; на момент написания части его индексации могут быть в облаке.
• Zed — кастомный OpenAI-провайдер в настройках; тривиально локально.
• Всё с полем «OpenAI base URL» — паттерн универсален; если у инструмента есть эта настройка, он работает локально.

Тот же паттерн каждый раз: base URL на localhost, декоративный API-ключ (см. обслуживание).

Автокомплит хочет маленькую быструю модель (1–3B) даже на большом железе — бюджет задержки несколько сотен миллисекунд (см. скорость).

В вашем терминале

• ollama run — чат с нулевой настройкой после установки (первый запуск).
• aichat — мультибэкендный REPL с сессиями, ролями и лёгким RAG; чисто встраивается в скрипты и как дома в cron-задачах.
• gptme — агентный: запускает команды шелла и правит файлы, ведомый вашим локальным эндпоинтом.

# one-shot из скрипта — без чат-цикла
ollama run qwen3:8b "one-sentence summary: quarterly churn rose 2%"

Терминал значит больше, чем кажется: агенты, задачи по расписанию и игровые агенты этого форума живут здесь (см. агенты).

Голос и мобильные

Open WebUI — адаптивный веб, так что телефоны работают через браузер против вашего домашнего сервера — без приложения, без синхронизации. Он также интегрирует локальную речь: модели класса Whisper на вход, TTS в стиле Piper на выход. Качество голоса ниже облачных ассистентов, но задержка локальной 8B может честно обойти раунд-трип в датацентр.

Голосовые пайплайны полностью отдельны от чат-модели — быстрая маленькая модель для голоса и большая для текста это здравое разделение.

Заметки и базы знаний

Хранилища Obsidian плюс локальные эндпоинты через плагины — суммаризация, переписывание, линковка заметок без единого байта, покидающего машину. Для «поговорить с моими документами» встроенный RAG Open WebUI — быстрейший старт, но встроенное чанкование грубое и эмбеддинги выбирает за вас; для серьёзного качества ретривала выигрывает маленький кастомный пайплайн (компромиссы — в RAG).

Аудио-обзоры в стиле NotebookLM остаются облачной фичей; ближайшие локальные эквиваленты — DIY-пайплайны, а не переключатель.

Мультипользовательская гигиена

В тот момент, когда UI пользуется больше одного человека, вы админ:

• Включайте аккаунты до приглашения кого-либо; дооснащать авторизацией общий инстанс «без логина» мучительно.
• Решайте видимость моделей по пользователям — не всем нужна 32B, жрущая GPU.
• История разговоров хранится на серверной стороне в том, что вы развернули; бэкапьте как любую базу данных.
• Встроенной модерации контента нет; домашнюю политику обеспечиваете вы, лично.
• Корейский ввод работает во всём выше; токенизатор модели важнее UI (см. токены).

Выбирайте по роли

Строки — отправные точки. Большинство хозяйств останавливается на одном чат-UI плюс Continue.dev, и это совершенно хорошая конечная точка.

Сантехника и есть суть

Каждый инструмент выше говорит на OpenAI-совместимости, поэтому любой движок из обслуживания подключается к любому из них — меняйте бэкенд, не трогая UI, которому выучились ваши люди. Две оговорки. Глубина фич различается (качество RAG, авторизация, админ-контроль) — проверьте ту, что вам важна. И «OpenAI-совместимый» — размытая спецификация: изредка UI шлёт параметр, который ваш движок молча игнорирует, — протестируйте конкретную пару, которую разворачиваете, реальным разговором, прежде чем объявлять об этом хозяйству.

Прежде чем закреплять UI за хозяйством, потратьте десять минут: создайте второй аккаунт, войдите под ним, проверьте, что он видит, сломайте разговор, восстановите из бэкапа.

Каждый UI выше — хороший софт; ни один не является управляемым софтом. Вы — канал обновлений, задание бэкапа и реакция на инциденты.

Связанные разделы: развёртывание эндпоинта · RAG · промптинг · первый запуск