UI 與整合

HTTP 端點背後的模型是基礎設施；UI 才是你的家庭或團隊真正摸到的產品。因為幾乎每個 UI 都講 OpenAI-completions 格式，它們對 端點服務 的任何引擎都可互換——按角色挑，不是比功能數量，而且要知道這個選擇可以反悔。

值得先說：UI 很少是模型的上限——好模型配樸素聊天框，勝過弱模型配功能皇宮。

Open WebUI

自架的 ChatGPT 分身，也是「家庭伺服器」的預設答案（github.com/open-webui/open-webui）。帶驗證的多使用者帳號、跨 Ollama 與任何 OpenAI 相容後端的逐對話模型切換、內建 RAG 的文件上傳、網頁搜尋、提示詞庫、模型權限。一行 Docker 指令就能跑。如果你的目標是「我家人用我的 GPU 而不是訂閱」，從這裡開始。

日常真正重要的功能：

• 多使用者帳號與管理控制——依使用者或群組設定模型權限。
• 對話中切換模型，一次跨越所有已連接的後端。
• 內建 RAG 與網頁搜尋開關的文件上傳。
• 全家共享的提示詞庫與儲存的預設。
• API 金鑰頁面，讓腳本打你家人聊天用的同一台伺服器（見 端點服務）。

LibreChat

天生多供應商：OpenAI、Anthropic、Google 與你的本機端點並排在一個 UI 裡、共享對話。家庭走混合路線——某些任務用雲端、私密的用本機——或團隊已有帳號、想「加上」本機而不是「取代」時的正確選擇（github.com/danny-avila/LibreChat）。

當某些使用者因工作必須留用雲端模型時，它也是務實的選擇：一個 UI、標示清楚的供應商。

text-generation-webui

重度使用者的瑞士刀（github.com/oobabooga/text-generation-webui）：每種載入器（llama.cpp、exllamav2、transformers）、每個取樣旋鈕都攤開、角色卡、筆記本、訓練分頁。天花板最高、雜亂也最高。人們通常是從它畢業到引擎＋API＋乾淨 UI，但在你還在玩量化與取樣器時，沒有別的東西有這麼多開關。

它也能開 OpenAI 相容 API，所以可兼作後端——不過到那個地步，llama-server 是更簡單的工具。

在你的編輯器裡

• Continue.dev——開源，VS Code 與 JetBrains；對本機端點做自動補全、對話與行內編輯。把它指向 Ollama 或任何 OpenAI 相容 base URL，你的程式助理就不再是訂閱。
• Cursor——接受自訂 OpenAI 相容 base URL 供對話／模型用。讀它目前文件確認還有什麼會離開機器；截至目前，它的部分索引可能在雲端。
• Zed——在設定裡加自訂 OpenAI 供應商；本機化輕而易舉。
• 任何有「OpenAI base URL」欄位的東西——模式一體適用；工具有那個設定，就能本機用。

每次都是同一招：base URL 指 localhost、裝飾用的 API 金鑰（見 端點服務）。

自動補全要小而快的模型（1–3B），硬體再大也一樣——延遲預算只有幾百毫秒（見 速度）。

在你的終端機裡

• ollama run——安裝之外零設定就能聊（第一次執行）。
• aichat——多後端 REPL，有連線階段、角色與輕量 RAG；乾淨地接管線進腳本，在 cron 裡如魚得水。
• gptme——代理式：執行 shell 指令、編輯檔案，由你的本機端點驅動。

# one-shot from a script — no chat loop
ollama run qwen3:8b "one-sentence summary: quarterly churn rose 2%"

終端機比外表重要：智慧代理、排程工作與本論壇的遊戲智慧代理都住在這裡（見 智慧代理）。

語音與行動

Open WebUI 是響應式網頁，手機透過瀏覽器連你家伺服器就能用——不用 App、不用同步。它也整合本機語音：輸入用 Whisper 級模型、輸出用 Piper 風格 TTS。語音品質低於雲端助理，但本機 8B 的延遲真的能贏過一趟資料中心往返。

語音管線與對話模型完全分開——語音用快的小模型、文字用大模型才是清醒的分法。

筆記與知識庫

Obsidian 保險庫加外掛連本機端點——摘要、改寫、連結筆記，任何東西都不離開機器。「跟我的文件對話」這需求，Open WebUI 內建 RAG 是最快的起點，但內建的切塊粗糙、嵌入也替你選好；要認真的檢索品質，小型自製管線會贏（取捨見 RAG）。

NotebookLM 式的音訊概覽仍是雲端功能；最接近的本機等價物是自製管線，不是一個開關。

多使用者衛生

超過一個人用你的 UI 的那一刻，你就是管理者：

• 邀請任何人之前先開帳號功能；在共用的「免登入」實例上補做驗證是場災難。
• 逐使用者決定模型可見性——不是每個人都需要那個吃掉 GPU 的 32B。
• 對話歷史存在你部署的東西的伺服器端；像任何資料庫一樣備份。
• 沒有內建的內容審核；家庭規範由你本人執行。
• 以上全部都支援韓文輸入；模型的分詞器比 UI 更重要（見 token 與分詞器）。

按角色挑

列出的都是起點。多數家庭最後定在一個聊天 UI 加 Continue.dev，而那完全是很好的終點。

管線才是重點

上面每個工具都講 OpenAI 相容，所以 端點服務 的任何引擎都插得進它們任何一個——換後端不必動你家人學會的 UI。兩個但書。功能深度有別（RAG 品質、驗證、管理控制），確認你在意的那項。而且「OpenAI 相容」是模糊規格：偶爾 UI 會送一個引擎默默忽略的參數——向全家人宣布之前，用真實對話測試你要部署的那個組合。

把 UI 定案給全家之前，花十分鐘：建第二個帳號、用那個帳號登入、看他們能看到什麼、弄壞一段對話、從備份還原。

上面每個 UI 都是好軟體；沒有一個是代管軟體。你是更新通道、備份工作與事件回應。

相關章節： 端點服務 · RAG · 提示詞 · 第一次執行