UIと統合

HTTPエンドポイントの後ろのモデルはインフラで、UIは世帯やチームが実際に触れるプロダクト。ほぼすべてのUIがOpenAI-completionsの形を話すので、サービングのどのエンジンの上でも交換可能——機能数戦争ではなく役割で選び、選択が可逆であることを知ること。

最初に言っておく価値がある。UIがモデルを制限することはまれで、良いモデルと素のチャットボックスが、弱いモデルと機能の宮殿に勝る。

Open WebUI

セルフホストのChatGPTそっくりさんで、「家庭用サーバ」のデフォルト回答(github.com/open-webui/open-webui)。認証付きマルチユーザーアカウント、Ollamaと任意のOpenAI互換バックエンドをまたぐ会話ごとのモデル切替、内蔵RAG付きドキュメントアップロード、ウェブ検索、プロンプトライブラリ、モデル権限。Dockerコマンド1つで動く。目標が「家族がサブスクの代わりに私のGPUを使う」なら、ここから。

日々重要な機能。

• マルチユーザーアカウントと管理コントロール——ユーザー/グループごとのモデル権限。
• 会話途中のモデル切替。接続済みの全バックエンドをまたいで一度に。
• 内蔵RAGとウェブ検索トグル付きドキュメントアップロード。
• 世帯全員が共有できるプロンプトライブラリと保存済みプリセット。
• APIキーページ。スクリプトが家族のチャットと同じサーバを叩ける(サービングを参照)。

LibreChat

設計からマルチプロバイダ。OpenAI、Anthropic、Google、そしてローカルエンドポイントが1つのUIに並び、会話を共有。世帯がハイブリッド——一部のタスクはクラウド、プライベートなものはローカル——なとき、あるいはチームがすでにアカウントを持ち、ローカルを代替でなく追加したいときの正しい選択(github.com/danny-avila/LibreChat)。

仕事でクラウドモデルを維持せねばならないユーザーがいるときの実用的な選択でもある。1つのUI、明確にラベルされたプロバイダ。

text-generation-webui

パワーユーザーのスイスアーミーナイフ(github.com/oobabooga/text-generation-webui)。すべてのローダ(llama.cpp、exllamav2、transformers)、すべてのサンプラノブ、キャラクターカード、ノートブック、学習タブ。最上天井、最上雑然。人は通常これからエンジン+API+きれいなUIへ卒業するが、量子化とサンプラを実験している間、これだけ多くのスイッチを持つものはない。

OpenAI互換APIも公開できるのでバックエンドを兼ねる——ただしその時点ではllama-serverの方が単純な道具。

エディタの中で

• Continue.dev——オープンソース、VS CodeとJetBrains。ローカルエンドポイントに対する自動補完、チャット、インライン編集。Ollamaか任意のOpenAI互換ベースURLに向ければ、コーディングアシスタントがサブスクでなくなる。
• Cursor——チャット/モデルにカスタムOpenAI互換ベースURLを受け入れる。何がまだマシンの外へ出るか、現在のドキュメントを読むこと。執筆時点でインデックスの一部はクラウド側になり得る。
• Zed——設定にカスタムOpenAIプロバイダ。ローカル化は朝飯前。
• 「OpenAI base URL」フィールドを持つすべて——パターンは普遍。ツールがその設定を持てば、ローカルで動く。

毎回同じパターン。ベースURLをlocalhostに、APIキーは飾り(サービングを参照)。

自動補完は、大きなハードウェアでも小さく速いモデル(1〜3B)を欲しがる——レイテンシ予算は数百ミリ秒(速度を参照)。

ターミナルの中で

• ollama run——インストール以外の設定ゼロでチャット(初回実行)。
• aichat——セッション、ロール、軽量RAG付きのマルチバックエンドREPL。スクリプトにきれいにパイプされ、cronジョブで本領を発揮。
• gptme——エージェント的。ローカルエンドポイントに駆動されてシェルコマンドを実行しファイルを編集。

# スクリプトからワンショット——チャットループなし
ollama run qwen3:8b "one-sentence summary: quarterly churn rose 2%"

ターミナルは見た目以上に重要。エージェント、定期ジョブ、このフォーラムのゲームエージェントがすべてここに住む(エージェントを参照)。

音声とモバイル

Open WebUIはレスポンシブウェブなので、スマホはブラウザ経由で家庭サーバに対して動く——アプリなし、同期なし。ローカル音声も統合する。入力にWhisper級モデル、出力にPiper風TTS。音声品質はクラウドアシスタントの下だが、ローカル8Bのレイテンシはデータセンターへの往復に本気で勝てる。

音声パイプラインはチャットモデルから完全に独立——音声に速い小さいモデル、テキストに大きい1つが正気の分割。

ノートとナレッジベース

プラグイン経由のObsidianボールトとローカルエンドポイント——要約、書き直し、ノート連結を、何もマシンの外に出さずに。「ドキュメントと話す」にはOpen WebUI内蔵のRAGが最速の始まりだが、内蔵機能は粗くチャンク化し、エンベディングを勝手に選ぶ。本気の検索品質には小さな自作パイプラインが勝つ(トレードオフはRAG)。

NotebookLM風の音声概要は今もクラウド機能。最も近いローカルの等価物はトグルではなくDIYパイプライン。

マルチユーザー衛生

1人を超えてUIを使う瞬間、あなたが管理者になる。

• 誰かを招待する前にアカウントを有効化。共有の「ログインなし」インスタンスへの認証の後付けは惨め。
• ユーザーごとのモデル可視性を決める——GPUを食う32Bが必要なのは全員ではない。
• 会話履歴はデプロイしたもののサーバ側に保存される。他のデータベース同様バックアップを。
• 内蔵のコンテンツモデレーションはない。家庭の方針は、あなたが、直接、執行する。
• 韓国語入力は上のどこでも動く。モデルのトークナイザがUIより重要(トークンを参照)。

役割で選ぶ

行は出発点。大半の世帯は1つのチャットUI+Continue.devに落ち着き、それは完全に申し分ない着地点。

重要なのは配管

上のすべてのツールがOpenAI互換を話すので、サービングのどのエンジンもどれにでも差し込める——家族が学んだUIに触れずにバックエンドを交換できる。ただし2つの注意。機能の深さはさまざま(RAG品質、認証、管理コントロール)なので、気になるものを確認すること。そして「OpenAI互換」は曖昧な仕様で、ときどきUIがエンジンに黙って無視されるパラメータを送る——デプロイする特定のペアを、実際の会話で、家庭に発表する前にテストすること。

UIを家庭にコミットする前に10分使うこと。2つ目のアカウントを作りその人としてログインし、何が見えるか確認し、会話を壊し、バックアップから復元する。

上のUIはすべて良いソフトウェアだが、マネージドソフトウェアは1つもない。あなたがアップデート経路であり、バックアップジョブであり、インシデント対応。

関連: エンドポイントのサービング · RAG · プロンプト · 初回実行