Harbor.

Harbor

Harbor は、1 つのコマンドで完全なローカル LLM スタックをデプロイできる強力な CLI およびコンパニオンアプリです。Ollama、llama.cpp、vLLM などのバックエンド、Open WebUI などのフロントエンド、さらにウェブ検索用の SearXNG、音声チャット用の Speaches、画像生成用の ComfyUI などのサポートサービスを、すべて事前に設定済みでシームレスに連携して起動できます。

製品のハイライト

• ワンコマンドデプロイ: harbor up で LLM インフラ全体を起動—手動の Docker 設定は不要
• プリワイヤード統合: すべてのサービスが自動的に相互接続され、複なセットアップ手順を排除
• マルチバックエンド対応: Ollama、vLLM、llama.cpp、TabbyAPI、SGLang など15以上の推論エンジンから選択可能
• 豊富なエコシステム: UI、バックエンド、サテライト、ワークフローツールをカバーする80以上のサービスにアクセス
• コーディングエージェント統合: harbor launch を使用して、Claude、Codex などのコーディングエージェントに Harbor バックエンドを接続

ユースケース

• ローカル AI 開発: クラウド依存や API コストなしで LLM アプリケーションを構築・テスト
• プライベート AI ワークフロー: 完全にセルフホストされた RAG、チャット、画像生成ですべてのデータをオンプレミスに保持
• ローカルモデルでのコーディング: Claude Code や Codex などのコーディングエージェントを、ローカルの OpenAI 互換バックエンドで駆動
• 音声対応 AI: 会話型インターフェースのための音声認譆・音声合成機能をデプロイ
• 研究と実験: ベンチマークのためにモデルと設定を迅速に切り替え

ターゲットオーディエンス

Harbor は、Docker Compose ファイルや手動のサービス設定に悩むことなく、ローカルで大規模言語モデルを実行したい開発者、AI 研究者、プライバシー重視のユーザーを対象に設計されています。コマンドラインツールに慣れており、合理化されたローカル AI インフラを求める方に最適です。