Harbor.

Harbor

Harbor 是一款强大的命令行工具和配套应用程序，只需一条命令即可部署完整的本地大语言模型（LLM）技术栈。轻松启动 Ollama、llama.cpp 或 vLLM 等后端，Open WebUI 等前端界面，以及 SearXNG 网络搜索、Speaches 语音对话、ComfyUI 图像生成等辅助服务——所有组件预配置完成，无缝协作。

产品亮点

• 一键部署：使用 harbor up 启动整个 LLM 基础设施，无需手动配置 Docker
• 预连接集成：所有服务自动互联，告别复杂的设置流程
• 多后端支持：支持 15 种以上推理引擎，包括 Ollama、vLLM、llama.cpp、TabbyAPI 和 SGLang
• 丰富生态系统：涵盖 80 多种服务，包括 UI 界面、后端引擎、卫星服务和流程工具
• 编程助手集成：通过 harbor launch 将 Harbor 后端接入 Claude、Codex 等编程智能体

应用场景

• 本地 AI 开发：无需依赖云端或支付 API 费用，即可构建和测试 LLM 应用
• 私有 AI 工作流：完全本地化部署 RAG、对话和图像生成，确保数据安全
• 本地模型编程：为 Claude Code、Codex 等编程工具提供本地 OpenAI 兼容后端
• 语音交互 AI：部署语音识别与合成能力，打造对话式交互界面
• 研究与实验：快速切换模型和配置，高效进行性能基准测试

目标用户

Harbor 专为开发者、AI 研究人员以及注重隐私的用户设计，适合希望本地运行大语言模型、又不想处理 Docker Compose 文件和手动服务配置的人群。尤其适合习惯使用命令行工具、追求简洁高效本地 AI 基础设施的技术用户。