desktop

="center"> <img src="resources/logo.png" width="112" alt="离" /> </p> <h1 align="center">人工智能</h1> <p align="center"> <strong>私有的、设备端的AI。您的模型，您的资料 — 无需云端，无需账户，无需API密钥。</strong> </p> <p align="center"> 通过一个本地的OpenAI兼容网关，在您的机器上运行开放模型 — <em>文本、视觉、图像、语音和音频</em>。 </p> <p align="center"> <a href="https://github.com/off-grid-ai/desktop/releases/latest">下载（macOS · Windows）</a> · <a href="docs/FEATURES.md">功能</a> · <a href="https://getoffgridai.co">getoffgridai.co</a> · <a href="https://getoffgridai.co/early-access/">Pro早期访问</a> </p> <p align="center"> <img alt="平台" src="https://img.shields.io/badge/macOS%20%C2%B7%20Windows-black" /> <img alt="许可证" src="https://img.shields.io/badge/license-AGPL--3.0-blue" /> <img alt="本地" src="https://img.shields.io/badge/100%25-on--device-34D399" /> </p> --- ## 它是什么 离网人工智能是一款**本地优先的AI运行时**，适用于您的桌面设备。从内置目录（或Hugging Face的任何GGUF）下载开放模型，并在每种模式下使用 — 所有推理都在您的硬件上通过捆绑的`llama.cpp`、`stable-diffusion.cpp`、`whisper.cpp`和Kokoro运行。没有任何内容通过我们拥有的服务器；您的对话、文件和模型永远不会离开您的设备。 它也是一个**OpenAI兼容网关**：将任何OpenAI客户端指向`http://127.0.0.1:7878/v1`（无需密钥），并在本地调用聊天、视觉、图像、音频和嵌入 — 或仅作为网关运行。 ## 内部一览 | ||---|---| | **聊天** — 文本、视觉、构件、设备端<br><img src="docs/screenshots/02-chat.png" alt="聊天" /> | **模型** — 精选目录 + Hugging Face搜索<br><img src="docs/screenshots/01-models.png" alt="模型目录" /> | | **网关** — 一个本地的OpenAI兼容API<br><img src="docs/screenshots/06-gateway.png" alt="网关" /> | **项目** — 分组聊天、RAG超过您的文档<br><img src="docs/03-projects.png" alt="项目" /> | | **连接器（MCP）** — 添加服务器，在聊天中使用<br><img src="docs/screenshots/05-integrations.png" alt="连接器" /> | **离网Pro** — 视觉/记忆/行动层（2026年7月）<br><img src="docs/screenshots/07-pro-upgrade.png" alt="Pro" /> | ## 功能（免费和开源） - **聊天** — 文本 + 视觉，流式传输，带有推理（“思考”）模式。 - **图像生成** — 文本→图像和图像→图像，通过stable-diffusion.cpp（SDXL等）。 - **语音** — 语音转文本（whisper）和文本转语音（Kokoro），以及免提语音模式。 - **项目** — 分组聊天，上传文档（txt/md/PDF/DOCX，音频，视频）并在其中聊天（RAG）；每个项目有特定的说明。 - **构件** — 在沙盒画布中生成和预览HTML、React、SVG、MermaidMarkdown文档；每个聊天和项目保存。 - **连接器（MCP）** — 添加模型上下文协议服务器（无/令牌/OAuth中使用。包含预设目录。 - **模型目录** — 精选的、按大小分类的推荐 + 直接Hugging Face搜索；下载、管理并设置每个模态的活动模型。 - **网关** — 一个适用于所有内容的OpenAI兼容端点；参见下文。 - **自动更新** — 签名的发布## 网关 一个本地服务器（`http://127.0.0.1:7878`）使用OpenAI API： | 功能 | 端点 | |---|---| | 聊天（文本 + 视觉） | `POST /v1/chat/completions` | | 文本 → 图像 | `POST /v1/images` (`/generations`, `/edits`) | | 语音 → 文本 | `POST /v1/audio/transcriptions` | | 文本 → 语音 | `POST /v1/audio/speech` | | 嵌入 | `POST /v1/embeddings` | | 模型 | `GET /v1/models` | ```bash curl http://127.0.0.1:7878/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{"model":"local","messages":[{"role":"user","content":"你好！"}]}' ``` ```python from openai import OpenAI client = OpenAI(base_url="http://127.0.0.1:7878/v1", api_key="not-needed") print(client.chat.completions.create(model="local", messages=[{"role":"user","content":"你好！"}]).choices[0].message.content) ``` 交互式API参考和OpenAPI规范在`/docs`和`/openapi.json`中提供。 仅运行网关（无UI/捕获）使用`OFFGRID_SERVER_ONLY=1`（或`--server-only`）。 ## 离网Pro — 即将在2026年7月推出 免费应用程序**运行**模型。 **Pro** 添加了**视觉、记忆和行动**层 — 始终在线，设备端： - **永不忘记** — 它默默地记住您看到和执行的一切。 - **统一搜索** — 跨捕获的活动、连接器查找任何内容。 - **私人CRM** — 自动构建人员、项目和公司，并附有跨源摘要。 - **当日 · 反思 · 重播** — 您的日程规划、时间花费、屏幕回放。 - **会议** — 本地记录 + 转录。 - **主动秘书** — 展现重要内容并起草行动（需审批）。 - **技能自动化** — 触发 → 行动（计划 / 关键词 / 事件）。 → **[加入早期访问](https://getoffgridai.co/early-access/)** （免费）— 或 **[立即支付](https://getoffgridai.co/pay)** 以获得永久免费 + Pro发布时的首发访问权限。 ## 安装 从[发布页面](https://github.com/off-grid-ai/desktop/releases/latest)获取最新版本： - **macOS** （Apple Silicon）— 签名 + notarized `.dmg` - **Windows** （x64）— `.exe` 安装程序 Linux（AppImage/deb）正在进行中。应用程序功能的详细分解参见 [docs/FEATURES.md](docs/FEATURES.md)。 ## 从源代码构建 ```bash git clone https://github.com/off-grid-ai/desktop.git cd desktop npm install npm run dev # 完整应用程序 npm run gateway # 仅限无头网关（:7878） npm run build:mac # 打包macOS应用程序 ``` 技术栈：Electron + React 19 + Tailwind v4（electron-vite），`better-sqlite3-multiple-ciphers` （加密本地数据库），`@lancedb/lancedb`（向量），捆绑的`llama.cpp` / `whisper.cpp` / `stable-diffusion.cpp` / `ffmpeg` 在 `resources/bin` 中。共享的`@offgrid/*` 包（设计、 模型，RAG）来自工作区。 ## 架构 — 开放核心 此仓库是**开放的AGPL核心**：模型运行器、网关、聊天、项目、 构件、连接器和模型目录。Pro功能存在于一个单独的**私有** 包中，作为git子模块加载（`pro/`）。核心**从不导入pro** — pro通过小型注册表（一个`activate()`模式）注册自身，并且在构建中完全缺失， 因此开放应用程序可以独立编译和运行。 ## 隐私 所有模型推理都是本地的。您的对话、文档和模型保留在您的设备上 — 无需云端推理，无需账户，也无需API密钥。您可以完全离线运行。 ## 许可证 [AGPL-3.0-only](LICENSE)。 © 离网人工智能 / 周三解决方案公司。