OGAD

<p align="center"> <img src="resources/logo.png" width="112" alt="离网 AI" /> </p> <h1 align="center">离网 AI</h1> <p align="center"> <strong>私有的，设备端的 AI。您的模型，您的资料 — 无需云端，无需账号，无需 API 密钥。</strong> </p> <p align="center"> 一个本地优先的 AI 运行时 + 工作室 — 在您的设备上运行开放模型（<em>文本，视觉，图像，语音，音频</em>）， 全部通过一个与 OpenAI 兼容的网关。并且有一个始终在线的层，它 <em>看到，记住，思考，并行动</em> — 全部在设备上。 </p> <p align="center"> <a href="https://github.com/off-grid-ai/desktop/releases/latest">下载（macOS）</a> · <a href="docs/FEATURES.md">功能</a> · <a href="https://getoffgridai.co">getoffgridai.co</a> · <a href="https://getoffgridai.co/pay">获取专业版</a> </p> <p align="center"> <img alt="平台" src="https://img.shields.io/badge/macOS-Apple%20Silicon-black" /> <img alt="许可证" src="https://img.shields.io/badge/license-AGPL--3.0-blue" /> <img alt="本地" src="https://img.shields.io/badge/100%25-on--device-34D399" /> </p> <p align="center"> <strong><a href="https://github.com/off-grid-ai/mobile">离网 AI 移动版</a></strong> — 相同的设备端 AI，在您的手机上 &nbsp;·&nbsp; <a href="https://github.com/off-grid-ai/mobile"><img alt="离网 AI 移动版 GitHub 明星" src="https://img.shields.io/github/stars/off-grid-ai/mobile?style=social" /></a> &nbsp;·&nbsp; 超过 10 万次下载 </p> --- ## 它是什么 离网 AI 是适用于您桌面的**本地优先的 AI 运行时**。从内置目录（或 Hugging Face 的任何 GGUF）下载开放模型， 并在所有模态中使用它们 — 所有推理都在您的硬件上运行，通过捆绑的 `llama.cpp`、`stable-diffusion.cpp`、 `whisper.cpp` 和 Kokoro。没有任何内容通过我们拥有的服务器路由；您的对话、文件和模型永远不会离开您的设备。 一个应用中的三个功能： 1. **工作室** — 聊天（文本 + 视觉 + 推理），设备端图像生成，语音输入/输出，实时工件/画布，项目和聊天工具 — 一个本地的 Claude/LM-Studio/Ollama，全部在设备上。 2. **网关** — 一个本地的与 OpenAI 兼容的 API (`http://127.0.0.1:7878/v1`，无需密钥），用于聊天，视觉，图像，音频和嵌入。 运行它作为无头网关。 3. **离网专业版** — 一个始终在线的私有层，它**看到**您的作品（屏幕 → OCR），**记住**它，帮助您**思考**，并**行动**，所有操作都在设备上进行，需要您许可。 ## 内部一览 <table> <tr> <td width="50%"><strong>聊天</strong> — 文本，视觉，推理，工件，设备端<br><img src="docs/screenshots/02-chat.png" width="100%" alt="聊天" /></td> <td width="50%"><strong>模型</strong> —精选目录 + Hugging Face 搜索<br><img src="docs/screenshots/01-models.png" width="100%" alt="模型目录" /></td> </tr> <tr> <td width="50%"><strong>网关</strong> — 一个本地的与 OpenAI 兼容的 API<br><img src="docs/screenshots/06-gateway.png" width="100%" alt="网关" /></td> <td width="50%"><strong>项目</strong> — 分组聊天，文档的 RAG<br><img src="docs/screenshots/03-projects.png" width="100%" alt="项目" /></td> </tr> <tr> <td width="50%"><strong>连接器（MCP）</strong> — 添加服务器，在聊天中使用<br><img src="docs/screenshots/05-integrations.png" width="100%" alt="连接器" /></td> <td width="50%"><strong>工件</strong> — HTML，React，SVG 和 Mermaid 在本地沙盒中<br><img src="docs/screenshots/09-artifacts.png" width="100%" alt="工件" /></td> </tr> <tr> <td width="50%"><strong>离网专业版</strong> — 看见/记住/思考/行动层<br><img src="docs/screenshots/07-pro-upgrade.png" width="100%" alt="专业版" /></td> <td width="50%"><strong>默认私有</strong> — 在您的机器上运行，无需账号<br><img src="docs/screenshots/08-onboarding.png" width="100%" alt="默认私有" /></td> </tr> </table> ## 功能（免费和开源） 免费的开源应用是一个完整的设备端 AI 工作室： - **聊天** — 文本 + 视觉，流式传输，具有推理（“思考”）模式和每个聊天的模型设置（温度，上下文窗口）。 - **图像生成** — 文本→图像和图像→图像，通过 `stable-diffusion.cpp`（Metal）。包含 **SDXL-Lightning**（几步，快），SDXL，SD 1.5/2.1 和 **Z-Image-Turbo**（2026 旗舰，~8 步）。实时每步预览，进度 + 预计时间，取消，灯箱和您生成的所有工件画廊。 - **语音** — 语音转文本（whisper）和文本转语音（**Kokoro-82M**，多语言），以及免提语音模式。 - **工件/画布** — 模型的 HTML，React/JSX，SVG，Mermaid 和 Markdown 在沙盒 iframe 中实时渲染（无网络/文件访问）；代码/预览切换，下载，每个聊天和项目保存。 - **项目** — 分组聊天，上传文档（txt/md/PDF/DOCX，图像，音频，视频）并在它们的基础上进行聊天（带有引用的 RAG）；每个项目的说明。 - **聊天工具** — 一个智能循环在对话中调用本地工具：内置工具（计算器，日期和时间）以及您添加的任何 MCP 连接器。 - **连接器（MCP）** — 添加模型上下文协议服务器（无/token/OAuth）并在聊天中使用。包含预设目录。 - **模型目录** — 精选的按大小分类的推荐 + 直接的 Hugging Face 搜索；下载，管理和设置每个模态的活动模型。 - **网关** — 适用于所有功能的单个与 OpenAI 兼容的端点；参见下文。 - **自动更新** — 签名的发布会自行更新。 详细分解请参见 [docs/FEATURES.md](docs/FEATURES.md)。 ## 网关 本地服务器（`http://127.0.0.1:7878`）使用 OpenAI API： | 功能 | 端点 | |---|---| | 聊天（文本 + 视觉） | `POST /v1/chat/completions` | | 文本 → 图像 | `POST /v1/images` (`/generations`, `/edits`) | | 语音 → 文本 | `POST /v1/audio/transcriptions` | | 文本 → 语音 | `POST /v1/audio/speech` | | 嵌入 | `POST /v1/embeddings` | | 模型 | `GET /v1/models` | ```bash curl http://127.0.0.1:7878/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{"model":"local","messages":[{"role":"user","content":"你好！"}]}' ``` ```python from openai import OpenAI client = OpenAI(base_url="http://127.0.0.1:7878/v1", api_key="not-needed") print(client.chat.completions.create(model="local", messages=[{"role":"user","content":"你好！"}]).choices[0].message.content) ``` 交互式 API 参考和 OpenAPI 规范在 `/docs` 和 `/openapi.json` 上提供。 ### 只运行网关（无头） 您不需要桌面 UI 来提供模型 — 只运行**网关**（无 UI，无捕获），并将任何 OpenAI 客户端指向它。适用于服务器，家庭实验室盒或将本地模型连接到您自己的应用程序： ```bash # 从已构建的应用 /Applications/Off\ Grid\ AI.app/Contents/MacOS/Off\ Grid\ AI --server-only # 或从源代码 OFFGRID_SERVER_ONLY=1 npm run gateway ``` 它**自给自足** — 通过 HTTP 管理模型，无需 UI： | 操作 | 端点 | |---|---| | 列出目录 | `GET /v1/models/catalog` | | 列出已安装的 | `GET /v1/models/installed` | | 每个模态的活动模型 | `GET /v1/models/active` | | **拉取** 模型 | `POST /v1/models/pull` `{ "id": "…" }` → 轮询 `GET /v1/models/pull/status?id=…` | | **激活** 模型 | `POST /v1/models/activate` `{ "id": "…", "kind"?: "image\|speech\|transcription" }` | | **删除** 模型 | `POST /v1/models/delete` `{ "id": "…" }` | ```bash # 拉取模型到无头网关，然后聊天 curl -X POST http://127.0.0.1:7878/v1/models/pull \ -H 'Content-Type: application/json' -d '{"id":"unsloth/gemma-4-E4B-it-GGUF"}' curl -X POST http://127.0.0.1:7878/v1/models/activate \ -H 'Content-Type: application/json' -d '{"id":"unsloth/gemma-4-E4B-it-GGUF"}' ``` ## 离网专业版 — 现已可用 免费应用**运行**模型。**专业版**添加了一个始终在线的层，它将您的工作变成私有的设备端内存 — 以及一个帮助您采取行动的助手。所有功能都需明确选择加入，并带有可见的录制指示器，任何内容都不会离开设备。 - **看到** — 屏幕捕获 → OCR → 设备端 LLM 蒸馏成观察 + 实体。多监视器感知，消费与工作分类，跳过空白/锁定帧。 - **记住** — **日记**（一个带有时间块的持久化日记），**实体**（一个私有的 CRM-foreverything：人员，项目，公司，通过合成摘要自动构建），和 **重放**（您一天的“电影”，您可以滚动和播放）。 - **思考** — 思维共享，平衡，上下文切换和日/周趋势。 - **会议** — 记录 **Google Meet + Zoom**（屏幕 + 系统音频 + 麦克风），在本地使用 whisper 转录，并将 LLM 标题/摘要/与会者折叠到您的时间线中。 - **语音输入** — 按住 **⌥ Space** 并说话；whisper 完全在设备上转录文本并在任何应用程序中粘贴。轻触切换或按住说话，可搜索的录音库，拖入音频/视频文件转录，以及从您的对话中提取的人员，项目和待办事项。任何内容都不会离开设备。 - **剪贴板** — 私有剪贴板管理器：可搜索的您复制的所有内容的记录，包含图像，PDF 和文件预览，快速粘贴弹出窗口，全部存储在设备上。 - **行动（经批准）** — 从您的通信中检测行动项，审批队列 + 审计日志（无日志批准执行），MCP 连接器作为权威来源，以及技能框架（触发器 → 操作）— 正在开发以成为主动秘书和展望“明日”视图。 **专业版现已上线。** 在 **[getoffgridai.co/pay](https://getoffgridai.co/pay)** 购买许可证 — 您将收到许可证密钥，安装专业版构建并在应用中激活密钥。许可运行在 **[Keygen](https://keygen.sh)** 上，一个专业版许可证可覆盖最多 **5 台设备**。专业版功能存在于一个单独的**私有** 包中；开源核心永远不会导入它 — 请参见[架构](#architecture--open-core)。专业版构建在运行时由许可证控制，因此它在有效密钥激活之前保持锁定。 <table> <tr> <td width="50%"><strong>日记</strong> — 您的日程，从实际活动规划<br><img src="docs/screenshots/pro-day.png" width="100%" alt="日记" /></td> <td width="50%"><strong>实体</strong> — 私有 CRM 自动构建<br><img src="docs/screenshots/pro-entities.png" width="100%" alt="实体" /></td> </tr> <tr> <td width="50%"><strong>思考</strong> — 您的注意力实际分布<br><img src="docs/screenshots/pro-reflect.png" width="100%" alt="思考" /></td> <td width="50%"><strong>搜索</strong> — 跨所有内容统一搜索<br><img src="docs/screenshots/pro-search.png" width="100%" alt="统一搜索" /></td> </tr> <tr> <td width="50%"><strong>会议</strong> — 记录 + 本地转录<br><img src="docs/screenshots/pro-meetings.png" width="100%" alt="会议" /></td> <td width="50%"><strong>重放</strong> — 像电影一样回放您的屏幕<br><img src="docs/screenshots/pro-replay.png" width="100%" alt="重放" /></td> </tr> <tr> <td width="50%"><strong>语音输入</strong> — 设备上转录，粘贴到任何地方<br><img src="docs/screenshots/pro-voice.png" width="100%" alt="语音输入" /></td> <td width="50%"><strong>剪贴板</strong> — 可搜索的历史 + 快速粘贴弹出窗口<br><img src="docs/screenshots/pro-clipboard.png" width="100%" alt="剪贴板" /></td> </tr> </table> _{专业版屏幕截图显示合成演示数据。} → **[获取专业版](https://getoffgridai.co/pay)** — 购买许可证，安装专业版构建，激活您的密钥。 ## 安装 从 [Releases](https://github.com/off-grid-ai/desktop/releases/latest) 获取最新构建： - **macOS** （Apple Silicon）— 签名 + notarized `.dmg` 目前仅支持 macOS。 ## 从源代码构建 ```bash git clone https://github.com/off-grid-ai/desktop.git cd desktop npm install npm run dev # 完整应用 npm run gateway # 仅无头网关（:7878） npm run build:mac # 打包 macOS 应用 ``` 栈：Electron 39 + React 19 + Tailwind v4（electron-vite）， `better-sqlite3-multiple-ciphers`（加密本地数据库），`@lancedb/lancedb`（向量）， `llama.cpp` / `whisper.cpp` / `stable-diffusion.cpp` / `ffmpeg` 捆绑在 `resources/bin` 中。 共享的 `@offgrid/*` 包（设计，模型，RAG）来自工作区。使用 `npm run typecheck` 验证更改，然后声明完成。 ## 架构 — 开源核心 此仓库是 **开源的 AGPL 核心**：模型运行器，网关，工作室（聊天，图像，语音，工件），项目，连接器和模型目录。 专业版功能存在于一个单独的**私有** 包中，作为 git 子模块加载（`pro/`）。核心 **永远不会导入专业版** — 专业版通过小注册表（`activate()` 模式）注册，并且在构建中完全缺失，因此开源应用可以独立编译和运行。 ## 隐私 所有模型推理都是本地的。您的对话，文档和模型保留在您的设备上 — 没有云推理，没有账号，也没有 API 密钥。您可以完全离线运行。 ## 许可证 [AGPL-3.0-only](LICENSE)。&copy; 离网 AI / Wednesday Solutions, Inc.