ai-agent-architecture

# 人工智能代理与大语言模型系统的架构 **一本关于构建可控大语言模型系统的工程书籍 —— 免费、开源，面向有实际经验的工程师** *作者：Aleksandr Drobiazkin · 中文版和英文版* **联系方式：** [aleksandr.drobiazkin@gmail.com](mailto:aleksandr.drobiazkin@gmail.com) · [领英](https://www.linkedin.com/in/aleksandr-drobiazkin-501bab263) [](LICENSE) [](LICENSE-CODE) 企业自动化的模式、方法和工程实践 —— 8 部分，26 章，5 个附录，约 258 页（印刷版），以及一个实践课程。没有炒作，没有“提示技巧”，没有供应商营销。机制、权衡和数据。 --- ## 本书存在的意义 在接下来的十年里，有一种可能：构建任何智能系统都意味着通过三个公司的 API 调用来租用它们 —— 而在此基础上构建的工程师无法解释从 JSON 请求到返回答案之间发生了什么。 这不是一个许可问题。这是一个**能力**问题，而且是唯一一个你可以真正解决的问题。 **数字独立并不意味着拒绝使用托管模型。它意味着永远不必离开。** 知道注意力如何扩展、KV 缓存的成本、检索模式何时优于微调、如何在自己的硬件上提供开放模型，以及评估套件在发布前必须证明什么的工程师 —— 这样的工程师**选择**自己的技术栈。只知道 SDK 的工程师则由定价页面决定下一个季度会发生什么。 本书的目的是将尽可能多的人从第二组转移到第一组。这就是本书的全部原因。本书是免费的，保持免费，遵循 CC BY-SA 许可，并且整个第七部分都用于教您自己微调、提供和预训练模型 —— 这些章节是供应商永远不会为您写的。 如果这个结果对您有价值，[您可以支持这项工作](#支持这项工作)。 --- ## 目录 材料被组织成一种**模式语言**。每个重要的模式都有一个固定的模板 —— 背景、问题、力量、解决方案、机制、示例、结果背景、何时使用 / 何时不使用、相关模式、来源。模板是该学科的共同继承 —— 从 Alexander 到 Gang of Four 到 Chris Richardson 的 *Microservices Patterns*，本书的阐述以此为借鉴；最后四个小节是本书的补充。仅用于参考命名：Chris Richardson 和 Manning Publications 没有参与本书的编写、审查或背书。本书中没有断言没有底层机制的内容。 | 部分 | 内容 | |---|---| | **I. 模型作为组件** | 分词、嵌入、注意力、稠密 vs. MoE、生成循环、解码策略、上下文窗口故障模式、幻觉 —— 以及经济学：成本、延迟、确定性、可靠性、托管 vs. 自托管 | | **II. 模型的接口** | 提示工程作为合同设计；上下文工程及其模式目录；结构化输出和约束解码 | | **III. 接地：RAG** | 检索模式梯度（朴素 → 混合 → 重排序 → GraphRAG → 智能体 → 自适应），矢量索引和 ANN 内部，数据分块和 RAG 评估 | | **IV. 动作：智能体** | 智能体作为分布式系统；模式目录（链式、路由、并行化、协调器-工作器、评估器-优化器）；工具调用作为合同；记忆和推理策略；多智能体系统和完整的故障分类 | | **V. 集成** | 模型上下文协议（MCP）端到端；基于 JVM 的技术栈组装 | | **VI. 生产** | 构建评估系统；可观察性和 OpenTelemetry GenAI 约定；安全 —— 提示注入、致命三要素、纵深防御；成本和延迟工程 | | **VII. 您自己的模型** | 微调（LoRA、QLoRA、DoRA、RLHF/DPO、蒸馏）；部署开放模型（PagedAttention、连续批处理、量化、推测解码）；预训练和缩放定律 | | **VIII. 综合** | 参考架构、组织采用和治理，以及带有架构决策记录包的完整工作示例 | **附录：** 线性代数基础 · 模式索引 · 单个智能体轨迹的解剖 · 架构师的飞行前检查清单 · 综合参考文献。 来源在使用的位置被引用，而不是放在最后。可能过时的事实会带有年份。在行业仍在变化的地方，文本会说明这一点，而不是进行猜测。 ## 适用人群 已经设计分布式系统（ saga、编排和协调、DDD、事件驱动架构、安全）的工程师 —— 并希望将大语言模型和智能体作为**架构组件**，而不是神奇的东西。 它不会重新教授编程或分布式系统。它解释了大语言模型世界中与您已经知道的模式相对应的内容，什么是真正新的， 以及**类比何时失效**。 ## 阅读本书 | 格式 | 路径 | |---|---| | Markdown，每个章节一个文件 | [`book/`](book/) | | 单文件 HTML | 自己构建 —— 请参阅 [`build/README.md`](build/README.md) | | PDF | 自己构建 —— 请参阅 [`build/README.md`](build/README.md) | **俄语版 / 中文版** —— 完整书籍和课程在 [`ru/`](ru/)（Markdown 源代码、HTML、PDF）。两个版本都是作者自己的；请参阅 [`PROVENANCE.md`](PROVENANCE.md)。 图表是 Mermaid 格式的，在 GitHub 上原生渲染。英文版的图表是从源代码生成的 —— 脚本位于 [`tools/figures/`](tools/figures/) 中；它们是俄语版图表的英文重制版。每个图表都是从已发布的 数据中绘制的，来源在图表本身中注明。 ## 配套课程 [`course/`](course/) 是一个实践课程，将本书转化为一个工作系统：九个模块，从您自己的硬件上的本地模型到 RAG、带有 saga 纪律的智能体、MCP、评估、微调和一个顶点架构。每个模块都有一个您可以自己检查的完成定义。为 JVM 工程师提供了 Python 入门课程。 --- ## 支持这项工作 这本书花了很长时间来写，并且是完全免费的 —— 没有付费墙，没有电子邮件门槛，没有“高级层”，没有赞助商决定哪个章节太诚实而不能发布。**它将保持这种状态。** 如果它为您节省了一周的研究时间，防止了一次生产事故，使架构审查顺利进行，或者教您一些课程会收费的内容 —— 您可以资助下一个修订： | | 地址 | |---|---| | **比特币** | `bc1qprm2x8rafkw5qqpnt5vprrww5q6wdkmkpcysjl` | | **以太坊** （ERC-20） | `0x238017d8E60645890FcE7db5E81f75aefdbE391A` | | **USDT** （TON） | `UQCexQpgOlcJ0mNR3wtdy5kwr8N5kRofztFFrNv-xag7Z59v` | | **波场** （TRC-20） | `TBDQhRiFUGJjQJB996SsMP58sYfJmUH99d` | | **索拉纳** | `2P7qnD6LDMmQBgNx9vvMV3QPNQmSYhdqSfMkNZn3Pipt` | **它资助的内容：** 在一个每六个月就自我重塑的领域，保持本书的更新 —— 新章节、修订的数据、重新验证的来源，以及实际测试所声称内容的计算能力。每次修订都会在这里免费提供给所有人。 **非经济支持同样重要** —— 并且真正比小额捐款更有价值：给仓库加星、修复错误、打开问题时报告错误、翻译章节或将本书交给需要它的工程师。纠正错误是最有价值的贡献：发现的错误是一个错误，一千个读者永远不会遇到。 > [!IMPORTANT] > **请检查您发送的来源。** 接收交易所拒绝来自受制裁平台的转账，拒绝的资金可能会被冻结或丢失 —— 这是一个实用警告，而不是政治声明。 > > 不要从以下平台发送： **Garantex, Grinex, Bitpapa, Suex, Chatex, Cryptex, PM2BTC, HTX (formerly Huobi), Rapira, ABCEX, Exnode (Exnode Pay), USDKG, EXMO, Aifory Pro, Nobitex, Wallex, Bitpin, Ramzinex** —— 或任何受**联合国安理会**制裁名单、**美国财政部外国资产控制办公室（OFAC）**名单或**欧盟综合金融制裁**名单约束的平台。 > > 从主流、合规的交易所或自托管钱包发送是安全的。如果有疑问，请使用自托管钱包。 --- ## 许可 | 内容 | 许可 | |---|---| | 文本、图表、 `mermaid` 图表 | [CC BY-SA 4.0](LICENSE) | | 围栏代码块、 `tools/`、 `build/` | [MIT](LICENSE-CODE) | | 构建的 HTML 中嵌入的第三方资产 | 它们自己的 —— 请参阅 [`NOTICE`](NOTICE) | **边界恰好是围栏。** 用语言标记的三反引号块（`python`、`java`、`sql`、`bash`、`yaml`、`xml`、`json`）是 MIT，包括其中的注释。其他所有内容都是 CC BY-SA 4.0 —— 文本、表格、公式和 `mermaid` 块，它们是作为文本编写的图表。 `book/` 和 `course/` 下的每个源文件都带有 SPDX 头，以此作为文件分割的标记，如果您取单个章节，它也会随文件一起旅行。 **简单来说：** 阅读、打印、教学、翻译、引用、构建课程 —— 商业或非商业。两个条件：**注明作者**，如果您发布基于文本的内容，**请使用相同的许可**。本书不能被封闭。这就是 ShareAlike 的意义所在，它是本书所倡导的许可：开放的内容始终保持开放。 **在使用此内容之前，请注意一个不对称性。** CC BY-SA 4.0 接受来自 CC BY、CC0、公共领域和 CC BY-SA 4.0 本身的传入材料 —— 但它不接受任何非商业（NC）或衍生品（ND）许可的传入材料。在翻译的章节中添加 NC 许可的图表会直接破坏许可，而不是仅仅破坏其精神：§2（a）（5）（B）禁止添加此许可不具备的限制。这里不包含任何此类内容。 署名：**Aleksandr Drobiazkin** —— 2026 版权所有。手稿存在于特定状态的日期已通过密码学证明；请参阅 [`PROVENANCE.md`](PROVENANCE.md)。 ## 贡献 欢迎提出纠正、精确性和有来源的反证据 —— 请参阅 [`CONTRIBUTING.md`](CONTRIBUTING.md)。标准是本书的标准：**来源是唯一的权威**。关于机制的主张需要一级引用；数据需要可以被核实的来源。