《AI不是魔法》

写给软件工程师的AI工程课

第八堂：AI为什么越来越像操作系统？

这一篇适合谁：

如果你发现AI应用越来越复杂、想知道它背后的架构逻辑、以及为什么大家都在说“AI OS”——那么这一篇值得看完。

上一堂课，我们知道：

Agent不是一种新的智能，它只是让Prediction可以不断继续发生。

这一堂课，我们继续回答：

当Prediction越来越多、越来越复杂，会发生什么？

一个团队用Agent处理CI失败。一开始很顺利：Agent读日志、改MR、通知Slack，一条龙搞定。

但很快，需求越来越多：

• Agent要记住上次是怎么修的——不能每次从头学

• 同时有多个CI失败——哪个优先处理？

• 测试环境和生产环境的权限不一样——Agent能改测试环境的配置，但不能碰生产环境

• 一个Agent忙不过来——需要多个Agent分工协作

团队发现：他们原本只想要一个Agent，最后却开始设计任务队列、权限系统、记忆系统、工具管理、调度策略。

这到底是为什么？

一、Prediction越来越长：Memory必然出现

第七篇我们说过：Agent的本质，是让Prediction进入循环。

但循环带来一个新问题：Context越来越长。

第一次循环：Context里只有用户的提问。

第二次循环：Context里增加了第一次查询的结果。

第三次循环：Context里又增加了第二次调用的返回值。

第十次循环：Context已经大到放不下了。

LLM的Context Window是有限的。当Context超出窗口，最早的内容就会被挤掉——Agent会忘记自己最初的目标，忘记之前做过什么，忘记已经得到的结果。

所以，Memory必然出现。

Prediction越来越长
    ↓
Context放不下
    ↓
Memory

不是有人发明了Memory，而是Prediction的Loop越来越长，Context放不下，于是Context必须外包。

Memory不是什么新奇的概念。它就是Context的外包存储——放不下的Context，存到外面去，需要的时候再拿回来。

没有Memory，Prediction的Loop就无法持续变长。

二、Prediction越来越多：Workflow必然出现

一个Agent循环，没问题。两个Agent同时循环，开始有问题。十个Agent同时循环，一片混乱。

• 哪个Agent优先执行？

• 一个Agent的执行结果，是另一个Agent的输入，谁先谁后？

• 一个Agent失败了，其他Agent要等着吗？

• 一个Agent跑了两小时，超时了，怎么处理？

所以，Workflow必然出现。

Prediction越来越多
    ↓
Loop开始冲突
    ↓
Workflow

不是有人发明了Workflow，而是Prediction越来越多，开始抢资源、开始互相等待、开始失败，于是必须调度。

Workflow不是什么神秘的概念。它管理Prediction发生的顺序——决定哪个Prediction先发生、哪个后发生、失败了怎么办。

没有Workflow，Prediction的Loop就会变成失控的循环。

三、Prediction越来越危险：Permission必然出现

Agent能调用的工具越来越多：GitLab、Jenkins、数据库、邮件、Slack、生产环境API。

每一次Prediction，都可能触发一次工具调用。每一次工具调用，都可能影响真实世界。

• 客服Agent的Prediction：查订单（安全）、改价格（危险）

• 运维Agent的Prediction：读日志（安全）、删数据库（危险）

• 数据分析Agent的Prediction：查报表（安全）、发通知（危险）

所以，Permission必然出现。

Prediction越来越危险
    ↓
Tool影响世界
    ↓
Permission

不是有人规定了权限，而是Prediction越来越容易影响世界，风险越来越高，于是Prediction影响世界的能力必须受到限制。

Permission不是什么官僚主义。它限制Prediction影响世界的能力——决定哪些Prediction可以做，哪些不能做。

没有Permission，Prediction越能干，越危险。

四、Prediction越来越复杂：Multi-Agent必然出现

一个Agent处理一个简单任务，没问题。但有些任务太复杂了：

• 既要查知识库，又要调多个工具，又要生成报告，又要发送通知

• 一个Agent的Context装不下这么多信息

• 一个Agent的Loop周期太长，效率太低

所以，Multi-Agent必然出现。

Prediction越来越复杂
    ↓
一个Prediction装不下
    ↓
Multi-Agent

不是有人发明了多Agent，而是一个Prediction已经装不下整个任务，Prediction必须拆分，于是多个Prediction、多个Agent分工协作。

Multi-Agent不是什么高级概念。它管理Prediction的分工协作——复杂任务拆成多个子任务，每个子任务由一个Agent负责，最后汇总结果。

没有Multi-Agent，一个Agent扛不住复杂任务。

五、为什么这越来越像操作系统？

把前面全部收束，你会发现惊人的对应关系。

Prediction的演化过程：

Prediction越来越长 → Context放不下 → Memory
Prediction越来越多 → Loop开始冲突 → Workflow
Prediction越来越危险 → Tool影响世界 → Permission
Prediction越来越复杂 → 一个Prediction装不下 → Multi-Agent

这四个东西——Memory、Workflow、Permission、Multi-Agent——合在一起，是什么？

有没有觉得很眼熟？

传统操作系统做的事情：

文件系统 → 管理数据（对应Memory）
进程调度 → 管理任务（对应Workflow）
权限控制 → 管理安全（对应Permission）
多进程协作 → 管理分工（对应Multi-Agent）

AI不是越来越像操作系统。它已经开始重复操作系统的发展历史。

传统操作系统负责管理计算资源。AI操作系统负责管理智能资源——包括Prediction、Context、Memory、Workflow、Tool、Agent。

过去，计算机围绕计算构建。未来，AI系统将围绕Prediction构建。

一个真实的工程案例

某公司搭建了一个内部AI平台，支撑多个Agent同时运行：

• 客服Agent：处理客户咨询，需要访问订单系统和知识库

• 运维Agent：监控系统状态，需要访问日志系统和CI工具

• 数据分析Agent：定期生成报表，需要访问数据库和BI工具

最初，每个Agent独立开发，各自管理工具连接、知识库、权限。

结果：三个Agent，三套工具适配，三套知识库，三套权限管理。维护成本爆炸。

后来，他们做了一个统一平台：

• 统一的Memory管理（共享Context存储）

• 统一的Workflow引擎（任务编排与调度）

• 统一的Permission系统（谁可以调什么工具）

• 统一的Agent通信机制（多Agent协作）

这个平台，本质上就是一个“AI操作系统”。每个Agent不再关心底层基础设施，只需要专注于自己的业务逻辑。

一个一分钟思维实验

回想一下你每天使用的操作系统。

你打开浏览器、编辑器、终端——它们同时运行，互不干扰。你不需要关心CPU怎么分配、内存怎么管理、硬盘怎么读写。操作系统帮你搞定了一切。

现在想象一下：如果你的AI应用也能这样——多个Agent同时运行，互不干扰，资源共享，统一管理——它是不是越来越像一个操作系统？

工程师容易踩的坑

🚫 错误做法：
把所有AI能力都塞进一个Agent，让它自己管理一切。

为什么错：
一个Agent的能力边界是有限的。没有合理的分工、调度、权限管理，Agent很快就会变成一团乱麻。

✅ 正确做法：
像设计操作系统一样设计AI系统——分层、模块化、职责分离。Agent只负责业务逻辑，基础设施由统一平台管理。

今天记住这一句话

AI越来越像操作系统，不是因为设计如此，而是因为复杂到一定程度，它必须如此。

如果今天只带走一个观点，那就是：过去，计算机围绕计算构建。未来，AI系统将围绕Prediction构建。

系列世界观升级

走到第八篇，整本书的视角从“AI能力”升级到了“AI系统架构”。

回头看这八篇，你会发现一个规律：

我们从来没有发明一种新的智能。我们只是不断让Prediction拥有越来越好的生存环境。

第一篇：Prediction
第二篇：Prompt → Prediction理解用户
第三篇：Transformer → Prediction更高效
第四篇：RAG → Prediction获得知识
第五篇：Function Calling → Prediction影响世界
第六篇：MCP → Prediction连接工具
第七篇：Agent → Prediction不断继续
第八篇：Memory / Workflow / Permission / Multi-Agent → Prediction不会遗忘、井然有序、受到约束、分工协作

AI从来没有越来越聪明。Prediction只是越来越容易发生。

下一篇预告：

当AI越来越像一个系统，问题也变了。

过去我们只需要判断一句回答对不对。现在我们要判断一个系统是否完成了任务、是否安全、是否稳定、是否可控。

下一篇，我们聊：AI回答得好不好，到底谁说了算？