从 LLM OS 到 Agent OS:算法与工程的黄金分工
+#随手发一点最近的学习笔记
从LLM OS到AgentOS,普遍的共识是AI会诞生新的操作系统,但采用何种方式并没有结论。最近看了OpenAI和Elevenlabs发布的可视化流程编辑器,flowith也算上吧,感觉AgentOS的大厦有建脚手架了。
今天早上,我回看过去写过的所有prompt,突发奇想去问DeepSeek,prompt的黄金标准是什么?“角色-任务-约束”,这并不稀奇。
但它其中一点提到:“把个性化的内容拆分出来,实现可复用性”。
这个点一下就让我联想起来了。从Manus CTO之前讲上下文的历史消息和缓存中提到的节省KV cache的方式,到Agent本身被设计用于执行高度重复性的任务,似乎我们都在不自觉地追求流程的“可复用性”与“标准化”,这就有趣了
从prompt->context的过程,能不能理解成和LLM OS到近期Agent OS的讨论是同一个序列演进?
一开始是基础的续写与问答(GPT-2/3),后来发展到成对的QA,再到工具调用型问答,接着 DeepSeek-R1 融合了思维链与工具调用的多步推理,形成 ReAct 这类回合制的工作流。
在资源无限的情况下,我当然是“苦涩的教训”,但是救命现在的token都好贵啊。放开手让 AI 做一切固然理想,但现实中,把能规则化的部分工程化,或许才是 Agent 真正走向实用的开始。随着模型能力增强,复杂性在转移。我们用Bash替代一堆定制化工具;通过Sub-Agent机制将复杂任务模块化、隔离化;当上下文过长时,用自动压缩(工程手段)来牺牲部分细节以保全系统运行。这里哲学可能是:将不确定性封装在算法的“盒子”里,然后用工程手段去管理这些盒子。
核心:工程与算法的黄金分工,同一个任务可能有确定的场景和不确定的场景,举个例子送外卖送到大小区你能轻松找到电梯,送到犄角旮旯巷子口你就得试错
工程解决确定性部分:用正则、黑白名单、Hook钩子处理工具调用的安全检查、信息匿名化。这些是“if-else”能覆盖的领域,精准、廉价、可靠。
算法解决不确定性部分:需要理解、推理、创造的开放性任务,才动用LLM这个“重武器”。Prompt的“角色-任务-约束”黄金法则,本质上是将非结构化的创意工作,结构化成一个可工程化调试的“配置参数”。
与其完全依赖模型的“自觉”,不要总是幻想能驯服一匹脱缰的野马,不如用规则和流程去约束任务执行——就像不是所有工作都需要“985学生”,有些标准化动作交给专业模块更稳定高效。
