Agent 进化机制的安全性考量

实验组：纯 Agent 生成方式：agent_automatic 目标长度：2500 字 目标深度：intermediate 进化机制是 Agent 系统从“工具”走向“数字员工”的分水岭。没有进化的 Agent 只是一组静态 API 的封装，有了进化，它才能适应业务变化、优化决策路径、甚至自行编写新的工具。但进化意味着系统开始修改自身的逻辑，这一动作一旦越过某条边界，安全模型就从“防外部攻击”转向“防内部失控”。 MAREF 在设计进化机制时，核心原则只有一条：任何进化动作都必须产生可审计、可回滚、可验证的增量，而不是整体重写。我们拒绝让 Agent 直接修改自己的核心提示词或权重文件，所有进化都发生在外部化的“技能层”和“策略层”，而不是“身份层”和“价值观层”。 先定义清楚...