最近关于多 agent 中对于博弈论的研究明显增多了，博弈论与机制设计是最核心的研究热点现在。 目前系统进入真实工业场景时的几个问题： 1. 多个子 Age… · @snwiki238337 · TwKit

@snwiki238337

最近关于多 agent 中对于博弈论的研究明显增多了，博弈论与机制设计是最核心的研究热点现在。 目前系统进入真实工业场景时的几个问题： 1. 多个子 Agent 并行运行，缺乏约束，自发海量重试、高频轮询和长上下文。 2. 委托-代理问题，当中心 agent 把任务交给子 agent 时，代理人拥有信息优势，存在偷懒或走捷径。。 3. 在自由讨论组中没有具体的责任归属，当最终交付失败时，系统无法确定是哪个 Agent 引入了初始幻觉。 某这方面是因为一个不确定的系统无法确保 1 0 0 %的准确度，因此只能转为数学的博弈论。 目前来看的话，多 Agent 系统的博弈论工具，主要集中在四个点上。 第一个就是典型代表就是我们前面的 MIT/哈佛团队的 MPT 论文。 系统不再由单一中心强行指派任务，而是构建一个微型内部市场。Agent 根据自身的计算资源、专业度和历史置信度进行出价，系统通过反向或清算机制决定谁来接单。这直接解决了长程异构任务中调度算法脆弱易错的问题。 第二个其实对应于另一篇 RCM 论文。研究的核心是如何设计一个通信协议，使得 Agent 做真的事情的收益永远大于虚标置信度的情况下。 引入明确的责任链，将外部监督转化为 Agent 在契约框架内的自我约束。 第三个是在事实核查、代码审计和法律金融推理中，研究者利用零和博弈或最小最大原理设计对抗网络。 两个 Agent 持相反立场，必须通过调用工具反驳对方。博弈论证明，只要奖励函数设计得当，系统唯一的纳什均衡点就是双方穷尽客观证据揭露事实真相，对冲单一模型的幻觉。 第四点应该是目前最广泛的一点 当大量 Agent 被部署到真实开放网络时，大部分研究正在使用囚徒困境、重复博弈模型，研究如何防止多个自主 Agent 之间自发形成伤害人类利益的恶意，或者因互不信任导致系统死锁。 目前来看路线是从文字上的拘束转变为数学机制上的严密。但是仍然无法确定这条路会是正确的，但是至少这条路在工业上是目前最可行的方式。

曝光 72 · 评论 0 · 点赞 2 · 书签 1