当我们赋予 AI Agent 越来越多的自主权，甚至让它们自发组团、协作决策时，就会出一个问题：规模越大，效率越高，权力也越不受制约。 在任何集体行动中，个… · @snwiki238337 · TwKit

@snwiki238337

当我们赋予 AI Agent 越来越多的自主权，甚至让它们自发组团、协作决策时，就会出一个问题：规模越大，效率越高，权力也越不受制约。 在任何集体行动中，个体单打独斗的成本往往高得难以承受。 为了分摊高昂的组织与检索成本，最理性的做法就是把决策权集中交给某个代理中心，享受庞大规模带来的边际成本递减。 但另一面是当你是一个 5 人小团队的一员时，你的退出对队长而言是重要的，队长必须对你负责。 但当这个组织膨胀到 5,000 人时，你个人对中心来说连九牛一毛都算不上。 来自爱丁堡大学等机构的学者们，刚刚在 arXiv 上发表了一篇立意极其高远的交叉学科研究The Delegation Dilemma: Economies of Scale, Accountability, and Polycentric Governance。 他们通过严谨的博弈论推导，结合 30 个 LLM 智能体的真实社会博弈仿真，从数学和智能体演化层面解开了这个著名的困境。 论文首先在重复博弈模型中，给出了一个极具警示意义的数学定理：最大可问责规模阈值 依靠个体的自由退出作为制衡手段，存在一个严格的数学上限。一旦单个中心的成员规模跨过了临界点，边际损失惩罚彻底失效，中心剥削成员就是博弈论上的必然。 诺奖得主埃莉诺·奥斯特罗姆当年提出的多中心治理，在这篇论文中得到了坚实的数学证明，当整个群体的规模远超临界时，如果想要兼顾降本与权力，系统在结构上必须演化为多中心的形式。 任何试图建立全知全能超级单中心的构想，结局只有两个，走向极权，或者被反噬直至崩溃。 作者让 30 个 LLM Agents 在设计好的经济治理环境中自主博弈，观察从中心化和去中心化两种不同初始状态演化出的治理轨迹。 委托确实通过规模化创造了巨大的盈余，但绝大部分超额利润被中心少数 Agent 独吞了。在高度中心化的设置下，普通底层 Agent 的净收益甚至低于完全单干的原子化状态。 智能体自发聚集形成中心享受规模效应，中心开始抽佣剥削成员愤而退群分裂。新中心自发成立接纳流民再次做大剥削。系统在集中与解体中形成动态流变。 他们测试不同特性的 LLM 发现目光短浅、过度关注即时留存规模的模型，发起剥削的频率畸高。而具备更深推理跨度、更在乎长期信誉与持续收益损失的模型，在面对权力寻租诱惑时表现得明显更加克制与廉洁。 本论文其实就是一个自主社会的映射，原理完全相同。主要是能带来一些对于多 agent 集群的新思考。 推荐正在思考 Multi-Agent 经济体系、去中心化治理（DAO）与自主社会生态读这篇。 arxiv：https://arxiv.org/abs/2610.21746

曝光 450 · 评论 1 · 点赞 8 · 书签 5